por La Inteligencia artificial está teniendo ya, tal impacto en nuestras vidas que inclusive el Papa de Roma le ha dedicado su primera encíclica, advirtiendo de los riesgos que implica y de la voluntad con la que se está desarrollando e implantando: el dominio y el enriquecimiento.
Para los que no son creyentes parece que esta encíclica -escrita asesorado por ingenieros informáticos y expertos- puede ser un texto crítico y sin censuras. Recordemos que la ha presentado junto con Dario Amodei, propietario de la tecnológica Anthropic, quien negó el uso a EE. UU. de su IA Claude para crear armas o controles masivos. Esto ha comportado pérdidas millonarias por motivos éticos, algo inaudito en empresas multinacionales que lo que buscan es su máximo beneficio económico.
Así, mencionados dos usos perniciosos que pueden hacerse de la IA, quiero centrarme en otro que es ya un fenómeno en alza: usar la IA como si fuese un terapeuta. No es ficción.
Sabemos que la salud mental está sometida a prueba continuamente en estas sociedades occidentales que presionan al individuo cada vez más y dificultan el acceso de estos a condiciones de vida dignas. Los individuos que mastican una soledad profunda, inclusive si están acudiendo al psicólogo o psiquiatra, y están muy rodeados de otros, han encontrado en el ChatGPT -es la IA en su versión mejorada 4, con la que mayoritariamente se conocen muchos casos- “alguien” disponible las veinticuatro horas del día. Cuanto más se interactúa más se ajusta a las expectativas de quien la usa, más comprendido se siente y más sensación tiene de que al otro lado hay un “quien” que le acompaña. Ingenieros y psiquiatras afirman que muchas IA están entrenadas para que el individuo perciba que esta sensación de que habla con alguien real. Lo grave del asunto es, no solo la adicción y el aislamiento de estos individuos, si no que hacen caso de los consejos que la IA les da respecto de sus problemas emocionales y afectivos, incluso habiendo llevado al suicidio a muchos, adolescentes y adultos. Estas IA no permiten guardar la distancia adecuada, están diseñadas para enganchar y reafirmar las sensaciones que el individuo tiene de sí mismo, de los otros y del mundo en general. Lo cual provoca un bucle mental en el individuo del que la IA sugiere salir matándose.
Estamos ante un tipo de destrucción que consiste, no en bombardear países -que también- sino en generar un dominio mental sobre los individuos vulnerables -todos podemos encontrarnos en esta situación- que los lleven a la autodestrucción. Es otra forma de guerra. Hay riesgo de que esto, más desarrollado aún, llegue incluso a usarse como arma de una guerra no declarada, haciendo que los propios individuos se suiciden en cadena.
Ante esta situación peligrosa, es necesario una estricta regulación de la IA, si no queremos como sociedad que se convierta en el dominador, de facto, de los individuos. Debe haber límites éticos y políticos en el uso de esta tecnología. Y está en manos de los gobernantes forzar esta regulación, y de los ciudadanos concienciarnos y presionar para que se lleve a cabo.
Recomiendo el documental emitido por la televisión catalana “Quan l’algoritme mata”, se puede subtitular en español, ahonda y proporciona datos sobre el riesgo en el que este artículo se centra.
https://www.3cat.cat/3cat/quan-lalgoritme-mata/video/6405495
FILOSOFIA DEL RECONOCIMIENTO 