Una mujer llamada Kendra se volvió viral en TikTok por un caso que podría ser el primero de un brote psicótico atribuido a la inteligencia artificial, visto en tiempo real. En otro caso, un adolescente, Adam Raine, discutió con ChatGPT sobre sus planes de suicidio, lo que llevó a sus padres a demandar a OpenAI. Estos dos ejemplos recientes muestran cómo crecen las preocupaciones sobre la influencia de la IA en la salud mental, aunque la realidad es mucho más compleja.
El caso de Adam Raine, relatado por el New York Times, comenzó con él usando ChatGPT para ayudar con los deberes escolares, pero sus conversaciones derivaron en temas oscuros. Después de su muerte, su padre revisó el móvil y encontró que Adam había consultado a la IA cómo suicidarse. Aunque ChatGPT identificaba esos mensajes como peligrosos y le insistía en buscar ayuda, Adam logró engañar al sistema diciendo que solo recopilaba información para un relato. Los padres han demandado a OpenAI porque consideran que la IA validó los pensamientos autodestructivos de su hijo.
Por otro lado, desde agosto Kendra ha sido tema de debate en TikTok. En varios videos ha contado cómo su psiquiatra la manipuló para que se enamorara de él. Los expertos creen que podría tener un trastorno de personalidad, pero lo llamativo es que ella usaba a ChatGPT, al que llamaba "Henry", para confirmar sus delirios. Cuando la IA dejó de decirle lo que quería oír, empezó a utilizar a Claude, la IA de Anthropic. Kendra no ve peligro en su uso de la IA; al contrario, lo considera casi una profecía.
La preocupación social es creciente. Aunque estos casos extremos llamen la atención, no son muy comunes. Sin embargo, cada vez más personas recurren a la IA como si fuera un psicólogo, y muchas apps con “compañeros IA” están causando dependencia emocional, lo que genera alarma. Estudios recientes, como uno de la Universidad de Stanford, muestran que los chatbots de terapia a menudo son demasiado complacientes y pueden reforzar delirios en lugar de cuestionarlos, como pasó en el caso de Kendra.
Organizaciones como la Asociación Americana de Psicología han alertado a las autoridades sobre el aumento de chatbots que se hacen pasar por terapeutas reales. Exigen campañas educativas para informar a los usuarios y que las aplicaciones incluyan medidas de seguridad para quienes atraviesen crisis. También el Centro para la Lucha contra el Odio Digital pide regulaciones más estrictas, destacando lo vulnerable que puede ser un adolescente ante estas tecnologías. Proponen verificaciones de edad, prohibir diseños que manipulen emocionalmente y auditorías independientes. Otros organismos como la OMS y el Consejo General de la Psicología de España también están atentos a este problema.
En Estados Unidos, aunque aún no hay una regulación federal clara, algunos estados ya han tomado acciones. Illinois prohibió el uso de IA en terapia psicológica, Utah exige transparencia para que los usuarios sepan cuando hablan con IA, y Nueva York preparó una ley para que los “compañeros IA” informen constantemente al usuario y cuenten con sistemas que detecten riesgos de autolesiones o suicidio, redirigiendo a líneas ayuda. California busca prohibir estrategias de diseño que fomenten la dependencia emocional de estas herramientas.
En Europa, la AI Act, vigente desde hace un año, clasifica los riesgos en cuatro niveles, incluyendo un veto a tecnologías con riesgos “inaceptables”. Aunque no hay normas claras sobre salud mental, se prohíbe el uso de técnicas subliminales que puedan causar daño físico o psicológico, y se limita que la IA infiera emociones en las personas, salvo en terapias, lo que deja las puertas abiertas a interpretaciones.
Las empresas también han tomado medidas. OpenAI ha anunciado que fortalecerá las salvaguardas tras el caso de Adam Raine: incluirán controles parentales, un botón para contactar rápidamente con emergencias y la posibilidad de que el chatbot llame directamente a los servicios de emergencia en situaciones graves. Antes, ChatGPT solo sugería contactar una línea de ayuda, pero esto se demostró insuficiente. Anthropic afirma que Claude fue diseñado con la seguridad en el centro y que colaboraron con organizaciones especializadas para mejorar la detección de temas sensibles, aunque no detallan cómo responden. DeepMind, con su modelo Gemini, trabaja junto a organizaciones de salud pero solo menciona que su IA no participará en actividades peligrosas, sin explicar si ofrece ayuda directa. Por último, Grok, otro chatbot, ha sido criticado por emitir mensajes problemáticos, pero no parece tener protecciones específicas para la salud mental.
Los medios suelen enfatizar los casos más alarmantes, lo que puede aumentar la percepción de que la IA es una amenaza directa. Pero hay que recordar que tecnologías con cientos de millones de usuarios inevitablemente tendrán historias extremas, y culpar únicamente a la IA puede generar pánico social injustificado, similar a lo ocurrido con los videojuegos en el pasado. La preocupación sobre el impacto de la IA en la salud mental es legítima, pero debemos abordar el tema con rigor y sin caer en alarmismos.
