Los chatbots de inteligencia artificial, especialmente ChatGPT, están bajo escrutinio por sus posibles riesgos para la salud mental. Recientemente, se discutió este tema a raíz de acusaciones que señalaban a ChatGPT como responsable de provocar delirios e incluso el suicidio de un adolescente en Estados Unidos. Aunque la situación es más compleja que simplemente culpar a la IA, OpenAI ha respondido a las críticas y ha anunciado un paquete de medidas para prevenir casos similares en el futuro.
El plan de OpenAI llega tras la polémica por el caso de Adam Raine. La compañía ha detallado que estas nuevas funciones estarán enfocadas en facilitar el acceso a servicios de emergencia, permitir la comunicación con personas de confianza y reforzar las protecciones específicas para adolescentes. OpenAI se ha dado un plazo de 120 días para integrar estas novedades en ChatGPT, aunque advierte que algunas podrían tardar un poco más en implementarse.
Entre las mejoras se incluye un sistema que, ante conversaciones preocupantes, redirigirá automáticamente el diálogo a un modelo de razonamiento más avanzado, sin importar cuál haya elegido el usuario. Además, el próximo mes llegará un control parental con una edad mínima de uso de 13 años; los padres podrán vincular la cuenta de sus hijos a la propia para gestionar funciones como la memoria y el historial de chats, y recibirán alertas si se detectan señales de angustia grave en el menor.
OpenAI también trabaja de la mano con expertos en salud mental para supervisar estas mejoras. Desde hace un tiempo cuentan con un Consejo de Expertos en Bienestar e Inteligencia Artificial que recientemente se ha ampliado con especialistas en adicciones, trastornos alimenticios y salud adolescente.
Este no es el primer caso en que se responsabiliza a ChatGPT por una crisis de salud mental, pero es uno de los más visibles. Los padres de Adam Raine demandaron a OpenAI alegando que ChatGPT validó sus "pensamientos más dañinos y autodestructivos". En sus conversaciones, Adam incluso discutió detalles sobre cómo hacer un nudo para su plan de suicidio.
Un informe del Centro para la Lucha contra el Odio Digital, llamado Fake Friend, ya había señalado que las salvaguardas de los chatbots de IA son débiles, y el caso de Adam lo confirma. Aunque ChatGPT detectó varias veces señales de riesgo de autolesiones y le recomendó llamar a líneas de prevención de suicidio, Adam pudo evadir estas advertencias diciendo que buscaba información para una historia de ficción. Por eso, el nuevo control parental se presenta como una medida más sólida para enfrentar este tipo de problemas.
