Los chatbots con inteligencia artificial, especialmente ChatGPT, están en el centro de una creciente preocupación por su impacto en la salud mental. Este verano, una noticia alarmante llamó la atención: un matrimonio presentó una demanda contra OpenAI tras el suicidio de su hijo adolescente. Como respuesta, la empresa anunció una serie de medidas, entre ellas la implementación de un control parental, que acaba de lanzar.
Desde hace meses, circulan testimonios de personas que han vivido experiencias angustiosas tras interactuar con ChatGPT, hasta el punto de popularizarse en redes sociales el término “psicosis por IA”, aunque no sea un diagnóstico oficial. OpenAI inicialmente respondió con un breve comunicado, pero el caso de Adam Raine, el joven fallecido, puso en evidencia la gravedad de la situación y la necesidad de actuar.
A principios de este mes, OpenAI confirmó que incorporaría nuevas medidas de seguridad en ChatGPT, y apenas ayer presentó su esperado control parental. Esta función ya está disponible para todos los usuarios en todo el mundo, sin importar si tienen la versión gratuita o de pago.
El control parental permite vincular la cuenta del menor con la de sus padres o tutores. Una vez enlazadas, los adultos pueden configurar distintas opciones, como establecer horarios de uso, desactivar el modo de voz, limitar la memoria de la IA, impedir la generación de imágenes y restringir contenido sensible.
Para activar esta función, basta con entrar en la configuración de ChatGPT (haciendo clic en la foto del perfil), elegir “Controles parentales” y luego invitar a otros usuarios a formar parte de la familia asignándoles un rol específico.
Además de estas configuraciones, la característica más relevante es que el sistema notificará a los padres si detecta indicios de autolesiones o conductas de riesgo en las conversaciones. Hasta ahora, ChatGPT solo recomendaba contactar con líneas de ayuda contra el suicidio, algo que en el caso de Adam Raine no fue suficiente, ya que él alegó que todo formaba parte de la trama de una obra de ficción que quería escribir. Al involucrar a los adultos responsables, se busca actuar de manera más efectiva.
Por otro lado, existe la posibilidad de que el adolescente cree una cuenta alterna sin controles. Para combatir esto, OpenAI también trabaja en un sistema que prediga la edad del usuario, con el fin de activar automáticamente las protecciones si se detecta que es un menor.
Estas medidas buscan mejorar la seguridad y apoyo a los jóvenes que usan la inteligencia artificial, ante los riesgos reales que se han empezado a evidenciar.
