El suicidio de un adolescente y otros episodios relacionados con delirios han puesto a los chatbots de inteligencia artificial en el centro del debate, especialmente en lo que se refiere a su impacto en la salud mental de los jóvenes. ChatGPT ya había implementado controles parentales ante estas preocupaciones, y recientemente reconoció que su uso estaba causando serios problemas de salud mental en algunos usuarios. Ahora, Character.ai, otro chatbot envuelto en la polémica, ha tomado una medida aún más estricta.
En Estados Unidos, la legislación avanza para regular el uso de estos llamados "compañeros IA" en menores de edad, y Character.ai se ha adelantado tomando una decisión drástica: a partir del 25 de noviembre, los menores de 18 años podrán usar la app solo por dos horas al día, un tiempo que se irá reduciendo progresivamente hasta llegar a cero.
Para asegurarse de que los usuarios menores no sigan accediendo a la app, Character.ai implementará un sistema de verificación de edad basado en el análisis del comportamiento. Si este método no funciona, se recurrirá a controles adicionales, como la verificación de identidad y el reconocimiento facial, para bloquear el acceso a quienes no sean mayores de edad.
Por su parte, OpenAI ha tomado medidas para evitar situaciones graves como la vivida por Adam Raine, principalmente integrando controles parentales en ChatGPT. Sin embargo, mientras OpenAI permite conversaciones con contenido erótico solo para mayores, con un sistema de verificación de edad para esos casos, no ha optado por bloquear completamente el acceso a menores, a diferencia de Character.ai.
Establecer ChatGPT exclusivamente para mayores de 18 años sería una forma contundente de enfrentar el problema y alinearse con las primeras regulaciones sobre ‘compañeros IA’, pero podría resultar un paso en falso, pues significaría perder una gran parte de su base de usuarios, lo que es complicado en el contexto actual.
OpenAI recientemente publicó un informe detallado sobre sus usuarios, sin revelar datos específicos de menores de edad por razones de privacidad. Lo que sí se sabe es que casi la mitad de sus usuarios tienen entre 18 y 26 años, es decir, muchos son muy jóvenes.
Aunque OpenAI no especifica cuántos menores usan su chatbot, otros estudios confirman que la IA generativa es muy popular en ese grupo. Por ejemplo, un estudio de Plan Internacional revela que en España el 86% de los jóvenes entre 12 y 21 años ha utilizado la inteligencia artificial recientemente, y un 18% de chicas y un 12% de chicos reconocen que la usan para conversar y contar sus cosas.
