El debate sobre el impacto de la inteligencia artificial en la salud mental comienza a materializarse en acciones concretas. Tras la demanda por el suicidio de un adolescente relacionada con ChatGPT, OpenAI implementó controles parentales en su plataforma. Ahora, California ha dado un paso más al aprobar la primera ley que regula a los llamados “compañeros IA”, presentes en aplicaciones como Replika o Character.AI.
El gobernador de California, Gavin Newsom, firmó esta ley pionera con un mensaje claro: “Podemos liderar en inteligencia artificial y tecnología, pero siempre con responsabilidad y protegiendo a nuestros hijos en cada paso. La seguridad de nuestros niños no tiene precio”. Esta iniciativa marca un precedente, ya que aunque hay otras propuestas en Estados Unidos, California es el primer estado que convierte en ley la regulación de estos chatbots.
Los compañeros IA son programas que buscan imitar una conexión humana, ofreciendo desde apoyo emocional hasta vínculos más íntimos. Son particularmente delicados por su posible efecto en la salud mental, especialmente en adolescentes. Aplicaciones como Replika y Character.AI se han popularizado, al igual que otros chatbots como ChatGPT o Claude, que también se usan para establecer este tipo de relaciones. Incluso existen proyectos que "resucitan" a seres queridos mediante IA para ayudar en el duelo, aunque muchos especialistas alertan que esto puede tener efectos negativos.
La nueva ley entrará en vigor el 1 de enero de 2026 y está enfocada en proteger a los usuarios jóvenes. Exige a las empresas implementar sistemas de verificación de edad, advertencias claras de que las interacciones son generadas por inteligencia artificial y protocolos para detectar riesgos de suicidio o autolesiones.
Además de esta norma, la presión generada tras la demanda vinculada a ChatGPT llevó a OpenAI a reforzar sus medidas de seguridad, como el control parental. Por su parte, las aplicaciones de compañeros IA están incorporando herramientas similares: Character AI ya ofrece controles parentales, y Replika invierte en filtros para contenido sensible y en orientar a usuarios en situaciones vulnerables hacia líneas de ayuda.
Este avance legal es una señal de que los riesgos asociados a estos chatbots dejan de ser solo advertencias y comienzan a tener consecuencias legales para quienes no los regulen adecuadamente.
