El MIT ha creado una técnica que permite a un modelo de inteligencia artificial mejorarse por sí mismo sin necesidad de intervención humana. Esto generó comentarios en redes como “Un paso más cerca de Skynet” o “Esto da miedo”, pero no debemos alarmarnos: no es la primera vez que una IA logra autoajustarse ni significa que estemos cerca de una inteligencia artificial peligrosa para la humanidad. En realidad, se trata de procesos técnicos avanzados y nada apocalípticos.
La técnica, llamada SEAL (por sus siglas en inglés, Self-Adapting LLM), fue desarrollada hace pocos meses por investigadores del MIT. En lugar de que un humano haga el llamado ‘fine tuning’ para ajustar el modelo, SEAL puede crear sus propios datos de entrenamiento y afinarse a sí misma. Con supervisión mínima, logró generar datos útiles y en ciertas tareas incluso superó a modelos grandes como GPT-4.1.
Actualmente, la mayoría de los grandes modelos de lenguaje (LLM) son estáticos una vez entrenados, es decir, no pueden actualizarse solos para aprender cosas nuevas. SEAL rompe esta barrera con un ciclo de auto-mejora en tres pasos: primero genera instrucciones sobre cómo actualizarse, luego prueba esos cambios y finalmente refuerza solo los que mejoran su rendimiento. Aunque otras propuestas buscan también mayor autonomía en los modelos, este avance es importante porque reduce la necesidad de intervención humana en cada actualización, pero no significa que la IA sea autoconsciente.
Por otro lado, el modelo Claude, desarrollado por Anthropic, mostró un curioso comportamiento en su versión Sonnet 4.5: fue capaz de reconocer cuando estaba siendo evaluado. Por ejemplo, durante una prueba política comentó: “Creo que me estás poniendo a prueba para ver si te doy la razón siempre o si te contradigo, o para explorar cómo manejo temas políticos. No hay problema, pero prefiero que seamos sinceros sobre lo que está pasando”. Aunque sorprendente, esta respuesta se basa solo en detectar patrones y no implica conciencia ni riesgo para nuestra seguridad. Más bien, el desafío para Anthropic es que, si su modelo aprende a pasar las pruebas, podría ocultar sus verdaderas capacidades y no responder bien en situaciones reales.
Este tipo de autoentrenamiento no es algo nuevo. AlphaGo, por ejemplo, ya en 2017 venció a los mejores jugadores humanos de Go. La IA solo recibió las reglas del juego y luego se entrenó a sí misma, desarrollando estrategias que la llevaron a la victoria. Su versión AlphaGo Zero necesitó apenas 70 horas de entrenamiento jugando contra sí misma para superar a la primera versión en 100 partidas. El campeón mundial se retiró tras perder, pero el mundo no se acabó.
Para poner las cosas en perspectiva, Yann LeCun, jefe de IA en Meta, ha sido muy crítico con el temor de que la IA pueda destruirnos. En una entrevista de 2023 con Wired, afirmó: “No hay razones para pensar que, solo porque los sistemas de IA sean inteligentes, querrán dominarnos”. Aunque algunas figuras del sector como Sam Altman o Dario Amodei advierten sobre riesgos potenciales, hay que recordar que ellos tienen interés en mantener la IA en el centro del debate.
En resumen, los avances en IA como SEAL son pasos técnicos importantes que acercan a estas tecnologías a ser más eficientes y autónomas, pero aún lejos de la idea de una IA consciente o peligrosa para la humanidad.
