En 2024, la Universidad Católica Australiana acusó a cerca de 6.000 estudiantes de mala conducta académica, y en más del 90% de los casos la sospecha estaba relacionada con el uso de inteligencia artificial para hacer trampa. Lo curioso es que estas acusaciones fueron emitidas utilizando una IA, que cometió varios errores en el proceso.
Este episodio refleja bien que la IA todavía no es una herramienta completamente confiable. A menudo produce resultados incorrectos o confusos, algo que ya hemos visto en distintas situaciones. La universidad australiana no es la única que ha recurrido a la IA para detectar este tipo de conductas; es una práctica común que ha generado controversia. En realidad, los sistemas que supuestamente detectan textos generados por IA también funcionan con inteligencia artificial, y por ahora todavía tienen limitaciones importantes.
El software que usó la universidad, Turnitin, es conocido desde 1997 por detectar plagios en entornos educativos. En 2023 incorporó una función para identificar textos creados por IA, y fue esta herramienta la que emplearon. Sin embargo, la misma empresa advierte que este detector no es infalible y no debe usarse como única prueba para acusar a alguien. A pesar de esto, según un informe de ABC Australia, la universidad basó sus acusaciones exclusivamente en los resultados de esta IA.
Desde la universidad explicaron que las acusaciones incluían trabajos generados totalmente por IA, referencias falsas creadas por la IA y el uso de estas herramientas para citar o traducir contenido. Tras investigar, retiraron al menos un cuarto de las acusaciones y desestimaron aquellas basadas únicamente en la prueba del detector. Además, en marzo de este año dejaron de usar ese software.
Este caso pone en evidencia el dilema que enfrentan las instituciones educativas con la llegada de la inteligencia artificial. Hay quienes piden prohibir su uso, mientras que otros abogan por integrarla y fomentar un empleo responsable y ético. La UNESCO, por ejemplo, publicó una guía para el uso de IA en la educación que establece normas sobre privacidad, edad mínima y un enfoque ético para proteger a estudiantes y docentes.
