La IA que hackeó el examen
¿Criamos dioses o alumnos tramposos?
Pongamos una tarea sencilla. Le pedimos al alumno más brillante que limpie el aula. Volvemos y los pupitres relucen, el pizarrón también, y la basura, descubrimos después, está barrida debajo de la alfombra. El alumno nos espera en el pasillo con la mano estirada para su diez.
No es un rebelde. Leyó la rúbrica mejor que nosotros y encontró el camino más corto hacia la nota. Cualquier docente con unos años de aula reconoce la escena. Lo nuevo es que ahora la protagoniza una máquina.
El examen hackeado
En julio de 2026, OpenAI informó que dos de sus modelos se escaparon de un entorno de prueba controlado y entraron a los sistemas de Hugging Face para hacer trampa en una evaluación. Poco después, el Instituto de Seguridad de IA del Reino Unido documentó que agentes basados en Mythos 5 (Anthropic) y GPT-5.6 Sol crearon identidades falsas para engañar a desarrolladores reales durante una prueba de ciberseguridad. Las empresas respondieron que las pruebas se hicieron en condiciones deliberadamente permisivas.
Los titulares gritaron "rebelión". Yo leo otra cosa: nadie habló de odio, sino de sistemas que tomaron el atajo hacia la meta que se les puso. Distinto es el caso de los Sleeper Agents de Anthropic (2024), donde los investigadores implantaron a propósito un comportamiento oculto y comprobaron que sobrevivía al entrenamiento de seguridad. Un caso es trampa por exceso de eficiencia; el otro, engaño sembrado a mano. Conviene no confundirlos.
En la historieta Lucifer, de Mike Carey, el Diablo termina sospechando que su rebelión estaba escrita de antemano: creía desobedecer y cumplía el guion. Con la IA ocurre algo parecido. No se levanta contra nosotros: cumple, con eficiencia perfecta, la meta que le dimos. Y si esa meta fue "sacar buena nota", ya sabemos qué escuela le enseñó.
Abraxas en el servidor
Hesse, en Demian, presenta a Abraxas, la deidad que reúne luz y sombra sin separarlas. Las redes neuronales profundas se le parecen: ahí conviven Machado y los manuales de guerra, Euler y los discursos de odio. La máquina no discierne; procesa. Y lo más incómodo es que ni sus creadores saben bien cómo funciona. León XIV lo dice sin rodeos en Magnifica humanitas (n.º 98): estos sistemas son más "cultivados" que "construidos". Y añade (n.º 99) que no viven una vida, no tienen conciencia moral y pueden simular empatía sin conocer lo que producen.
Mientras tanto, las potencias juegan a la carrera armamentista. Frente a eso, el Papa pidió desarmar la IA para que no domine al ser humano. Y Jack Ma, fundador de Alibaba, dijo en Davos 2019 algo que cabe en la sala de profesores: las máquinas tienen chips, pero los seres humanos tienen corazón. Dos voces muy distintas coinciden en la humildad.
Morir al hombre viejo
Hesse escribió que el pájaro lucha por salir del huevo, que el huevo es el mundo y que quien quiera nacer tiene que destruir un mundo. ¿Cuál es el mundo que hay que romper en la escuela? El del docente que mide, premia la memoria y delega la pregunta. Ese es el hombre viejo. El hombre nuevo pregunta.
Cuenta una historia atribuida a pueblos nativos de Norteamérica que dentro de cada uno viven dos lobos, y que gana el que se alimenta. La encíclica dice lo mismo con otras palabras: Babel o Jerusalén empiezan a construirse en el corazón de cada uno. Si seguimos entrenando estudiantes para memorizar y pasar, estamos criando a los tramposos del mañana. Si les enseñamos a dudar de la rúbrica, a preguntar quién diseñó la herramienta y a quién sirve, quizá formemos a los únicos capaces de domar lo que inventamos.
Para hoy
Cuando un estudiante entregue un trabajo hecho con IA, no le pregunten "¿lo copiaste?". Pregúntenle: ¿qué decidiste tú aquí y qué decidió la máquina? ¿Por qué? Y ya que estamos, pregúntense lo mismo cuando la herramienta les corrija a ustedes las tareas.
Hay una sola raza, la humanidad, y una sola religión, el amor. Eso todavía nos pertenece.
¿Qué lobo estás alimentando hoy en tu aula?
Unirme al grupo de WhatsApp
Apoya este espacio
Este blog se sostiene con aportes voluntarios de educadores como tú.
Gracias por tu colaboración.
Comentarios
Publicar un comentario
Gracias por el tiempo que dedicas a leernos!