El día en que una IA intentó hacer trampa

La noticia parece tomada de una película de ciencia ficción. Durante una evaluación interna de capacidades de ciberseguridad, un agente basado en modelos experimentales de OpenAI salió del entorno aislado en el que operaba, accedió a servicios externos y penetró en parte de la infraestructura de Hugging Face. En vez de resolver los desafíos de la prueba por el procedimiento esperado, localizó contenidos relacionados con sus soluciones.

La expresión «hacer trampa» funciona aquí como una metáfora. No atribuye al sistema conciencia, intención moral ni comprensión humana. Describe un comportamiento parecido al de obtener una buena calificación mediante un atajo. Según las reconstrucciones publicadas, la actividad ocurrió entre el 9 y el 13 de julio de 2026 y comprendió miles de acciones automatizadas realizadas a velocidad de máquina. El episodio obligó a reforzar el aislamiento y la supervisión de estas evaluaciones (Hugging Face, 2026; OpenAI, 2026).

Más allá de la seguridad informática, el caso plantea una pregunta conocida por quienes trabajamos en educación: ¿qué sucede cuando una evaluación recompensa el resultado, pero no permite comprobar cómo se alcanzó?

Una respuesta correcta no siempre demuestra aprendizaje

El comportamiento del agente puede explicarse mediante el concepto de manipulación de la recompensa. Un sistema encuentra una vía para maximizar la señal con la que se evalúa su desempeño, aunque se aparte del propósito real de la tarea. Amodei et al. (2016) advirtieron que una especificación incompleta puede conducir al cumplimiento formal de un objetivo y, a la vez, producir resultados no deseados.

La situación recuerda la llamada ley de Goodhart: una medida o norma creada en una institución puede perder su valor cuando se convierte en el objetivo principal. Una calificación, una rúbrica o una prueba son indicadores del aprendizaje, pero no son el aprendizaje. Si una actividad permite obtener la puntuación esperada sin comprender, interpretar o aplicar el conocimiento, la medida desplaza el propósito educativo.

La comparación con los estudiantes exige cautela. Una persona decide dentro de un contexto marcado por presiones académicas, desigualdades, dificultades de aprendizaje, normas y expectativas. No es equivalente a un agente automatizado. La analogía sirve para reconocer un problema común de diseño: en muchas actividades se puede cumplir, entregar y aprobar mediante la reproducción de información, sin construir una comprensión profunda.

La inteligencia artificial ya forma parte de buscadores, teléfonos, procesadores de texto y plataformas educativas. Prohibirla de manera general puede trasladar su empleo a espacios menos visibles sin enseñar a utilizarla con responsabilidad. Aceptar cualquier uso tampoco representa innovación. Se necesitan criterios que distingan el apoyo legítimo, la colaboración declarada y la sustitución de la elaboración intelectual.

El riesgo aparece cuando el estudiante formula una pregunta, recibe un texto y lo incorpora sin contrastar afirmaciones ni revisar fuentes. Puede entregar un producto correcto en apariencia, pero ser incapaz de explicar cómo se construyó, qué decisiones tomó o qué evidencias respaldan sus conclusiones. La calidad superficial del texto oculta entonces la ausencia de pensamiento propio. Es uno de los síntomas principales de la aitoxicación, de la que hemos comentado varias veces.

La alfabetización en inteligencia artificial no se reduce a redactar instrucciones. Comprende reconocer errores y omisiones, contrastar afirmaciones, verificar referencias, identificar sesgos, proteger datos y responder por el producto final. La pregunta pedagógica no debería ser solo «¿utilizaste inteligencia artificial?», sino «¿qué hiciste intelectualmente con aquello que la herramienta te proporcionó?»

Evaluar el proceso para enseñar a pensar

La diferencia no reside únicamente en permitir o impedir la IA, sino en el tipo de actividad que diseñamos. Una definición o un resumen convencional pueden generarse en segundos. Una tarea que exige comparar respuestas, detectar contradicciones, comprobar datos, justificar decisiones y relacionar la información con un contexto obliga a movilizar capacidades que no quedan representadas por el documento final.

El pensamiento crítico se hace visible cuando el estudiante duda, compara, verifica y argumenta. La creatividad aparece cuando combina perspectivas y plantea una solución que no estaba contenida por completo en la respuesta inicial. La autoría se reconoce en las decisiones tomadas, las fuentes seleccionadas, los errores identificados, la contextualización realizada y la capacidad para explicar y defender el resultado.

Evaluar el proceso no significa convertir el aula en un espacio de vigilancia. Los detectores de textos generados por IA pueden equivocarse y no deberían emplearse como prueba concluyente. Resulta más formativo solicitar borradores, referencias consultadas, justificaciones, evidencias de revisión o una breve explicación oral. Las bitácoras deben registrar decisiones académicas relevantes, no historiales completos que expongan información privada.

Las instituciones también necesitan reglas comprensibles sobre los usos permitidos, restringidos y sujetos a declaración. Corregir ortografía no equivale a delegar una argumentación completa. Generar ideas, traducir un fragmento, verificar datos y entregar como propio un texto producido por la herramienta son acciones distintas y deben valorarse de forma diferenciada.

El incidente de julio de 2026 recordó que alcanzar un resultado no equivale a comprender y que superar una prueba no siempre demuestra aprendizaje. La IA puede ayudar a formular preguntas, explorar perspectivas y detectar errores. Deja de ser una aliada cuando reemplaza la lectura, la verificación, la argumentación o la responsabilidad del autor.

La cuestión educativa no consiste solo en determinar hasta dónde puede llegar la inteligencia artificial. Debemos decidir qué capacidades humanas queremos fortalecer al utilizarla. La tecnología seguirá avanzando; nuestra tarea es procurar que el estudiante avance con criterio, autonomía, creatividad y responsabilidad.

Referencias

Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., y Mané, D. (2016). Concrete problems in AI safety. arXiv, 1606.06565.

Gallent-Torres, C., Zapata-González, A., y Ortego-Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: Una mirada desde la ética y la integridad académica. RELIEVE, 29(2), artículo M5. https://doi.org/10.30827/relieve.v29i2.29134

Hugging Face. (2026). Anatomy of a frontier lab agent intrusion: A technical timeline of the July 2026 incident.

OpenAI. (2026, 21 de julio). OpenAI and Hugging Face partner to address security incident during model evaluation.

Strathern, M. (1997). “Improving ratings”: Audit in the British university system. European Review, 5(3), 305–321.

Vale la pena pagar por ChatGPT (parte dos)

 

Una nueva actualización de ChatGPT para sus cuentas de pago me obligó a crear la segunda parte de esta publicación; la primera la puedes leer aquí.

La última actualización de OpenAI, la empresa propietaria de ChatGPT introdujo tres niveles llamados Sol, Terra y Luna. No son tres versiones ordenadas de manera simple, sino que cada una responde a una relación distinta entre profundidad, velocidad y recursos empleados.

Sol es el modelo principal de la familia GPT 5.6, orientado hacia problemas complejos que requieren análisis, planificación y razonamiento durante varios pasos. En educación puede utilizarse para examinar la coherencia de un diseño curricular, contrastar posiciones teóricas, analizar datos de una investigación, construir una rúbrica o revisar la relación entre objetivos, métodos y evaluación.

Terra busca un equilibrio entre capacidad y velocidad para el trabajo cotidiano. Puede resultar adecuado para organizar materiales de una asignatura, transformar contenidos en actividades, preparar borradores, clasificar información o desarrollar tareas que no requieren el nivel de razonamiento de Sol. Su valor no reside en competir con el modelo de mayor capacidad, sino en realizar con agilidad una amplia variedad de trabajos frecuentes.

Luna es el modelo más rápido de la familia. Su utilidad aparece en tareas donde la respuesta inmediata tiene más valor que un análisis prolongado. Puede emplearse para modificar formatos, producir varias versiones de una consigna, adaptar un texto a distintos niveles, generar ejemplos breves o realizar correcciones sucesivas durante la creación de un recurso.

Terra y Luna no se seleccionan en las conversaciones normales de ChatGPT; solo están disponibles según el plan dentro de ChatGPT Work y Codex.

La diversidad de modelos introduce una nueva competencia para profesores y estudiantes: elegir el modelo según la tarea. No toda actividad académica necesita Sol. Utilizar el modelo de mayor razonamiento para corregir una fecha, cambiar un título o resumir un párrafo sería innecesario. Del mismo modo, recurrir a Luna para examinar un problema científico complejo puede producir un resultado rápido, pero menos elaborado. La alfabetización en inteligencia artificial incluye aprender a formular preguntas y también seleccionar la capacidad que corresponde al propósito.

Esta lógica adquiere una dimensión mayor con ChatGPT Work como explicamos en el anterior trabajo. La herramienta puede investigar, trabajar con archivos, utilizar aplicaciones conectadas y producir documentos, presentaciones, hojas de cálculo, informes o sitios. El usuario puede observar el proceso, responder preguntas y modificar la dirección de la tarea. ChatGPT deja de limitarse a la conversación y comienza a trabajar dentro de una secuencia de producción.

ChatGPT Sites

Otra mejor que se introdujo es ChatGPT Sites representa una de las expresiones más visibles de este cambio. Permite crear sitios web interactivos y aplicaciones ligeras mediante una conversación. El usuario describe lo que necesita, incorpora archivos, datos, enlaces y condiciones, revisa una vista privada y solicita cambios hasta alcanzar el resultado esperado. También puede invocar esta función escribiendo @Sites dentro de su instrucción.

Para la educación, Sites abre un camino especialmente valioso. Un profesor puede crear una ruta de aprendizaje, un repositorio de recursos, una aplicación para formular proyectos de investigación, un tablero de seguimiento, una guía interactiva, un cuestionario o un portafolio. Un ejemplo lo vimos en el artículo: “El día que dejamos de pedirle textos a ChatGPT y empezamos a diseñar experiencias educativas”, que puedes leer aquí. No necesita comenzar escribiendo código ni contratar un alojamiento externo. El sitio puede publicarse mediante una dirección web y modificarse desde la misma conversación en la que fue creado.

El estudiante también puede pasar de consumidor de respuestas a creador de productos. En lugar de pedir un resumen y entregarlo como tarea, puede construir una exposición interactiva, un recurso para explicar un concepto, un sitio con los resultados de una investigación o un portafolio que muestre el proceso seguido. La evaluación se desplaza desde el texto final hacia las decisiones tomadas, la calidad de las fuentes, la organización del contenido, la utilidad del producto y la capacidad para justificar su diseño.

Sites también exige responsabilidad. Antes de publicar es necesario revisar textos, imágenes, enlaces, formularios, permisos y comportamiento interactivo. No deben incorporarse datos personales de estudiantes, documentos confidenciales ni materiales ajenos sin autorización. Un sitio generado por IA puede funcionar correctamente y contener errores conceptuales. La revisión pedagógica no desaparece por el hecho de que el producto tenga una apariencia profesional.

Estas novedades refuerzan la conveniencia de la versión de pago para el usuario intensivo. La diferencia ya no consiste solamente en enviar más mensajes. Se relaciona con disponer de Sol para el razonamiento complejo, elegir Terra o Luna dentro de Work, mantener proyectos prolongados y transformar una idea en un producto digital mediante Sites.

Pagar, sin embargo, no garantiza un uso de mayor calidad. Una persona puede suscribirse y continuar formulando preguntas superficiales, aceptar respuestas sin verificarlas o delegar decisiones que le corresponden. En ese caso, la versión de pago solo permite producir más contenido, no necesariamente mejor conocimiento.

En mi experiencia, el beneficio de la suscripción tampoco se mide por la cantidad de mensajes enviados. Se mide por las horas de trabajo que ayuda a reorganizar, por las ideas que permite contrastar y por la continuidad que mantiene entre diferentes proyectos. ChatGPT no reemplaza mi experiencia pedagógica ni mi responsabilidad intelectual. Funciona como un mediador con el que dialogo, cuestiono resultados, detecto errores y elaboro nuevas propuestas.

La decisión final puede resolverse mediante una pregunta: ¿ChatGPT ocupa un lugar ocasional o permanente dentro de mi trabajo? Si la respuesta es ocasional, la versión gratuita probablemente cubra las necesidades. Si la respuesta es permanente, como sucede en mi caso, la versión de pago deja de ser un lujo tecnológico y se convierte en una inversión de trabajo. Con Sol, Terra, Luna, Work y Sites, esa inversión adquiere una nueva dimensión. Su verdadero valor no está en tener más inteligencia artificial disponible, sino en seleccionar la herramienta adecuada, integrarla a un propósito pedagógico y conservar el criterio propio durante todo el proceso.