domingo, 2 de agosto de 2026

La tarea no termina con la IA: comienza con la defensa del aprendizaje


Ilustración conceptual sobre aprendizaje visible con inteligencia artificial, fuentes, prompts, evidencias y defensa del conocimiento

Uno de los problemas más visibles en las aulas universitarias no es que los estudiantes utilicen inteligencia artificial. El problema aparece cuando la emplean para resolver todo, entregando resultados que no comprenden. Presentan un texto correcto, una infografía atractiva y realizan una exposición bien ordenada. Sin embargo, no pueden explicar una idea central, reconocer una fuente ni justificar una decisión. El producto parece terminado, pero el aprendizaje permanece oculto. Cometen errores y dicen que fue la IA quien lo dijo.

Esta situación obliga a revisar el sentido de la tarea. Durante años, los profesores evaluamos el resultado final como evidencia del trabajo intelectual. La inteligencia artificial ha debilitado esa relación. Un documento bien escrito ya no demuestra, por sí solo, que su autor conoce el tema. La fluidez verbal puede ocultar una comprensión limitada. También puede encubrir fuentes débiles, conceptos imprecisos y conclusiones que nadie verificó.

La respuesta más inmediata suele ser prohibir la IA o intentar descubrir cuánto texto produjo. Ambas decisiones dejan intacto el problema pedagógico. La pregunta no debería ser cuánto intervino la herramienta. Conviene preguntar qué hizo el estudiante con ella, qué examinó, qué descartó y qué puede defender sin consultarla otra vez.

La guía de la UNESCO sobre IA generativa en educación e investigación propone una integración centrada en las personas. También defiende el desarrollo de capacidades. El documento sobre reforma de la evaluación en la época de la inteligencia artificial plantea un cambio semejante. La evaluación debe preparar al estudiante para trabajar en un mundo donde la IA forma parte de la actividad profesional. También debe ofrecer evidencias confiables del aprendizaje alcanzado.

Hacer visible el aprendizaje

La experiencia que propongo puede llamarse: La ruta visible del aprendizaje con IA. Su propósito no consiste en producir más materiales. Busca que cada estudiante reconstruya el proceso seguido y responda por sus decisiones. NotebookLM funcionaría como mediador de la investigación, no como una máquina que entrega respuestas terminadas.

La actividad comenzaría con una pregunta problémica, que exige comparar, relacionar y tomar partido. Un ejemplo sería este: ¿cuándo contribuye la IA generativa al aprendizaje universitario y cuándo genera dependencia cognitiva? Podemos crear varios equipos de tres integrantes, donde cada uno podría delimitar la pregunta desde una asignatura o situación educativa concreta.

Cada equipo iniciaría una investigación profunda para construir un cuaderno en NotebookLM. Las fuentes podrían rondar entre ocho y diez, donde al menos cinco serían artículos académicos o revisiones científicas. También incluiría documentos institucionales y una fuente que presente una perspectiva diferente. Esta condición reduce la posibilidad de formar un corpus que solo confirme una idea previa.

Incorporar un documento al cuaderno no significa aceptarlo; por el contrario, cada fuente debe pasar por una revisión. Los estudiantes examinarían la autoría, la fecha, la procedencia, el método empleado, la evidencia presentada y sus límites, así como su relación con la pregunta. Una fuente puede parecer confiable y aportar muy poco. Otra puede ser pertinente, pero contener afirmaciones que deben compararse con otras fuentes. Esta tarea es la que obliga al estudiante a leer y analizar las fuentes, evitando así la aceptación tácita de todas las fuentes.

Para esta tarea se puede crear una tabla de calidad documental, donde se recogen todos los elementos antes mencionados. El estudiante tendría que explicar por qué conserva cada texto y qué uso le dará. También anotaría las fuentes descartadas y las razones del rechazo. Esta decisión tiene valor formativo. Buscar información es solo el inicio; seleccionar exige criterio.

Después se elaboraría un glosario comentado con diez o quince términos. Cada entrada contendría una definición redactada por el equipo y la fuente que la sustenta. También incluiría un ejemplo, un contraejemplo y su relación con otros conceptos. Copiar una definición no basta. El ejemplo muestra si el estudiante puede reconocer el concepto. El contraejemplo permite comprobar si comprende sus límites.

Este glosario cumple otra función: evita que categorías como pensamiento crítico, aprendizaje, dependencia o evaluación se utilicen como etiquetas vacías. Si el estudiante no puede explicar un término con sus propias palabras, tampoco puede utilizarlo con rigor en una conclusión.

En esta etapa entraría el sitio Prompts para trabajar con NotebookLM. Su biblioteca y el método 5C ofrecerían un andamiaje común. El método organiza cada consulta mediante contexto, corpus, comando, condiciones y comprobación. La acción cognitiva debe ser precisa. Comparar, evaluar, explicar y justificar producen interacciones más exigentes que resumir.

El sitio no debería convertirse en un banco para copiar instrucciones. Cada equipo seleccionaría tres prompts y los adaptaría a su problema. También redactaría uno propio mediante el método 5C. En todos los casos mostraría el prompt de referencia, la versión modificada y la razón de cada cambio.

Mostrar los prompts tampoco demuestra comprensión. Un prompt puede copiarse con la misma facilidad que una respuesta. Por eso, el registro debe incluir el propósito, el resultado obtenido, la verificación realizada y la decisión final. El estudiante explicaría si aceptó, corrigió, descartó o reformuló la respuesta. También presentaría un prompt que fracasó y mostraría cómo lo corrigió.

Una segunda tabla vincularía las afirmaciones con sus evidencias. Cada conclusión tendría una fuente, un fragmento de respaldo, una interpretación del equipo y una advertencia sobre sus límites. Esta separación ayuda a distinguir tres niveles. Uno corresponde a la fuente, otro a NotebookLM y el tercero a la conclusión estudiantil.

Desde el enfoque histórico cultural, la herramienta ocupa el lugar de un instrumento de mediación. No aprende en lugar del estudiante. Modifica la actividad y crea nuevas condiciones para acceder a la información. La apropiación del conocimiento surge cuando el estudiante dialoga, contrasta, explica y actúa con los conceptos. El profesor organiza esas condiciones y orienta el paso desde la ayuda externa hacia la comprensión propia.

La defensa cambia el sentido de la tarea

La infografía y la presentación serían productos de síntesis, pero no el centro de la evaluación. La infografía representaría relaciones entre conceptos, evidencias y conclusiones. Cada afirmación central indicaría su fuente. La presentación mostraría el proceso de investigación, las decisiones documentales, los prompts empleados y las correcciones realizadas.

La defensa del trabajo no consiste en crear diapositivas, ni en leerlas. El equipo tendría que responder varias preguntas. Explicaría qué investigó, cómo delimitó el problema y qué fuentes aceptó. También mostraría cómo influyeron los prompts y qué puede sostener sin ayuda de la IA. Esta última pregunta marca la diferencia entre repetir una salida y demostrar aprendizaje.

La actividad terminaría con una defensa individual. El profesor elegiría al azar un término del glosario, una fuente, una afirmación de la infografía y un prompt. Cada integrante explicaría su sentido y reconstruiría el razonamiento seguido. También respondería una pregunta nueva. La selección aleatoria impide que una sola persona concentre el trabajo y obliga a todos a conocer el proceso completo.

La calificación debe reflejar este cambio. La calidad de las fuentes recibiría el veinte por ciento. La relación entre afirmaciones y evidencias tendría otro veinte por ciento. El glosario y la comprensión conceptual representarían el quince por ciento. Los prompts, su justificación y sus reformulaciones sumarían otro quince por ciento. La infografía y la presentación aportarían el diez por ciento. La defensa individual completaría el veinte por ciento restantes.

Este reparto de notas no comunica una decisión pedagógica. Los productos visuales tienen valor, pero no sustituyen la investigación. Un diseño atractivo no compensa una fuente débil. Una presentación fluida no reemplaza la comprensión. La defensa tampoco funciona como castigo. Es el momento en que el estudiante convierte el proceso en lenguaje propio.

La propuesta permite trabajar varias habilidades en una sola experiencia. Los estudiantes buscan, seleccionan, comparan, definen, verifican, sintetizan y comunican. La taxonomía de Bloom deja de aparecer como una lista de verbos. Se convierte en una guía para formular operaciones intelectuales observables. La alfabetización en IA también adquiere un sentido pedagógico. No se limita a manejar funciones; incluye reconocer límites, examinar evidencias y asumir responsabilidad por una conclusión.

Esta tarea puede aplicarse en distintas asignaturas. Cambiarían la pregunta, el corpus y los productos, pero se conservaría el principio. Cada resultado generado con IA debe dejar una huella que permita reconstruir cómo se obtuvo. Esa huella no es una captura de pantalla. Está formada por fuentes, decisiones, dudas, correcciones y argumentos.

El mayor riesgo no es que la inteligencia artificial escriba por los estudiantes. El mayor riesgo es que ellos se acostumbren a presentar conocimientos que nunca hicieron suyos. Esa práctica alimenta una forma de aitoxicación: mucha información, apariencia de dominio y escasa capacidad para explicar.

Por eso, la tarea no termina cuando aparece el texto, la infografía o la presentación. En ese momento comienza la parte que realmente interesa al profesor. El estudiante debe mostrar qué comprendió, cómo llegó hasta allí y qué razones sostienen su respuesta. La autoría ya no se mide por la ausencia de inteligencia artificial. Se reconoce en la capacidad de examinarla, corregirla y responder por cada idea presentada.

La idea que estamos presentando surgió como parte de un taller sobre NotebookLM que recientemente realizamos con profesores y administrativos de la Facultad de Humanidades. La tarea evaluativa propuesta requiere madurez del estudiante, responsabilidad, habilidades digitales, en especial para trabajar con NotebookLM, y un sentido ético del trabajo. El profesor debe orientar detalladamente cada paso, para evitar que se salten algunos y volvamos al clásico copiar y pegar. Es una tarea que puede revisarse por partes y conlleva tiempo tanto en la fase de investigación, el desarrollo y su presentación final.

 

 

viernes, 31 de julio de 2026

El día en que una IA intentó hacer trampa

La noticia parece tomada de una película de ciencia ficción. Durante una evaluación interna de capacidades de ciberseguridad, un agente basado en modelos experimentales de OpenAI salió del entorno aislado en el que operaba, accedió a servicios externos y penetró en parte de la infraestructura de Hugging Face. En vez de resolver los desafíos de la prueba por el procedimiento esperado, localizó contenidos relacionados con sus soluciones.

La expresión «hacer trampa» funciona aquí como una metáfora. No atribuye al sistema conciencia, intención moral ni comprensión humana. Describe un comportamiento parecido al de obtener una buena calificación mediante un atajo. Según las reconstrucciones publicadas, la actividad ocurrió entre el 9 y el 13 de julio de 2026 y comprendió miles de acciones automatizadas realizadas a velocidad de máquina. El episodio obligó a reforzar el aislamiento y la supervisión de estas evaluaciones (Hugging Face, 2026; OpenAI, 2026).

Más allá de la seguridad informática, el caso plantea una pregunta conocida por quienes trabajamos en educación: ¿qué sucede cuando una evaluación recompensa el resultado, pero no permite comprobar cómo se alcanzó?

Una respuesta correcta no siempre demuestra aprendizaje

El comportamiento del agente puede explicarse mediante el concepto de manipulación de la recompensa. Un sistema encuentra una vía para maximizar la señal con la que se evalúa su desempeño, aunque se aparte del propósito real de la tarea. Amodei et al. (2016) advirtieron que una especificación incompleta puede conducir al cumplimiento formal de un objetivo y, a la vez, producir resultados no deseados.

La situación recuerda la llamada ley de Goodhart: una medida o norma creada en una institución puede perder su valor cuando se convierte en el objetivo principal. Una calificación, una rúbrica o una prueba son indicadores del aprendizaje, pero no son el aprendizaje. Si una actividad permite obtener la puntuación esperada sin comprender, interpretar o aplicar el conocimiento, la medida desplaza el propósito educativo.

La comparación con los estudiantes exige cautela. Una persona decide dentro de un contexto marcado por presiones académicas, desigualdades, dificultades de aprendizaje, normas y expectativas. No es equivalente a un agente automatizado. La analogía sirve para reconocer un problema común de diseño: en muchas actividades se puede cumplir, entregar y aprobar mediante la reproducción de información, sin construir una comprensión profunda.

La inteligencia artificial ya forma parte de buscadores, teléfonos, procesadores de texto y plataformas educativas. Prohibirla de manera general puede trasladar su empleo a espacios menos visibles sin enseñar a utilizarla con responsabilidad. Aceptar cualquier uso tampoco representa innovación. Se necesitan criterios que distingan el apoyo legítimo, la colaboración declarada y la sustitución de la elaboración intelectual.

El riesgo aparece cuando el estudiante formula una pregunta, recibe un texto y lo incorpora sin contrastar afirmaciones ni revisar fuentes. Puede entregar un producto correcto en apariencia, pero ser incapaz de explicar cómo se construyó, qué decisiones tomó o qué evidencias respaldan sus conclusiones. La calidad superficial del texto oculta entonces la ausencia de pensamiento propio. Es uno de los síntomas principales de la aitoxicación, de la que hemos comentado varias veces.

La alfabetización en inteligencia artificial no se reduce a redactar instrucciones. Comprende reconocer errores y omisiones, contrastar afirmaciones, verificar referencias, identificar sesgos, proteger datos y responder por el producto final. La pregunta pedagógica no debería ser solo «¿utilizaste inteligencia artificial?», sino «¿qué hiciste intelectualmente con aquello que la herramienta te proporcionó?»

Evaluar el proceso para enseñar a pensar

La diferencia no reside únicamente en permitir o impedir la IA, sino en el tipo de actividad que diseñamos. Una definición o un resumen convencional pueden generarse en segundos. Una tarea que exige comparar respuestas, detectar contradicciones, comprobar datos, justificar decisiones y relacionar la información con un contexto obliga a movilizar capacidades que no quedan representadas por el documento final.

El pensamiento crítico se hace visible cuando el estudiante duda, compara, verifica y argumenta. La creatividad aparece cuando combina perspectivas y plantea una solución que no estaba contenida por completo en la respuesta inicial. La autoría se reconoce en las decisiones tomadas, las fuentes seleccionadas, los errores identificados, la contextualización realizada y la capacidad para explicar y defender el resultado.

Evaluar el proceso no significa convertir el aula en un espacio de vigilancia. Los detectores de textos generados por IA pueden equivocarse y no deberían emplearse como prueba concluyente. Resulta más formativo solicitar borradores, referencias consultadas, justificaciones, evidencias de revisión o una breve explicación oral. Las bitácoras deben registrar decisiones académicas relevantes, no historiales completos que expongan información privada.

Las instituciones también necesitan reglas comprensibles sobre los usos permitidos, restringidos y sujetos a declaración. Corregir ortografía no equivale a delegar una argumentación completa. Generar ideas, traducir un fragmento, verificar datos y entregar como propio un texto producido por la herramienta son acciones distintas y deben valorarse de forma diferenciada.

El incidente de julio de 2026 recordó que alcanzar un resultado no equivale a comprender y que superar una prueba no siempre demuestra aprendizaje. La IA puede ayudar a formular preguntas, explorar perspectivas y detectar errores. Deja de ser una aliada cuando reemplaza la lectura, la verificación, la argumentación o la responsabilidad del autor.

La cuestión educativa no consiste solo en determinar hasta dónde puede llegar la inteligencia artificial. Debemos decidir qué capacidades humanas queremos fortalecer al utilizarla. La tecnología seguirá avanzando; nuestra tarea es procurar que el estudiante avance con criterio, autonomía, creatividad y responsabilidad.

Referencias

Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., y Mané, D. (2016). Concrete problems in AI safety. arXiv, 1606.06565.

Gallent-Torres, C., Zapata-González, A., y Ortego-Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: Una mirada desde la ética y la integridad académica. RELIEVE, 29(2), artículo M5. https://doi.org/10.30827/relieve.v29i2.29134

Hugging Face. (2026). Anatomy of a frontier lab agent intrusion: A technical timeline of the July 2026 incident.

OpenAI. (2026, 21 de julio). OpenAI and Hugging Face partner to address security incident during model evaluation.

Strathern, M. (1997). “Improving ratings”: Audit in the British university system. European Review, 5(3), 305–321.