La inteligencia artificial no comprende el conocimiento: riesgos
epistemológicos para la investigación científica contemporánea
En colaboración con Mercedes Leticia Sánchez Ambriz
Nunca antes había sido tan
sencillo producir un texto académico. Hoy, un investigador puede solicitar a
una inteligencia artificial la redacción de un resumen, un marco teórico, una
introducción metodológica o incluso una interpretación preliminar de resultados
en cuestión de segundos. La velocidad, fluidez y coherencia aparente de estos
sistemas generan la impresión de estar frente a una tecnología capaz de
comprender el conocimiento humano. Sin embargo, detrás de esta capacidad
lingüística existe una limitación fundamental que la educación superior y la
investigación científica no pueden ignorar: la inteligencia artificial
carece de comprensión epistemológica.
Este problema va mucho más allá de los errores
técnicos o de las conocidas “alucinaciones” de la inteligencia artificial. El
verdadero riesgo aparece cuando el investigador comienza a delegar procesos
esenciales del pensamiento científico a sistemas que no comprenden la
naturaleza, validez y justificación del conocimiento que producen. En ese
momento, la investigación deja de construirse desde el análisis crítico y
comienza a desplazarse hacia formas de automatización intelectual que pueden
erosionar progresivamente la integridad académica (Gallent-Torres et al.,
2023).
La inteligencia artificial generativa funciona
mediante modelos probabilísticos entrenados con enormes cantidades de datos. Su
capacidad consiste en identificar patrones lingüísticos y predecir secuencias
plausibles de palabras, no en comprender conceptos desde una perspectiva
epistemológica. Esto significa que la IA puede producir textos coherentes y
académicamente convincentes sin distinguir entre afirmaciones científicamente
válidas, interpretaciones discutibles o errores conceptuales. En la actualidad
cada vez nos percatamos que las respuestas a la misma preguntas en diferentes LLM
son casi similares, lo que da a entender que las IA se están copiando entre sí.
Como advierte Carr (2010), las tecnologías
digitales modifican progresivamente la forma en que procesamos la información,
afectando la profundidad de la atención y la capacidad de reflexión crítica. En
este contexto, la IA no solo acelera procesos de escritura, sino que también
puede favorecer relaciones cada vez más superficiales con el conocimiento.
Producción
textual y producción científica
Uno de los principales problemas contemporáneos es
la creciente confusión entre producción textual y producción científica. La
facilidad para obtener respuestas inmediatas puede generar una falsa sensación
de comprensión académica. Un texto producido mediante IA puede incorporar
terminología especializada, estructuras argumentativas complejas y referencias
aparentemente coherentes; sin embargo, ello no garantiza rigor metodológico,
validez epistemológica ni pensamiento crítico.
La plausibilidad discursiva no equivale a
conocimiento científico. Un discurso bien redactado puede ocultar debilidades
conceptuales importantes cuando no existe verificación empírica, contrastación
de fuentes o análisis crítico profundo.
En diversos contextos universitarios comienzan a
observarse prácticas académicas orientadas más hacia la rapidez de producción
textual que hacia la comprensión profunda del conocimiento. La expansión de
herramientas de inteligencia artificial generativa ha facilitado el acceso
inmediato a resúmenes, explicaciones y estructuras argumentativas completas,
situación que puede incentivar formas de aprendizaje superficiales si no existe
acompañamiento pedagógico crítico (Flor-Terán & Sandoval-Reyes, 2024).
Diversos estudios recientes advierten que la
automatización de procesos cognitivos puede debilitar habilidades esenciales
como la interpretación, contrastar fuentes y la construcción autónoma del
pensamiento académico (Caldevilla-Domínguez, 2024). La investigación corre
el riesgo de transformarse progresivamente en un proceso de ensamblaje textual
automatizado en lugar de constituirse como un ejercicio reflexivo de
producción de conocimiento.
La
simulación de comprensión
Uno de los fenómenos más delicados de la
inteligencia artificial contemporánea es su capacidad para simular
comprensión. Los modelos generativos producen respuestas que aparentan
reflexión, análisis o pensamiento crítico; sin embargo, operan exclusivamente
mediante correlaciones estadísticas y predicción probabilística del lenguaje.
La inteligencia artificial no posee conciencia
epistemológica sobre causalidad, evidencia, verificabilidad o falsedad
científica. Como plantearía Popper (1959), el conocimiento científico exige
contrastación crítica y posibilidad de refutación, condiciones imposibles de
ejecutar conscientemente por sistemas que carecen de comprensión real del
mundo.
En consecuencia, un texto generado por IA puede
exhibir coherencia sintáctica y sofisticación terminológica sin garantizar
consistencia conceptual ni validez metodológica. Esta situación incrementa
el riesgo de que estudiantes e investigadores confundan calidad discursiva con
producción genuina de conocimiento científico.
La automatización del discurso académico puede
producir un efecto particularmente problemático: la sustitución gradual del
esfuerzo intelectual por respuestas automatizadas aparentemente suficientes.
Cuando la IA comienza a reemplazar tareas fundamentales como interpretar
resultados, construir categorías analíticas o establecer relaciones teóricas,
deja de funcionar como apoyo instrumental y empieza a ocupar espacios que
pertenecen al juicio científico humano (Vílchez Ruiz, 2024).
Riesgos
epistemológicos para la investigación científica
El principal riesgo epistemológico no consiste
únicamente en la aparición de errores o imprecisiones. El problema más profundo
es el debilitamiento progresivo de las capacidades intelectuales necesarias
para investigar críticamente.
La investigación científica requiere:
- problematizar
fenómenos,
- formular
hipótesis,
- interpretar
evidencia,
- reconocer
limitaciones metodológicas,
- y
construir explicaciones fundamentadas.
Estas competencias no pueden delegarse
completamente a sistemas automatizados porque implican razonamiento crítico,
interpretación contextual y responsabilidad intelectual.
Desde una perspectiva metodológica, el uso de
inteligencia artificial en investigación científica debe mantenerse bajo
supervisión humana permanente. La IA puede ser útil para:
- organizar
información,
- sintetizar
documentos,
- apoyar
búsquedas preliminares,
- o
mejorar procesos de redacción.
No obstante, la validación conceptual, el análisis
crítico y la interpretación de resultados deben seguir siendo responsabilidad
del investigador.
Delegar completamente estas funciones en sistemas
automatizados podría afectar seriamente la calidad epistemológica de la
producción científica y debilitar la integridad académica de las
investigaciones (Egan, 2024).
Inteligencia
artificial y educación superior
La educación superior enfrenta actualmente el
desafío de integrar la inteligencia artificial sin sustituir el desarrollo del
pensamiento crítico. La discusión ya no debe centrarse exclusivamente en
prohibir herramientas tecnológicas, sino en construir modelos pedagógicos
capaces de enseñar su uso ético, crítico y transparente.
La integridad académica ya no puede reducirse
únicamente a la prevención del plagio. Actualmente implica:
- honestidad
intelectual,
- transparencia
metodológica,
- uso
responsable de herramientas digitales,
- y
capacidad de construir pensamiento propio (Flores Morales et al., 2024).
Diversas investigaciones recientes sostienen que
las universidades deben promover alfabetización digital crítica y formación
ética sobre inteligencia artificial. Los estudiantes necesitan comprender:
- cómo
funcionan los modelos generativos,
- cuáles
son sus limitaciones,
- qué
riesgos presentan,
- y
cómo verificar críticamente la información que producen.
En este contexto, la IA puede convertirse tanto en
una herramienta pedagógica valiosa como en un factor de dependencia cognitiva,
dependiendo de cómo sea utilizada institucional y académicamente (Ibarra
Beltrán et al., 2023).
Ética,
transparencia e integridad académica
El debate sobre inteligencia artificial no debe
centrarse únicamente en detectar fraude académico. La discusión más relevante
consiste en comprender cómo preservar la honestidad intelectual en entornos
crecientemente automatizados.
El uso ético de inteligencia artificial exige
transparencia. Investigadores y estudiantes deberían declarar explícitamente:
- cuándo
utilizaron IA,
- con
qué finalidad,
- y
cuáles fueron los límites de su participación humana.
La transparencia metodológica fortalece la
confianza académica y permite distinguir entre apoyo instrumental legítimo y
sustitución indebida del trabajo intelectual.
Asimismo, las universidades necesitan actualizar
sus políticas de integridad académica para responder a escenarios tecnológicos
cada vez más complejos. La discusión contemporánea ya no puede limitarse a
categorías tradicionales de plagio, sino que debe incorporar:
- automatización
intelectual,
- dependencia
cognitiva,
- autoría
híbrida,
- y
validación crítica de contenidos generados algorítmicamente (Vargas-Morúa,
2021).
Recomendaciones
1. Fortalecer la alfabetización
epistemológica
Las universidades deben enseñar no solo el uso
técnico de herramientas digitales, sino también sus límites epistemológicos y
éticos.
2. Promover transparencia sobre
el uso de IA
Los trabajos académicos deberían incluir
declaraciones explícitas sobre el uso de inteligencia artificial en procesos de
investigación o redacción.
3. Priorizar la validación humana
Toda información generada mediante IA debe ser
contrastada con fuentes académicas verificables y revisada críticamente por el
investigador.
4. Diseñar evaluaciones centradas
en pensamiento crítico
Las instituciones educativas deberían priorizar
actividades que evalúen interpretación, argumentación y reflexión propia más
que reproducción textual.
5. Actualizar políticas
institucionales
Las universidades necesitan adaptar sus normativas
de integridad académica a los nuevos desafíos asociados con inteligencia
artificial generativa.
Como hemos visto, la IA constituye una herramienta
tecnológica con enorme capacidad de transformación académica; sin embargo, su
impacto dependerá fundamentalmente del modo en que sea incorporada en los
procesos educativos e investigativos.
El verdadero desafío contemporáneo consiste en
evitar que la automatización sustituya la capacidad humana de pensar
críticamente. La universidad no puede reducirse a espacios de producción
acelerada de textos, sino que debe preservar su función esencial como lugar de
análisis, cuestionamiento, construcción de conocimiento y formación ética. En
este escenario, el pensamiento crítico, la honestidad intelectual y la
responsabilidad académica adquieren aún mayor relevancia frente a tecnologías
capaces de producir discursos aparentemente sofisticados sin comprensión
epistemológica real.
Por ello, la formación universitaria del futuro
requerirá no solo competencias digitales, sino también capacidades sólidas de
interpretación, evaluación crítica de fuentes, argumentación y reflexión
autónoma. La inteligencia artificial puede apoyar procesos académicos
importantes, pero nunca debería reemplazar el juicio científico ni la
responsabilidad intelectual que caracterizan la auténtica producción de
conocimiento.
Conclusiones
La inteligencia artificial generativa representa
una de las transformaciones tecnológicas más significativas para la educación
superior y la investigación científica contemporánea. Su capacidad para
producir textos complejos, organizar información y asistir procesos académicos
ofrece oportunidades importantes para optimizar ciertas tareas intelectuales.
Sin embargo, estas ventajas también introducen desafíos éticos y
epistemológicos que no pueden ser ignorados.
El principal riesgo no radica únicamente en el
aumento potencial del plagio o en la automatización de la escritura académica,
sino en la progresiva delegación del pensamiento crítico a sistemas que carecen
de comprensión epistemológica, conciencia científica y capacidad real de
validación conceptual.
La producción lingüística automatizada no equivale
necesariamente a producción de conocimiento. Un texto coherente puede aparentar
profundidad intelectual sin poseer rigurosidad metodológica ni reflexión
crítica auténtica.
Por ello, el desafío contemporáneo de las
universidades no consiste exclusivamente en restringir el uso de inteligencia
artificial, sino en formar estudiantes e investigadores capaces de utilizarla
de manera ética, crítica y responsable. La integridad académica en la era
digital exige fortalecer la autoría intelectual, la validación rigurosa de
fuentes y la capacidad humana de interpretar, cuestionar y construir
conocimiento con autonomía.
El futuro de la investigación científica dependerá
menos de la velocidad con que se produzcan textos y más de la capacidad crítica
con que las personas comprendan, evalúen y utilicen el conocimiento en
contextos tecnológicos cada vez más complejos.
Referencias
Caldevilla-Domínguez, D. (2024). Usos éticos de
la IA en la universidad moderna: Más allá del plagio. EDU Review, 12(1),
57–65. https://doi.org/10.37467/revedu.v12.5184
Carr, N. (2010). The shallows: What the Internet
is doing to our brains. W. W. Norton & Company.
Egan, L. (2024). Plagiarism: History, culture,
and prevention. University of North Dakota.
Flores Morales, J. A., Quinteros María Fe
Guadalupe, R., Contreras Maguiña, A. P., & Luna Román, E. A. (2024).
Originalidad y honestidad intelectual: Navegando por las aguas del plagio. Revista
de Climatología, 24, 2032–2038. https://doi.org/10.59427/rcli/2024/v24cs.2032-2038
Flor-Terán, G. A., & Sandoval-Reyes, P. A.
(2024). La ética en el uso de la inteligencia artificial (IA) en la educación:
desafíos y oportunidades. Polo del Conocimiento, 9(11), 255–282. https://doi.org/10.23857/pc.v9i11.8276
Gallent-Torres, C., Zapata-González, A., &
Ortego-Hernando, J. L. (2023). El impacto de la inteligencia artificial
generativa en educación superior: una mirada desde la ética y la integridad
académica. RELIEVE, 29(2). https://doi.org/10.30827/relieve.v29i2.29134
Ibarra Beltrán, Á. de J., Aguayo Álvarez, Z., &
Velázquez García, R. E. (2023). Desmitificando el plagio digital: Percepciones
y realidades de la ética estudiantil desde el Centro Universitario de Tonalá. LATAM
Revista Latinoamericana de Ciencias Sociales y Humanidades, 4(5),
1418–1431. https://doi.org/10.56712/latam.v4i5.1403
Popper, K. (1959). The logic of scientific
discovery. Hutchinson.
Vargas-Morúa, E. (2021). El plagio: consideraciones
para su prevención. Espiga, 21(41), 68–85.
Vílchez Ruiz, M. I. (2024). Contenido educativo con
inteligencia artificial: ¿Restringir o enseñar a personalizar éticamente en el
ámbito educativo? Revista Científica Ciencia y Tecnología, 24(44).
