La inteligencia artificial no comprende el conocimiento: riesgos epistemológicos para la investigación científica contemporánea

 La inteligencia artificial no comprende el conocimiento: riesgos epistemológicos para la investigación científica contemporánea

En colaboración con Mercedes Leticia Sánchez Ambriz

Nunca antes había sido tan sencillo producir un texto académico. Hoy, un investigador puede solicitar a una inteligencia artificial la redacción de un resumen, un marco teórico, una introducción metodológica o incluso una interpretación preliminar de resultados en cuestión de segundos. La velocidad, fluidez y coherencia aparente de estos sistemas generan la impresión de estar frente a una tecnología capaz de comprender el conocimiento humano. Sin embargo, detrás de esta capacidad lingüística existe una limitación fundamental que la educación superior y la investigación científica no pueden ignorar: la inteligencia artificial carece de comprensión epistemológica.

Este problema va mucho más allá de los errores técnicos o de las conocidas “alucinaciones” de la inteligencia artificial. El verdadero riesgo aparece cuando el investigador comienza a delegar procesos esenciales del pensamiento científico a sistemas que no comprenden la naturaleza, validez y justificación del conocimiento que producen. En ese momento, la investigación deja de construirse desde el análisis crítico y comienza a desplazarse hacia formas de automatización intelectual que pueden erosionar progresivamente la integridad académica (Gallent-Torres et al., 2023).

La inteligencia artificial generativa funciona mediante modelos probabilísticos entrenados con enormes cantidades de datos. Su capacidad consiste en identificar patrones lingüísticos y predecir secuencias plausibles de palabras, no en comprender conceptos desde una perspectiva epistemológica. Esto significa que la IA puede producir textos coherentes y académicamente convincentes sin distinguir entre afirmaciones científicamente válidas, interpretaciones discutibles o errores conceptuales. En la actualidad cada vez nos percatamos que las respuestas a la misma preguntas en diferentes LLM son casi similares, lo que da a entender que las IA se están copiando entre sí.

Como advierte Carr (2010), las tecnologías digitales modifican progresivamente la forma en que procesamos la información, afectando la profundidad de la atención y la capacidad de reflexión crítica. En este contexto, la IA no solo acelera procesos de escritura, sino que también puede favorecer relaciones cada vez más superficiales con el conocimiento.

Producción textual y producción científica

Uno de los principales problemas contemporáneos es la creciente confusión entre producción textual y producción científica. La facilidad para obtener respuestas inmediatas puede generar una falsa sensación de comprensión académica. Un texto producido mediante IA puede incorporar terminología especializada, estructuras argumentativas complejas y referencias aparentemente coherentes; sin embargo, ello no garantiza rigor metodológico, validez epistemológica ni pensamiento crítico.

La plausibilidad discursiva no equivale a conocimiento científico. Un discurso bien redactado puede ocultar debilidades conceptuales importantes cuando no existe verificación empírica, contrastación de fuentes o análisis crítico profundo.

En diversos contextos universitarios comienzan a observarse prácticas académicas orientadas más hacia la rapidez de producción textual que hacia la comprensión profunda del conocimiento. La expansión de herramientas de inteligencia artificial generativa ha facilitado el acceso inmediato a resúmenes, explicaciones y estructuras argumentativas completas, situación que puede incentivar formas de aprendizaje superficiales si no existe acompañamiento pedagógico crítico (Flor-Terán & Sandoval-Reyes, 2024).

Diversos estudios recientes advierten que la automatización de procesos cognitivos puede debilitar habilidades esenciales como la interpretación, contrastar fuentes y la construcción autónoma del pensamiento académico (Caldevilla-Domínguez, 2024). La investigación corre el riesgo de transformarse progresivamente en un proceso de ensamblaje textual automatizado en lugar de constituirse como un ejercicio reflexivo de producción de conocimiento.

La simulación de comprensión

Uno de los fenómenos más delicados de la inteligencia artificial contemporánea es su capacidad para simular comprensión. Los modelos generativos producen respuestas que aparentan reflexión, análisis o pensamiento crítico; sin embargo, operan exclusivamente mediante correlaciones estadísticas y predicción probabilística del lenguaje.

La inteligencia artificial no posee conciencia epistemológica sobre causalidad, evidencia, verificabilidad o falsedad científica. Como plantearía Popper (1959), el conocimiento científico exige contrastación crítica y posibilidad de refutación, condiciones imposibles de ejecutar conscientemente por sistemas que carecen de comprensión real del mundo.

En consecuencia, un texto generado por IA puede exhibir coherencia sintáctica y sofisticación terminológica sin garantizar consistencia conceptual ni validez metodológica. Esta situación incrementa el riesgo de que estudiantes e investigadores confundan calidad discursiva con producción genuina de conocimiento científico.

La automatización del discurso académico puede producir un efecto particularmente problemático: la sustitución gradual del esfuerzo intelectual por respuestas automatizadas aparentemente suficientes. Cuando la IA comienza a reemplazar tareas fundamentales como interpretar resultados, construir categorías analíticas o establecer relaciones teóricas, deja de funcionar como apoyo instrumental y empieza a ocupar espacios que pertenecen al juicio científico humano (Vílchez Ruiz, 2024).

Riesgos epistemológicos para la investigación científica

El principal riesgo epistemológico no consiste únicamente en la aparición de errores o imprecisiones. El problema más profundo es el debilitamiento progresivo de las capacidades intelectuales necesarias para investigar críticamente.

La investigación científica requiere:

• problematizar fenómenos,
• formular hipótesis,
• interpretar evidencia,
• reconocer limitaciones metodológicas,
• y construir explicaciones fundamentadas.

Estas competencias no pueden delegarse completamente a sistemas automatizados porque implican razonamiento crítico, interpretación contextual y responsabilidad intelectual.

Desde una perspectiva metodológica, el uso de inteligencia artificial en investigación científica debe mantenerse bajo supervisión humana permanente. La IA puede ser útil para:

• organizar información,
• sintetizar documentos,
• apoyar búsquedas preliminares,
• o mejorar procesos de redacción.

No obstante, la validación conceptual, el análisis crítico y la interpretación de resultados deben seguir siendo responsabilidad del investigador.

Delegar completamente estas funciones en sistemas automatizados podría afectar seriamente la calidad epistemológica de la producción científica y debilitar la integridad académica de las investigaciones (Egan, 2024).

Inteligencia artificial y educación superior

La educación superior enfrenta actualmente el desafío de integrar la inteligencia artificial sin sustituir el desarrollo del pensamiento crítico. La discusión ya no debe centrarse exclusivamente en prohibir herramientas tecnológicas, sino en construir modelos pedagógicos capaces de enseñar su uso ético, crítico y transparente.

La integridad académica ya no puede reducirse únicamente a la prevención del plagio. Actualmente implica:

• honestidad intelectual,
• transparencia metodológica,
• uso responsable de herramientas digitales,
• y capacidad de construir pensamiento propio (Flores Morales et al., 2024).

Diversas investigaciones recientes sostienen que las universidades deben promover alfabetización digital crítica y formación ética sobre inteligencia artificial. Los estudiantes necesitan comprender:

• cómo funcionan los modelos generativos,
• cuáles son sus limitaciones,
• qué riesgos presentan,
• y cómo verificar críticamente la información que producen.

En este contexto, la IA puede convertirse tanto en una herramienta pedagógica valiosa como en un factor de dependencia cognitiva, dependiendo de cómo sea utilizada institucional y académicamente (Ibarra Beltrán et al., 2023).

Ética, transparencia e integridad académica

El debate sobre inteligencia artificial no debe centrarse únicamente en detectar fraude académico. La discusión más relevante consiste en comprender cómo preservar la honestidad intelectual en entornos crecientemente automatizados.

El uso ético de inteligencia artificial exige transparencia. Investigadores y estudiantes deberían declarar explícitamente:

• cuándo utilizaron IA,
• con qué finalidad,
• y cuáles fueron los límites de su participación humana.

La transparencia metodológica fortalece la confianza académica y permite distinguir entre apoyo instrumental legítimo y sustitución indebida del trabajo intelectual.

Asimismo, las universidades necesitan actualizar sus políticas de integridad académica para responder a escenarios tecnológicos cada vez más complejos. La discusión contemporánea ya no puede limitarse a categorías tradicionales de plagio, sino que debe incorporar:

• automatización intelectual,
• dependencia cognitiva,
• autoría híbrida,
• y validación crítica de contenidos generados algorítmicamente (Vargas-Morúa, 2021).

Recomendaciones

1. Fortalecer la alfabetización epistemológica

Las universidades deben enseñar no solo el uso técnico de herramientas digitales, sino también sus límites epistemológicos y éticos.

2. Promover transparencia sobre el uso de IA

Los trabajos académicos deberían incluir declaraciones explícitas sobre el uso de inteligencia artificial en procesos de investigación o redacción.

3. Priorizar la validación humana

Toda información generada mediante IA debe ser contrastada con fuentes académicas verificables y revisada críticamente por el investigador.

4. Diseñar evaluaciones centradas en pensamiento crítico

Las instituciones educativas deberían priorizar actividades que evalúen interpretación, argumentación y reflexión propia más que reproducción textual.

5. Actualizar políticas institucionales

Las universidades necesitan adaptar sus normativas de integridad académica a los nuevos desafíos asociados con inteligencia artificial generativa.

Como hemos visto, la IA constituye una herramienta tecnológica con enorme capacidad de transformación académica; sin embargo, su impacto dependerá fundamentalmente del modo en que sea incorporada en los procesos educativos e investigativos.

El verdadero desafío contemporáneo consiste en evitar que la automatización sustituya la capacidad humana de pensar críticamente. La universidad no puede reducirse a espacios de producción acelerada de textos, sino que debe preservar su función esencial como lugar de análisis, cuestionamiento, construcción de conocimiento y formación ética. En este escenario, el pensamiento crítico, la honestidad intelectual y la responsabilidad académica adquieren aún mayor relevancia frente a tecnologías capaces de producir discursos aparentemente sofisticados sin comprensión epistemológica real.

Por ello, la formación universitaria del futuro requerirá no solo competencias digitales, sino también capacidades sólidas de interpretación, evaluación crítica de fuentes, argumentación y reflexión autónoma. La inteligencia artificial puede apoyar procesos académicos importantes, pero nunca debería reemplazar el juicio científico ni la responsabilidad intelectual que caracterizan la auténtica producción de conocimiento.

Conclusiones

La inteligencia artificial generativa representa una de las transformaciones tecnológicas más significativas para la educación superior y la investigación científica contemporánea. Su capacidad para producir textos complejos, organizar información y asistir procesos académicos ofrece oportunidades importantes para optimizar ciertas tareas intelectuales. Sin embargo, estas ventajas también introducen desafíos éticos y epistemológicos que no pueden ser ignorados.

El principal riesgo no radica únicamente en el aumento potencial del plagio o en la automatización de la escritura académica, sino en la progresiva delegación del pensamiento crítico a sistemas que carecen de comprensión epistemológica, conciencia científica y capacidad real de validación conceptual.

La producción lingüística automatizada no equivale necesariamente a producción de conocimiento. Un texto coherente puede aparentar profundidad intelectual sin poseer rigurosidad metodológica ni reflexión crítica auténtica.

Por ello, el desafío contemporáneo de las universidades no consiste exclusivamente en restringir el uso de inteligencia artificial, sino en formar estudiantes e investigadores capaces de utilizarla de manera ética, crítica y responsable. La integridad académica en la era digital exige fortalecer la autoría intelectual, la validación rigurosa de fuentes y la capacidad humana de interpretar, cuestionar y construir conocimiento con autonomía.

El futuro de la investigación científica dependerá menos de la velocidad con que se produzcan textos y más de la capacidad crítica con que las personas comprendan, evalúen y utilicen el conocimiento en contextos tecnológicos cada vez más complejos.

Referencias

Caldevilla-Domínguez, D. (2024). Usos éticos de la IA en la universidad moderna: Más allá del plagio. EDU Review, 12(1), 57–65. https://doi.org/10.37467/revedu.v12.5184

Carr, N. (2010). The shallows: What the Internet is doing to our brains. W. W. Norton & Company.

Egan, L. (2024). Plagiarism: History, culture, and prevention. University of North Dakota.

Flores Morales, J. A., Quinteros María Fe Guadalupe, R., Contreras Maguiña, A. P., & Luna Román, E. A. (2024). Originalidad y honestidad intelectual: Navegando por las aguas del plagio. Revista de Climatología, 24, 2032–2038. https://doi.org/10.59427/rcli/2024/v24cs.2032-2038

Flor-Terán, G. A., & Sandoval-Reyes, P. A. (2024). La ética en el uso de la inteligencia artificial (IA) en la educación: desafíos y oportunidades. Polo del Conocimiento, 9(11), 255–282. https://doi.org/10.23857/pc.v9i11.8276

Gallent-Torres, C., Zapata-González, A., & Ortego-Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. RELIEVE, 29(2). https://doi.org/10.30827/relieve.v29i2.29134

Ibarra Beltrán, Á. de J., Aguayo Álvarez, Z., & Velázquez García, R. E. (2023). Desmitificando el plagio digital: Percepciones y realidades de la ética estudiantil desde el Centro Universitario de Tonalá. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 4(5), 1418–1431. https://doi.org/10.56712/latam.v4i5.1403

Popper, K. (1959). The logic of scientific discovery. Hutchinson.

Vargas-Morúa, E. (2021). El plagio: consideraciones para su prevención. Espiga, 21(41), 68–85.

Vílchez Ruiz, M. I. (2024). Contenido educativo con inteligencia artificial: ¿Restringir o enseñar a personalizar éticamente en el ámbito educativo? Revista Científica Ciencia y Tecnología, 24(44).

Final del formulario