USO DE LA INTELIGENCIA ARTIFICIAL GENERATIVA EN PUBLICACIONES ACADÉMICAS
Una mirada al rigor y la integridad científica en la era de la IA
MSc. Betancourt Olaguer
Blog académico · CONFEDUC
La incorporación de la Inteligencia Artificial Generativa (IAG) en la investigación científica representa uno de los cambios más significativos que ha experimentado la producción académica en las últimas décadas. Herramientas capaces de generar textos, sintetizar información, traducir documentos o asistir en la organización de ideas han comenzado a formar parte del trabajo cotidiano de investigadores, docentes y estudiantes de posgrado alrededor del mundo.
Este escenario ha generado posiciones diversas. Mientras algunos consideran que la IAG constituye una oportunidad para optimizar los procesos de investigación y comunicación científica, otros manifiestan preocupación por las implicaciones éticas que su uso podría tener sobre la originalidad, la autoría intelectual y la credibilidad del conocimiento producido.
Contexto que vale la pena tener presente
●Un número creciente de revistas científicas —entre ellas Nature, Science y Elsevier— ya exigen declarar el uso de IA generativa en manuscritos enviados a revisión.
●Ninguna política editorial vigente reconoce a una IA como autora o coautora de un artículo científico. La verificación humana de referencias y datos sigue siendo, hasta hoy, insustituible frente al riesgo de "alucinaciones" algorítmicas.
Sin embargo, el verdadero debate no gira en torno a si debemos utilizar o no inteligencia artificial. La discusión se centra en determinar cómo utilizarla sin comprometer los principios que históricamente han sustentado el rigor metodológico y la integridad científica.
Autores ampliamente reconocidos en metodología de la investigación, como Hernández Sampieri, Creswell, Yin, Denzin y Lincoln, coinciden en que la calidad de una investigación depende de la coherencia entre el planteamiento del problema, el marco teórico, el diseño metodológico, el análisis de los datos y la interpretación de los resultados. Dichos principios permanecen inalterables, independientemente de las herramientas tecnológicas disponibles.
En este sentido, la inteligencia artificial no sustituye el método científico; únicamente incorpora nuevas posibilidades de apoyo cuya utilización exige criterios éticos, pensamiento crítico y absoluta transparencia.
I. Asistencia técnica versus creación intelectual: ¿Dónde está el límite?
La mayoría de los especialistas en metodología reconoce que la investigación científica es un proceso eminentemente intelectual. Investigar no consiste únicamente en recopilar información, sino en formular preguntas relevantes, contrastar evidencias, interpretar resultados y construir conocimiento original.
Desde esta perspectiva, la inteligencia artificial puede convertirse en una herramienta valiosa siempre que su participación permanezca dentro del ámbito de la asistencia técnica y no sustituya el razonamiento del investigador.
Usos legítimos vs. usos de riesgo
La siguiente tabla resume, a modo de referencia rápida, en qué tareas la comunidad científica considera aceptable el apoyo de la IAG y en cuáles sus usos empieza a comprometer la autoría intelectual:
No obstante, resulta indispensable diferenciar entre mejorar la forma en que se comunica una idea y permitir que una herramienta construya el contenido intelectual que debería ser producto del análisis crítico del investigador.
El investigador es quien dirige el proceso metodológico y toma las decisiones que orientan la investigación. La interpretación de los datos constituye una responsabilidad humana que exige capacidad analítica, reflexión y juicio crítico.
— Síntesis de los planteamientos de Hernández Sampieri y Creswell
Es por tanto que ninguna herramienta de inteligencia artificial puede asumir la responsabilidad epistemológica que implica producir conocimiento científico.
II. Desafíos éticos, propiedad intelectual y límites normativos
La creciente incorporación de la inteligencia artificial en la producción académica también ha puesto de manifiesto desafíos que trascienden el ámbito tecnológico y alcanzan dimensiones éticas, jurídicas y metodológicas.
Autoría intelectual: un límite claro
Uno de los aspectos más debatidos corresponde a la autoría intelectual. Organismos internacionales como el Committee on Publication Ethics (COPE) y el International Committee of Medical Journal Editors (ICMJE) han señalado que una herramienta de inteligencia artificial no puede ser reconocida como autora o coautora de una publicación científica, ya que carece de la capacidad para asumir responsabilidad ética sobre el contenido generado.
¿Qué es una "alucinación algorítmica"?
Se denomina así al fenómeno mediante el cual los modelos de inteligencia artificial producen información incorrecta con apariencia de veracidad: referencias inexistentes, citas fabricadas, datos imprecisos o interpretaciones alejadas de la evidencia disponible. Este riesgo obliga al investigador a verificar rigurosamente cada afirmación antes de incorporarla a un manuscrito
Propiedad intelectual y originalidad
A ello se suma el debate relacionado con la propiedad intelectual y la originalidad científica. Aunque los textos generados por inteligencia artificial no constituyen copias literales en la mayoría de los casos, persisten interrogantes sobre los conjuntos de datos utilizados para entrenar estos modelos y sobre la posibilidad de reproducir estructuras, expresiones o patrones derivados de obras protegidas por derechos de autor.
Panorama de posturas institucionales
En este contexto, la comunidad científica coincide en un aspecto fundamental: el mayor riesgo no radica en utilizar inteligencia artificial, sino en hacerlo sin supervisión crítica, sin validar la información obtenida y sin informar de manera transparente el alcance de su utilización.
Este principio de transparencia se desarrolla en detalle en la Sección III, y se conecta directamente con los usos legítimos descritos en la Sección I.
III. Hacia un marco de transparencia en las publicaciones científicas
En respuesta a estos desafíos, numerosas editoriales científicas, revistas arbitradas y organismos internacionales han comenzado a establecer políticas específicas sobre el uso de herramientas de inteligencia artificial durante la elaboración de manuscritos.
