Nihil obstat

Resumen de una conversación ayer con un importante investigador y docente español en uno de los mejores centros en el mundo).

La conversación se centró en la irrupción de la IA en la docencia universitaria y en la investigación.

Supe así que, hoy, la aceptación de un artículo en una revista indexada prestigiosa requiere el envío de dos documentos complementarios, cuya ausencia invalida que el artículo sea publicado: un documento que acredite qué uso se ha hecho de la IA (y que un programa o contraprograma de IA que tienen los revisores verificará lo afirmado), y un documento que certifique la validación por parte del comité ética del centro al que pertenece el investigador del método utilizado para el desarrollo de la investigación expuesta en el texto.

El uso de la IA es aceptado si ha consistido en revisiones gramaticales y estilísticas, así como un primer esquema del texto. No se aceptan otros usos, como la redacción del mismo, y la detección de usos indebidos no señalados conlleva la no aceptación del artículo amén de otras posibles complicaciones.

Es necesario o conveniente además utilizar una función no evidente de programas de IA, llamados Thinking, y Deep Research, que abre varias posibilidades. De este modo, el programa señalará, ordenados por el nivel de gravedad de los errores, errores gramaticales, estilísticos y de incoherencia de datos y afirmaciones en distintas partes del artículo, que requerirán la revisión o, al menos, una decisión acerca de la pertinencia del comentario y gravedad de los errores. Sin esta revisión, el artículo podría no ser aceptado, toda vez que la propia revista posee un programa que detecta y señala posibles errores. Tembien se requiere indicar al programa que no dé respuestas de inmediato.

Mas, ¿cómo valorar lo que aporta la IA? 

A fin de afinar la detección es necesario dar indicaciones muy precisas al programa, y ordenar que sólo aporte datos contrastados con fuentes, y no especulaciones. Sin embargo, las fuentes son digitales, y no se puede asegurar la pertinencia de las mismas, lo que puede acarrear correcciones de supuestos errores que no son tales. Pero la verificación por IA es requerida.

La irrupción, hace tres años, de la IA en el ámbito de los estudios de grado y de postgrado exige la reforma integral de los programas y de los desarrollos de las clases con la irrupción de la IA, capaz, por ejemplo, de introducir errores en los textos de trabajos, errores que un estudiante suele cometer.

El uso aceptado de la IA en clase pero su prohibición a la hora de los exámenes lleva a que éstos puedan denunciarse porque exigen unas condiciones que no se han seguido durante las clases. Así que clases y métodos de evaluación tienen que volverse a pensar.

Los programas, hoy, hoy tienen que dedicar clases a reflexionar sobre el manejo de la IA, dado que pronto llegará a la universidad una primera generación que no habrá conocido la ausencia de la IA, no podrá imaginarse un estudio y una investigación sin ella, y carecerá de la perspectiva necesaria para evaluar las respuestas que la IA proporciona. Y está resultando un quebradero de cabeza.

Texto redactado sin el uso ni la revisión de la IA.

Reescrito por IA con el estilo de un estudiante universitario (?), se obtiene la versión siguiente:

Publicar un artículo en una revista académica importante ya no consiste solo en escribir una buena investigación. Ahora también hay que entregar dos documentos extra, y si falta alguno de ellos, el artículo ni siquiera entra en el proceso de publicación.

Uno de esos documentos tiene que explicar exactamente cómo se ha utilizado la inteligencia artificial durante la elaboración del trabajo. Además, los revisores cuentan con herramientas de IA capaces de comprobar si lo que se declara es cierto. El otro documento debe demostrar que el comité de ética de la universidad o centro de investigación ha aprobado el método utilizado en el estudio.

El uso de la IA está permitido para cosas como corregir errores gramaticales, mejorar el estilo o ayudar a crear un primer esquema del texto. Lo que no se acepta es que la IA redacte el artículo. Si una revista detecta que se ha utilizado de una forma no permitida y no se ha declarado, el trabajo puede ser rechazado e incluso generar otros problemas académicos.

Por eso cada vez es más útil utilizar funciones avanzadas de estas herramientas, como Thinking o Deep Research. Estas opciones revisan el texto con bastante detalle y señalan posibles errores de redacción, problemas de coherencia o contradicciones en los datos y argumentos. Luego toca revisar cada observación y decidir si realmente tiene sentido o no. Saltarse este paso puede salir caro, porque muchas revistas utilizan sistemas parecidos para detectar fallos antes de aceptar un artículo. Incluso suele recomendarse pedir a la IA que no responda inmediatamente y que dedique más tiempo a analizar el texto.

Pero todo esto lleva a una pregunta bastante interesante: ¿qué valor tiene realmente lo que aporta la IA?

La experiencia demuestra que cuanto más precisas son las instrucciones que se le dan, mejores suelen ser los resultados. También conviene pedirle que trabaje únicamente con información respaldada por fuentes y que evite inventar cosas o especular. El problema es que esas fuentes suelen ser digitales y no siempre son tan fiables o relevantes como parecen. A veces la IA detecta como error algo que en realidad está bien. Aun así, estas revisiones se están convirtiendo en una parte casi obligatoria del trabajo académico.

La llegada de la IA a la universidad hace apenas tres años ha cambiado muchas cosas. Ya no basta con añadir algún tema nuevo al programa: probablemente haya que replantear la forma de enseñar desde cero. Estas herramientas incluso pueden introducir errores parecidos a los que cometería una persona, lo que hace más difícil saber hasta qué punto un trabajo refleja realmente los conocimientos de quien lo presenta.

Además, existe una contradicción bastante evidente. Durante las clases se permite e incluso se fomenta el uso de la IA, pero en muchos exámenes está prohibida. Eso plantea una cuestión incómoda: ¿tiene sentido evaluar a los estudiantes en condiciones completamente distintas a las que han tenido durante el aprendizaje? Por eso cada vez más gente piensa que tanto las clases como los sistemas de evaluación necesitan una revisión profunda.

Y todavía queda otro reto. Dentro de muy poco llegarán a la universidad estudiantes que prácticamente no habrán conocido un mundo sin inteligencia artificial. Para ellos, estudiar o investigar sin estas herramientas será algo difícil de imaginar. El problema es que también pueden tener más dificultades para cuestionar o evaluar críticamente las respuestas que reciben. Y precisamente ahí está uno de los mayores quebraderos de cabeza para las universidades actuales.

Escojan

Nihil obstat 2.0

Agradecimientos a JB y otros amigos por sus esclarecedores comentarios, observaciones y avisos.