Está a la orden del día, cada vez vemos más información sobre el tema. Nos referimos a la Inteligencia Artificial (IA) como sistema para crear artículos. Son muchos los colaboradores de medios que publican nuevos contenidos utilizando la IA.
Desde el año 2022, cuando entró en escena ChatGPT, el incremento ha sido muy alto, sobre todo en los espacios universitarios y de investigación en ciertos apartados de la Ciencia. Así, por ejemplo, en el terreno de los artículos científicos hasta el 22% muestran aportaciones de los grandes modelos de lenguaje (LLM).
Estudio sobre el tema
En Nature Human Behaviour se acaban de publicar los resultados de un estudio en el que se analizaron más de un millón de artículos científicos publicados entre 2020 y 2024. Cuando se puso en marcha ChatGPT muchas revistas académicas crearon políticas que limitaban y limitan el uso de la IA generativa.
A pesar de las medidas, rápidamente se comprobó que muchos manuscritos científicos habían sido creados utilizando LLM. Alex Glynn, instructor de alfabetización en investigación y comunicaciones en la Universidad de Louisville, ha dicho lo siguiente al respecto:
«A primera vista, es bastante divertido, pero sus implicaciones son muy preocupantes. En casos particularmente obvios, el autor de un estudio dudoso se identificará explícitamente como un modelo de lenguaje de IA y recomendará al lector que busque fuentes de información más fiables. Pero los LLM también son conocidos por alucinar con información falsa o engañosa«.
Los males que trae consigo la IA generativa
No es la primera vez que hablamos del tema, la IA generativa está ahí y los riesgos que trae consigo en el terreno de la creatividad son muy grandes. Se utiliza lo que han elaborado algunas personas tras hacer trabajar su mente después de buscar temas relevantes, y lo convierten en algo que dicen que es original pero que no es así.
Los que utilizan la tecnología de la IA se han vuelto cada vez más hábiles con el fin de ocultar sus huellas, haciendo que sucesivamente sea más difícil detectar los orígenes de lo que han elaborado. Aunque se ha creado un software, con varias aplicaciones, de detección de IA en los contenidos, le falta mucho por llegar a la perfección.
James Zou, biólogo computacional de la Universidad de Stanford y coautor de un nuevo estudio, llevó a cabo con un grupo de investigadores el análisis de artículos escritos antes del desarrollo de ChatGPT y utilizaron un LLM para resumirlos. Consiguieron encontrar una serie de palabras que se repetían con frecuencia en las nuevas creaciones.
Conclusión
No hay dudas. Todo lo nuevo entraña riesgos hasta que alcanza una notable solidez. No podemos dejar que los LLM trabajen libremente. Hay que marcarles unas pautas y, después de examinar con calma lo que han elaborado, proceder a una filtración y a un cambio de contenidos, borrando, reformando y creando.
El descubrimiento de errores, sobre todo en el terreno científico, es muy importante. No todo lo creado es válido. Los científicos y otros creadores de contenidos no deben desdeñar la IA, pero la deben utilizar con sentido, no recurrir solamente a la comodidad.
