Ahí está. Todos los días se publican una gran cantidad de artículos relacionados con ChatGPT, la herramienta líder en la utilización de la Inteligencia Artificial. OpenAI la puso en marcha y son varias las plataformas que la están utilizando, aunque está creando más disgustos que satisfacciones.
Un grupo de científicos ha creado una herramienta capaz de identificar los contenidos creados con IA con una precisión cercana al cien por cien, pero no es la única existente. Analiza el texto y muestra los resultados, sobre todo en publicaciones creadas con ChatGPT.
En ScienceDirect podemos ver todo o casi todo lo relacionado con este estudio. Además de la herramienta creada se muestra también el código fuente necesario para que se haga una réplica de la misma.
Sobre la investigación y sus resultados
Heather Desaire, química de la Universidad de Kansas que aplica el aprendizaje automático a los estudios biomédicos, ha sido la propulsora de esta herramienta. Con ella se pretende realizar la protección de la integridad científica, no dejando que la Inteligencia Artificial utilice el libre albedrío para mostrar sus creaciones.
Heather Desaire ha dicho lo siguiente: ChatGPT y todos los demás generadores de texto de IA inventan hechos. En las publicaciones científicas académicas —escritos sobre nuevos descubrimientos y la vanguardia del conocimiento humano— realmente no podemos darnos el lujo de contaminar la literatura con falsedades que suenan creíbles. Inevitablemente, se abrirían camino en las publicaciones si los generadores de texto de IA se usan comúnmente. Que yo sepa, no existe una forma infalible de encontrar de forma automatizada esas «alucinaciones», como se las llama. Una vez que comience a llenar hechos científicos reales con tonterías de IA inventadas que suenen perfectamente creíbles, esas publicaciones se volverán menos confiables, menos valiosas.
Cuando una revista científica es revisada por expertos en los temas tratados que aceptan lo mostrado, se puede tener en cuenta lo escrito. Lo que no se debe respetar es lo que ha sido escrito utilizando fuentes no válidas, las que está utilizando en estos momentos ChatGPT.
A tener en cuenta
Heather Desaire apoya la creación de la herramienta citada diciéndonos lo siguiente:
Puede construir fácilmente un método para distinguir la escritura humana de ChatGPT que sea muy precisa, dada la compensación de que se está restringiendo a considerar un grupo particular de humanos que escriben de una manera particular. Los detectores de IA existentes generalmente están diseñados como herramientas generales para aprovechar cualquier tipo de escritura. Son útiles para su propósito previsto, pero en cualquier tipo específico de escritura, no van a ser tan precisos como una herramienta construida para ese propósito específico y limitado.
Desaire y su equipo han conseguido un notable éxito con la creación de la utilidad destinada a la detección de texto creado con Inteligencia Artificial. El alto nivel de conocimiento humano, frente a la detección de patrones enfocados al aprendizaje automático, es lo que se ha tenido en cuenta para elaborar el código.
El código es totalmente accesible para los investigadores que estén interesados en su desarrollo. No necesitan ser programadores informáticos para comprobar que la IA y la detección de contenido apoyados en la IA son válidos para ellos.
Pero aún hay más: GPTZero
No podemos dejar de hablar de GPTZero. Varios investigadores se dedican a descubrir las deficiencias de ChatGPT. En realidad se trata del producto original en el que se basa ZeroGPT. Se creó a partir de una investigación de la Universidad de Princeton y en el que confían más de 10 millones de usuarios, incluyendo educadores, instituciones y grandes organizaciones de todo el mundo.
A continuación mostramos lo que hay que tener en cuenta a la hora de decantarse por uno u otro servicio, por GPTZero o por ZeroGPT:
- Precisión: GPTZero supera consistentemente a ZeroGPT, especialmente en textos más largos o académicos, con validación independiente de universidades como Penn State.
- Transparencia: GPTZero ofrece informes detallados, sección por sección, en lugar de solo puntuaciones superficiales.
- Confianza y privacidad: Cumple con la FERPA, tiene certificación SOC 2 y está diseñado específicamente para educadores, a diferencia de ZeroGPT, que carece de una propiedad clara, pruebas independientes y políticas de datos adecuadas.
- Confusión de marca: ZeroGPT se lanzó solo dos semanas después de GPTZero y afirmó falsamente tener «millones de usuarios» desde el primer día, una táctica que generó confusión incluso entre los principales medios de comunicación como Yahoo News y SCMP.
Conclusión
Cualquier profesor o estudiante y otros tipos de usuarios deben tener en cuenta lo que hemos indicado y decantarse por la herramienta que más les guste. En el apartado anterior hemos reflejado la realidad. Ello significa que no debe haber dudas a la hora de la elección.
