OpenAI trabaja en una solución para detectar texto generado por ChatGPT

ChatGPT es un prototipo de chatbot de inteligencia artificial

Se dio a conocer la noticia de que OpenAI está desarrollando un software que puede detectar si su modelo ChatGPT generó texto, esto poco después de que los funcionarios de educación de la ciudad de Nueva York anunciaran que bloquearían el acceso de los estudiantes a la herramienta en las escuelas públicas.

Y es que han dado a conocer diversos informes de qué estudiantes que usan IA para hacer sus tareas, han hecho que los maestros piensen en cómo afecta la educación.

Algunos han expresado su preocupación acerca de cómo los modelos de lenguaje pueden permitir que los estudiantes hagan trampa.

Ante ello OpenAI anuncio que está trabajando para desarrollar «mitigaciones» que ayudarán a las personas a detectar el texto generado automáticamente por ChatGPT.

«Hemos hecho que ChatGPT esté disponible como una vista previa de investigaciónaprender del uso en el mundo real, que creemos que es una parte esencial del desarrollo y la implementación de sistemas de IA capaces y seguros. Estamos constantemente incorporando comentarios y lecciones aprendidas”, dijo un portavoz de la compañía.

Según testimonios de profesores universitarios, los estudiantes confían a ChatGPT para resolver sus tareas, especialmente en los ensayos.

“La academia no lo vio venir. Así que nos tomó por sorpresa”, dice Darren Hudson Hick, profesor asistente de filosofía en la Universidad de Furman.

«Lo informé en Facebook, y mis amigos [maestros] dijeron: ‘¡sí! Yo también atrapé uno'», agregó. A principios de este mes, según los informes, Hick le pidió a su clase que escribiera un ensayo de 500 palabras sobre el filósofo escocés del siglo XVIII David Hume y la paradoja del horror, que examina cómo las personas pueden obtener placer de algo que temen, para una prueba en casa. Pero según el profesor de filosofía, uno de los ensayos que le llegó tenía algunas características que «marcaban» el uso de la IA en la respuesta «rudimentaria» del estudiante. Hick explica que esto puede ser detectado por un ojo entrenado.

Ser capaz de distinguir la escritura a mano producida por un humano o una máquina cambiará la forma en que se pueden usar en la academia. Las escuelas podrían hacer cumplir de manera más efectiva la prohibición de prueba generada por IA,

Sí, los modelos de lenguaje generativo pueden ser buenos, pero no saben de lo que están hablando.

Tan impresionante como suena la escritura generada por IA en los titulares con conferencias universitarias y escuelas que prohíben los artículos escritos a máquina, aquí hay un recordatorio de que carecen de comprensión de escritura humana real.

Y es que OpenAI ha estado impresionando a Internet con sus esfuerzos para replicar la inteligencia humana y las habilidades artísticas desde 2015. Pero en noviembre pasado, la compañía finalmente se volvió mega viral con el lanzamiento del generador de texto AI ChatGPT. Los usuarios de la herramienta beta publicaron ejemplos de respuestas de texto generadas por IA a indicaciones que parecían tan legítimas que infundieron miedo en los corazones de los maestros e incluso hicieron que Google temiera que la herramienta podría acabar con su actividad de investigación.

Si los ingenieros de OpenAI pueden crear un bot que pueda escribir tan bien o mejor que el humano promedio, es lógico que también puedan crear un bot que sea mejor que el humano promedio para detectar si el texto fue generado por IA.

Ya que como se mencionó por el momento OpenAI trabaja en una solución, ya se han dado a conocer al menos tres herramientas de detección que se pueden usar:

Detector de salida GPT-2

La demostración en línea del modelo de detector de salida GPT-2 le permite pegar texto en un cuadro y ver de inmediato la probabilidad de que el texto haya sido escrito por la IA. Según la investigación de OpenAI, la herramienta tiene una tasa de detección relativamente alta, pero «debe combinarse con enfoques basados ​​en metadatos, juicio humano y educación pública para ser más eficaz».

GLTR 

Cuando OpenAI lanzó GPT-2 en 2019, la gente del MIT-IBM Watson AI Lab y el Harvard Natural Language Processing Group se unieron para crear un algoritmo que intenta detectar si el texto ha sido escrito por un bot.

El texto generado por computadora puede parecer escrito por un ser humano, pero es más probable que un escritor humano seleccione palabras impredecibles. Usando el método «se necesita uno para conocer uno», si el algoritmo GLTR puede predecir la siguiente palabra en una oración, asumirá que la oración fue escrita por un bot.

GPTZero

Durante la temporada navideña, Edward Tian estuvo ocupado creando GPTZero, una aplicación que puede ayudar a determinar si el texto fue escrito por un humano o un bot. Como académico en Princeton, Tian comprende cómo los profesores universitarios pueden tener un interés personal en detectar el IAgiarismo o el plagio asistido por IA.

Tian dice que su herramienta mide la aleatoriedad de las oraciones («zumbidos») más la aleatoriedad general («ráfagas») para calcular la probabilidad de que el texto haya sido escrito por ChatGPT. Desde que tuiteó sobre GPTZero el 2 de enero, Tian dice que ya se le han acercado capitalistas de riesgo que desean invertir y que pronto desarrollará versiones actualizadas.

Fuente: https://techcrunch.com