GPTZero - Enciclopedia

GPTZero es un software de detección de inteligencia artificial desarrollado para identificar texto generado artificialmente, como el producido por grandes modelos de lenguaje.

Si bien GPTZero recibió elogios por sus esfuerzos para evitar la falta de honestidad académica, muchos medios de comunicación criticaron la tasa de falsos positivos del herramienta, lo cual puede ser especialmente perjudicial en entornos académicos.


Historia
GPTZero fue desarrollado por Edward Tian, un estudiante universitario de Princeton, y lanzado en línea en enero de 2023 en respuesta a las preocupaciones sobre el uso de AI en el plagio académico. GPTZero dijo en mayo de 2023 que había recaudado más de 3.5 millones de dólares en financiamiento inicial.
En la primera semana de su lanzamiento, GPTZero experimentó 30,000 usos, lo que llevó a un colapso. Fue apoyado por la empresa de aplicaciones web Streamlit, que asignó más recursos de servidor en respuesta. En julio de 2024, tenía 4 millones de usuarios, en comparación con 1 millón un año antes.
En el verano de 2024, GPTZero recaudó 10 millones de dólares en una ronda de financiamiento de Serie A.
En septiembre de 2024, GPTZero anunció un software de seguimiento de autoría que permite "compilar y compartir datos sobre su proceso de escritura, como su historial de copiar/pegar, el número de editores que tuvieron y cuánto tiempo tomó la edición", en un esfuerzo por "moverse de un paradigma todo-o-nada en torno a la escritura de AI hacia uno más matizado".


Mecanismo
GPTZero utiliza cualidades que denomina "perplexidad" y "bursts" para intentar determinar si un pasaje fue escrito por una IA. Según la empresa, la perplexidad es cuán aleatorio es el texto en la oración y si la forma en que se construye la oración es inusual o "sorprendente" para la aplicación. Los textos con un lenguaje más caótico o poco familiar para los modelos de lenguaje son considerados más probables de haber sido escritos por humanos. Por el contrario, la "bursts" compara oraciones entre sí, determinando su similitud. El texto humano es más discontinuo, lo que significa que los humanos tienden a escribir con más variación de oraciones que la IA.


Casos de uso
La comunidad académica ha intentado usar GPTZero para abordar preocupaciones sobre el contenido generado por IA para el plagio. Las instituciones educativas, incluyendo la Universidad de Princeton, han discutido el uso de GPTZero para combatir el contenido generado por IA en entornos académicos, con opiniones mixtas. En octubre de 2023, GPTZero se asoció con la Federación Americana de Maestros.
Para 2024, Tian informó que GPTZero también "recibió mucha adopción por parte de los gerentes de contratación, en el proceso de [selección] y análisis de cartas de presentación".


Efectividad
En un documento de marzo de 2023 titulado "¿Puede detectarse el texto generado por IA de manera confiable?", los científicos de la computación Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang y Soheil Feizi de la Universidad de Maryland demostraron empíricamente y teóricamente que varios detectores de texto de IA no son confiables en escenarios prácticos.
El sitio web de tecnología Futurism probó la herramienta y dijo que, aunque los "resultados son impresionantes", basándose en su tasa de errores, los profesores que confían en la herramienta acabarían "acusando falsamente a casi el 20 por ciento de [estudiantes inocentes] de malas prácticas académicas".
El Washington Post señaló en agosto de 2023 que GPTZero sufre de falsos positivos, destacando que "incluso una pequeña tasa de 'falsos positivos' significa que algunos estudiantes podrían ser acusados incorrectamente [de malas prácticas académicas]".
El sitio web de noticias Ars Technica comentó que los humanos pueden escribir oraciones de manera altamente regular, lo que lleva a falsos positivos. El escritor Benj Edwards continuó afirmando que la puntuación de perplexidad solo se preocupa por lo que es "sorprendente" para la IA, lo que lleva a casos donde textos muy comunes, como la Constitución de los Estados Unidos, son etiquetados como probablemente generados por IA.


Ver también
Detección de contenido de inteligencia artificial
Ética de la inteligencia artificial
Procesamiento de lenguaje natural
ChatGPT
Generación de texto
Prueba de Turing


Referencias


Enlaces externos
Cassidy, Caitlin (11 de enero de 2023). "Estudiante universitario asegura que la aplicación puede detectar ensayos escritos por el chatbot ChatGPT". The Guardian.