La gran mayoría de los jóvenes de entre 16 y 25 años utilizan la IA para sus estudios y orientación. Esta tendencia preocupa especialmente a los docentes, quienes temen que los trabajos entregados no sean elaborados por los propios estudiantes, sino por una inteligencia artificial. Por lo tanto, los detectores de IA juegan un papel clave en la lucha contra el plagio. Pero ¿son realmente fiables? ¿Podemos confiar en ellos?
¿Cómo funcionan los detectores de textos IA?
Los verificadores de IA nos indican el porcentaje de texto generado por inteligencia artificial. Estos sistemas se basan en probabilidades, y el porcentaje que muestran es solo una estimación de la posibilidad de que el texto haya sido creado con IA.
Los detectores también se apoyan en modelos de lenguaje como ChatGPT, Gemini o Claude. Estos modelos te ayudan a ver si el texto ingresado podría haber sido generado por IA, comparando la probabilidad de aparición de ciertas palabras. Si el detector encuentra muchas coincidencias con patrones de texto típicos de una IA, deduce que probablemente fue generado por una.
Además, el número de errores gramaticales o de ortografía es un factor relevante: los errores suelen ser humanos. Así, cuanto más imperfecto es un texto, más probable es que haya sido escrito por una persona y no por una IA.
Herramientas para detectar texto generado por IA
AI Text Classifier de OpenAI. Ventaja: es desarrollado por una empresa líder en IA y se entrena con modelos de vanguardia. Desventaja: puede tener falsos positivos, especialmente con textos muy sencillos o cortos.
GPTZero
La herramienta es popular en el ámbito académico y se especializa en detectar texto generado por modelos como GPT. La desarrolló Edward Tian, un estudiante universitario de EE.UU. en 2023, con el objetivo de ayudar a profesores y académicos a identificar el uso no declarado de IA en trabajos escolares y universitarios, una gran problemática hoy en día. Pero cuidado, puede ser menos efectivo con textos híbridos, parcialmente escritos por humanos. No solamente puedes copiar y pegar un texto, sino que puedes subir un documento tuyo.
GPTZero analiza el texto y evalúa dos métricas clave: La perplejidad, que mide qué tan predecible es el texto para un modelo de lenguaje. Por ejemplo, un texto con baja perplejidad (muy predecible) suele ser típico de las IA. La segunda métrica que utiliza la herramienta de detección de texto generado por IA es la explosividad o burstiness en inglés: evalúa la variabilidad en la longitud y complejidad de las frases. Los humanos tienden a escribir con más variación que una IA.
DetectGPT
La herramienta se fija en qué tan predecible es un texto para un modelo como ChatGPT. Para eso, hace pequeñas modificaciones al texto (como cambiar algunas palabras) y observa si el texto original era mucho más lógico o coherente que las versiones modificadas. Si eso pasa, es una señal de que probablemente fue generado por una IA, ya que estas tienden a escribir de forma muy ordenada y predecible. En cambio, los textos humanos suelen ser más variados, menos perfectos, y no tan fáciles de predecir para un modelo.
DetectGPT tiene un enfoque novedoso: no analiza qué palabras usaste, sino cómo se comporta tu texto cuando se perturba frente al modelo de lenguaje. Esto le permite detectar textos generados por IA sin saber exactamente cómo fueron producidos, solo observando su estructura probabilística.
¿Podemos confiar realmente en los detectores de IA?
Por lástima, por el momento, la respuesta es no. Aunque estas herramientas mejoran cada día, aún es difícil que confíes completamente en ellas. Los textos copiados directamente desde ChatGPT son relativamente fáciles de detectar, pero muchos escritos humanos también son identificados erróneamente como generados por IA.
Estas equivocaciones se conocen como falsos positivos, y suelen ocurrir en textos con estructuras muy codificadas, como introducciones o conclusiones. Frases comunes como “como pudimos ver” o “para concluir, podemos afirmar que” suelen despertar sospechas injustificadas. También los artículos informativos o escritos en formato de lista son frecuentemente etiquetados como falsos positivos.
Incluso textos simples y lógicos como “Nuestros padres esperan frente al gimnasio a que salgamos de nuestra clase de deporte” pueden ser detectados como generados por IA, ya que su secuencia de palabras es predecible. En cambio, una frase como “Nuestros padres esperan frente al gimnasio para ir a comprar pan y tomar un avión” es menos lógica o esperada, por lo que parece más humana.
Una tarea casi imposible de comprobar
Al comprender cómo funcionan tanto las IA como los detectores, es relativamente fácil que eludes estos sistemas. Plantea un serio problema en el mundo educativo, donde existe incertidumbre sobre el verdadero origen de los trabajos entregados. ¿Fueron escritos por los alumnos o por una IA?
Sancionar un trabajo solo por sospechas de haber sido generado con inteligencia artificial es delicado en ausencia de pruebas claras. Y parece poco probable que el sistema educativo comience a valorar los errores ortográficos como prueba de autoría humana.
¿Cómo remediar el problema del uso de IA por parte de estudiantes?
Si estamos seguros de algo, es que nuestros estudiantes no dejarán de usar la IA, y es un trabajo de Hércules intentar prohibirlo. Lo que sí es cierto, La redacción de tareas en la escuela permite al alumno reflexionar sobre un tema, dar orden a sus ideas y argumentos y ejercer su capacidad de escribir con una correcta ortografía y estructura gramatical. La IA realiza esas tareas por ti, y no aprovechas el ejercicio mental de redactar un texto desde cero.
Un profesor, amigo mío, me dió un consejo para integrar la IA en las tareas de sus estudiantes: les obliga a entregar la misma en manuscrito, escrito a mano. El acto de escribir a mano permite una mejor comprensión del texto que les generó la IA.
Jean-Luc Lenoble
https://www.linkedin.com/in/jeanluclenoble
