Detectores de inteligencia artificial: por qué un resultado alto no alcanza para acusar a nadie

Yo me acuerdo de cuando un detector me marcó como sospechoso un párrafo que había escrito a las cuatro de la mañana, con un café al lado y una idea a medio cocinar. Nada de ChatGPT, nada de Copilot, solo yo peleándome con una oración que no terminaba de cerrar. Por eso, cada vez que escucho que un detector dio positivo y alguien ya está firmando la condena, me detengo y respiro: estas herramientas estiman, no prueban.

La cuestión de fondo es que revisar un documento con un detector de inteligencia artificial puede aportar indicios sobre cómo fue escrito, aunque también puede generar errores. Y la diferencia con un control de plagio no es un detalle menor: son funciones distintas, que conviene no mezclar como si fueran lo mismo.

Dos trabajos diferentes, dos botones diferentes

Pongámoslo en términos de cocina, que es como mejor me sale explicar estas cosas. Un control de plagio es como comparar tu receta con un recetario enorme: busca coincidencias exactas o muy parecidas con publicaciones anteriores. Un detector de IA, en cambio, prueba la masa del texto: analiza regularidades estadísticas en la escritura y qué tan predecibles son las palabras elegidas. Turnitin, por ejemplo, muestra esos dos resultados por separado, porque son cosas distintas.

El problema es que esa prueba de la masa tiene límites claros. Coderhouse advierte que los detectores pueden señalar como automáticos textos escritos por personas y que pierden eficacia cuando un documento mezcla partes humanas con contenido generado por IA. Entonces, un porcentaje alto puede servir para revisar el material con más cuidado, pero no alcanza para resolver por sí solo quién escribió qué.

• Comprobar que los datos y las cifras del texto sean reales y actuales, porque una redacción prolija puede esconder información inventada.
• Verificar que las citas y referencias existan, y que estén bien atribuidas, ya que las alucinaciones de los modelos de lenguaje siguen siendo un problema frecuente.
• Revisar las reglas de uso de inteligencia artificial de la institución o empresa que recibirá el trabajo, porque muchas exigen declararlo.
• No confundir corregir con humanizar: reformular una idea ajena no elimina la obligación de atribuirla cuando corresponde.
• Utilizar los comentarios y el registro de cambios de Word como apoyo para reconstruir cómo se escribió el documento.

Qué sigue en la discusión

Lo que viene es una pulseada larga entre quienes desarrollan detectores cada vez más finos y quienes crean herramientas para esquivarlos, los llamados humanizadores. Mientras tanto, la recomendación práctica no cambia: antes de entregar un trabajo, mirar el documento con más atención que el detector, porque el detector, como me pasó a mí aquella madrugada, a veces ve inteligencia artificial donde lo que hay es una persona cansada con un café en la mano.