La respuesta tecnológica a la inquietud sobre el uso de inteligencia artificial en la escritura ha sido el desarrollo de detectores de contenido IA, tales como GPTZero, Turnitin y Originality.ai. Sin embargo, lejos de ofrecer certezas, estas herramientas están demostrando ser profundamente imprecisas, al punto de poner en riesgo la credibilidad de procesos de evaluación de autoría.
El problema no es menor ni superficial: es estructural. Estos sistemas no identifican quién escribió un texto, sino que estiman probabilidades basadas en patrones estadísticos. Analizan variables como la predictibilidad del lenguaje (perplejidad) o la regularidad en la redacción. En términos simples, evalúan cómo está escrito un texto, no su origen real. Esta limitación técnica es suficiente para cuestionar su uso como evidencia.
Una de las principales fallas es la generación de falsos positivos. Textos completamente humanos -especialmente aquellos bien estructurados, coherentes y sin errores- suelen ser clasificados como “probablemente generados por IA”. Esto ocurre porque la escritura clara y ordenada coincide con los patrones que también produce la inteligencia artificial. El resultado es paradójico: mientras mejor escribe una persona, mayor es el riesgo de ser acusada injustamente.
A esto se suma la inconsistencia entre herramientas. Un mismo documento puede arrojar resultados completamente distintos dependiendo del detector utilizado. Un sistema puede indicar un alto porcentaje de contenido IA, mientras otro lo considera mayoritariamente humano. Esta variabilidad evidencia que no existe un estándar técnico sólido ni uniforme, debilitando aún más su fiabilidad.
Otro elemento crítico es el sesgo lingüístico. Diversos análisis han demostrado que estos detectores tienden a equivocarse con mayor frecuencia en textos escritos por personas cuyo idioma nativo no es el inglés, así como en estilos académicos o técnicos. Esto introduce un problema de equidad: no todos los autores son evaluados bajo las mismas condiciones, lo que puede derivar en decisiones injustas.
Además, los detectores no consideran el contexto. No pueden distinguir si un texto fue escrito antes de la existencia de herramientas como ChatGPT, ni si ha sido editado, revisado o corregido por terceros. Tampoco identifican procesos legítimos de escritura colaborativa o uso de herramientas de apoyo. Reducen todo a una métrica probabilística, ignorando la complejidad real de la producción intelectual.
Las consecuencias de confiar ciegamente en estas herramientas ya se están evidenciando en entornos académicos y profesionales: acusaciones erróneas, cuestionamiento de trabajos legítimos y pérdida de confianza en los sistemas de evaluación. En contextos donde la autoría tiene implicancias éticas y formales, basarse en un indicador incierto no solo es técnicamente débil, sino institucionalmente riesgoso.
En rigor, los detectores de IA pueden ser útiles como herramientas orientativas o exploratorias, pero no cumplen con los estándares necesarios para ser considerados prueba de autoría. Pretender lo contrario implica delegar decisiones críticas a sistemas que aún no comprenden el lenguaje humano en su totalidad.
La discusión no debería centrarse en prohibir o adoptar estas tecnologías, sino en comprender sus límites. La autoría es un fenómeno complejo, vinculado a intención, contexto y proceso. Ningún algoritmo, por avanzado que sea, puede reducir esa complejidad a un porcentaje sin incurrir en errores.
En definitiva, el desafío actual no es detectar la inteligencia artificial, sino evitar que su mal uso termine erosionando la confianza en la inteligencia humana.
