Las herramientas de detección de IA prometen indicarte si un texto ha sido redactado por una persona o por una máquina. Los profesores las utilizan para evaluar los trabajos escritos. Los redactores las utilizan para analizar los artículos. Los empleadores llegan incluso a utilizarlas para examinar las cartas de presentación. Sin embargo, estas herramientas son mucho menos fiables de lo que sugieren sus puntuaciones.
Por ello, esta guía explica cómo funcionan las herramientas de detección de IA. También pone de relieve sus limitaciones y explica cómo utilizarlas con precaución.
Qué hacen realmente las herramientas de detección de IA
Un detector de IA es un programa que lee un texto y le asigna una puntuación. Esta puntuación estima la probabilidad de que dicho texto haya sido redactado por un modelo lingüístico. En otras palabras, la herramienta formula una hipótesis y no aporta pruebas.
La mayoría de los detectores son, a su vez, modelos de aprendizaje automático. Los desarrolladores los entrenan a partir de amplios conjuntos de textos redactados tanto por personas como por máquinas. De este modo, el modelo aprende a distinguir entre ambos tipos de textos. Cuando se pega un texto nuevo, compara estos patrones y devuelve un porcentaje.
Estas herramientas se centran en los resultados generados por los grandes modelos lingüísticos. Si quieres refrescar tus conocimientos sobre esta tecnología, consulta nuestra guía de casos de uso de los grandes modelos lingüísticos. Los chatbots, como los que se presentan en nuestro artículo sobre programas de chat basados en IA, suelen ser la fuente de estos textos.
Cómo funciona la detección que hay detrás de la puntuación
Los detectores se basan en varias señales. Dos de ellas se repiten constantemente.
La perplejidad
La perplejidad mide el grado de sorpresa de cada palabra. Un modelo lingüístico selecciona palabras probables, lo que a menudo hace que su texto resulte fluido y predecible. Los redactores humanos, por el contrario, suelen elegir palabras poco habituales. Por lo tanto, una baja perplejidad hace que la puntuación se incline hacia «máquina».
Burstiness
La «burstiness» mide el grado de variación en la longitud y la estructura de las frases. Los humanos alternan frases cortas y frases largas. Un modelo, en cambio, tiende a mantener un ritmo regular. Un ritmo monótono aumenta el riesgo de una clasificación como «máquina».
Algunos sistemas añaden un tercer método denominado «marca de agua». En este caso, el modelo da preferencia de forma discreta a ciertas palabras durante la redacción. A continuación, una herramienta de comparación comprueba la presencia de este patrón oculto. Esto solo funciona cuando el texto procede de un modelo que utiliza dicha marca de agua.
Por qué se equivocan las herramientas de detección de IA
Las señales mencionadas anteriormente son débiles. Muchas personas escriben con un estilo sencillo y regular. Los redactores técnicos, los estudiantes y los hablantes no nativos suelen formar parte de este grupo. Por lo tanto, su trabajo, aunque sea honesto, puede parecerse a un texto generado por una máquina.
Por ejemplo, investigadores de Stanford probaron varios detectores con redacciones escritas por hablantes no nativos de inglés. Las herramientas señalaron gran parte de estas redacciones humanas como generadas por una máquina. Puedes consultar el estudio en arXiv. Estos resultados muestran por qué una puntuación alta nunca debería dar por zanjado el debate.
También pueden producirse errores en sentido contrario. Una persona puede revisar un borrador generado por un chatbot y hacer que la puntuación baje. Los modelos más recientes también escriben de forma más variada, lo que hace que los indicadores antiguos sean menos útiles. Además, los detectores se quedan obsoletos con cada nueva versión de los modelos.
Incluso el desarrollador de un importante chatbot retiró su propio detector en 2023 debido a su escasa precisión. Esta decisión pone de manifiesto la complejidad del problema. Por eso, una puntuación siempre debe situarse en su contexto. Un texto breve proporciona muy pocos elementos a la herramienta para realizar su análisis; por lo tanto, las respuestas cortas y las listas son las más propensas a errores. Las muestras más largas ayudan, pero nunca disipan por completo la duda.
Cómo utilizar las herramientas de detección basadas en IA de forma responsable
No obstante, un detector puede resultar útil si lo consideras como una pista más entre otras. En primer lugar, respeta unas cuantas reglas sencillas. A continuación, documenta cómo has llegado a cada decisión.
Nunca te fíes únicamente de una puntuación
Considera el resultado como un motivo para examinar el texto más detenidamente. A continuación, compara el texto con trabajos anteriores del autor. Pide al autor que explique cómo lo ha redactado. Una conversación tranquila dice más que cualquier porcentaje.
Busca pruebas concretas
Examina el contenido en sí mismo. ¿Cita fuentes que existen? ¿Contiene datos erróneos o inventados? Nuestro artículo explicativo sobre las imágenes generadas por IA muestra la rapidez con la que estas herramientas producen ahora resultados convincentes en otros medios. Esa misma rapidez se aplica al texto; por lo tanto, una verificación minuciosa es más importante que nunca.
Establece primero una política clara
Los centros educativos y las empresas deben especificar qué está permitido antes de probar nada. Algunas tareas pueden beneficiarse de la ayuda de la IA, mientras que otras la prohíben. Una norma clara es justa para todos y evita tener que investigar el uso oculto de estas herramientas.
Los autores también pueden protegerse. Guarda tus borradores, conserva tus notas de investigación y redacta utilizando una herramienta que guarde el historial. Si un detector te acusa, ese rastro demuestra que eres el autor de tu trabajo. También demuestra que has llevado a cabo la reflexión por ti mismo.
Mejores formas de demostrar la autoría humana
Dado que la detección es poco fiable, muchos equipos se centran ahora en el proceso. Solicitan esquemas, notas y borradores. El historial de versiones de un documento compartido muestra cómo ha evolucionado un texto a lo largo del tiempo. Al mismo tiempo, las breves conversaciones en directo permiten al redactor demostrar un conocimiento real del tema.
Estos métodos respetan a los autores honestos. Además, proporcionan a los correctores pruebas más sólidas que una simple cifra. Además, inculcan buenos hábitos a los estudiantes, ya que la planificación y la revisión son habilidades que merece la pena desarrollar.
Conclusión: lo que las herramientas de detección basadas en IA pueden y no pueden hacer
Las herramientas de detección basadas en IA miden patrones, y los patrones no constituyen una prueba. Pueden señalar un texto que merece un examen más detallado. No pueden determinar quién lo ha redactado.
Por lo tanto, el enfoque más sensato consiste en combinar una puntuación que debe tomarse con cautela, una revisión humana y una política clara. Utiliza estas herramientas para iniciar un debate, no para ponerle fin. A medida que los modelos lingüísticos sigan mejorando, los controles basados en el proceso cobrarán más importancia que cualquier escáner.