En este artículo os vamos a explicar qué son las herramientas de IA llamadas Detectores de IA, cómo funcionan y cómo podéis utilizarlas de la mejor manera, tanto si sois estudiantes como profesores. Los Detectores pueden ser también de imágenes o vídeos o audios (también llamados “deepfakes”), pero en este artículo nos centraremos en los Detectores de texto o contenido generado por Inteligencia Artificial. Un Detector de IA nos dice cuando un texto es generado por IA o cuando es humano. Es decir, nos dice si un texto ha sido escrito por una persona o por un LLM como ChatGPT, por ejemplo.
Actualmente, todos utilizamos los LLM (Large Language Model) o modelos extensos de lenguaje, como el precursor ChatGPT y similares: Gemini, Copilot, Claude, Deepseek, etc. A continuación, os contaremos, brevemente, cómo funcionan los LLM a la hora de generar texto para que así entendamos cómo es posible detectarlos.
Para empezar, no olvidemos que cuando hablamos de IA hablamos de computación y, concretamente, de software. Muchas veces hablamos de la Inteligencia Artificial como si fuera magia o fuera un ente y no es más que un software o programa informático.
Un “ChatGPT”, entonces, es un software que se desarrolla a partir de un modelo o arquitectura de IA llamado LLM (que estaría dentro de la rama de la IA llamada Procesamiento del Lenguaje Natural) y que permite a este software comprender, interpretar y generar lenguaje humano (tanto escrito como hablado). Para que pueda interactuar con nosotros, se crea un interfaz y, por eso, le llamamos Chatbot porque nos permite hablar y preguntarle, es decir, chatear con él y él nos responde y nos asiste con todo aquello que le hayamos pedido, y es la razón por la que les llamamos: Asistentes de IA (conversacionales).
¿Cuáles son las características del contenido generado por un LLM?
-Sintaxis: Estos modelos o LLM como ChatGPT, etc utilizan estructuras gramaticales uniformes, y la longitud y la complejidad de las oraciones no son tan variadas ni complejas como las escritas por humanos. Es decir, en un texto escrito por humanos no hay una regularidad sino todo lo contrario y más cuando cada persona escribe diferente y, por tanto, la legilibidad de un texto humano es muy heterogénea.
-Semántica: Un texto escrito por una persona tiene una mayor complejidad semántica, tanto en el significado de las palabras que se usan y sus connotaciones como en el empleo, por ejemplo, de metáforas. Nada que ver con el texto generado por IA, que es mucho menos creativo, más plano.
-Vocabulario: El texto generado por humanos tiene una riqueza de vocabulario mucho mayor, ya que suelen utilizar palabras menos comunes y con mayor presencia de palabras clave o n-gramas. Lo contrario a un texto generado por IA que se basa en patrones más comunes y repetitivos tanto en palabras como en frases.
¿Cómo funcionan los detectores de contenido de IA?
Los Detectores de IA de texto funcionan a partir del Aprendizaje Automático y del Procesamiento del Lenguaje Natural y lo hacen con 2 criterios de evaluación, principalmente, que son:
1) Perplejidad: Es un término que se utiliza para medir cuando un modelo de IA se sorprende o encuentra patrones que no conoce y que se alejan de los conocidos. Los modelos extensos de lenguaje o LLM están entrenados para utilizar palabras previsibles. En el ejemplo siguiente, el primer caso es previsible, el segundo no tanto y el tercero imprevisible:
a. -Hola, ¿qué tal estás? Bien, gracias
b. -Hola, ¿qué tal estás? Vamos tirando.
c. -Hola, ¿qué tal estás? Volando voy, volando vengo…
En la actualidad, con toda probabilidad, un Detector de IA determinará que la tercera opción es humana, la segunda no estará seguro y la primera que es generada por IA.
2) Ráfaga o Estallido: En este caso, se mide la variación de las oraciones. Como se ha mencionado previamente, la sintaxis de las oraciones generadas por un modelo de lenguaje grande (LLM) tiende a ser consistente, con una longitud y estructura convencionales y uniformes. Todo lo contrario, a un contenido generado por un humano que son de todo menor regulares.
Lo que hacen es utilizar un algoritmo de clasificación de aprendizaje automático como árboles de decisión, regresión logística, etc. para decir lo que es generado por IA de lo que no, según los criterios explicados.
¿Son efectivos los Detectores de contenido o texto generado por IA?
Pues la respuesta es NO. El problema es que, muchas de las veces, ofrecen falsos positivos. Un falso positivo es cuando un detector nos dice que un texto ha sido generado por IA cuando ha sido creado por un humano.
Veamos un ejemplo concreto. Hemos hecho la prueba con 4 de los más conocidos Detectores de contenido por IA (aquí encontraréis un directorio amplio). Lo único que tenéis que hacer en un Detector es pegar el texto que queréis analizar. Muchos son gratuitos para un texto breve, algunos os piden registraros con vuestro email para hacer una prueba o test.
Hemos tomado, como ejemplo, el preámbulo de la Constitución española. Si hacemos una prueba vemos que nos dice que el texto es generado por IA en dos de los Detectores:
1ª Prueba: ERROR (el detector nos dice que es creado por IA)
2ª Prueba: ERROR (el detector nos dice que es creado por IA)
Y en otros dos, en cambio, nos dice que, efectivamente, es un texto de creación humana:
3ª Prueba: Acierto (el detector nos dice que es creado por humanos)
4ª Prueba: Acierto (el detector nos dice que es creado por humanos)
No os decimos cuáles son los Detectores en cuestión, porque no estamos haciendo una valoración o análisis de estos Detectores. Pero, sobre todo, porque si volvemos hacer la prueba, pero con otro texto puede que los que hayan fallado acierten y viceversa. Es decir, no se conoce, por el momento, un Detector de IA que sea infalible, todos cometen errores. Podéis hacer la prueba vosotros mismos y veréis que estamos en lo cierto.
Según se contó en su momento, la empresa creadora de ChatGPT, OpenAI, estaba investigando con la opción de que un texto creado por ChatGPT tuviera una “marca de agua” invisible, que podría ser detectada por cualquier Detector y así siempre saber cuándo un texto ha sido creado por IA. Pero de momento no se conoce nada más al respecto.
Esto es un problema porque no tenemos la fiabilidad de que con un Detector podamos saber a ciencia cierta si un texto o contenido es generado por IA o no.
Por lo tanto, pasemos a la guía de qué debemos hacer, según seamos estudiantes o profesores:
Estudiantes:
1) Utiliza siempre la Inteligencia Artificial como guía o tutor.
Las herramientas de IA son excelentes para decirte en cómo debes resolver un problema, más que en resolverlo. Están programados para ello. Por eso, utiliza siempre la IA para que te ayude a resumir y comprender un documento; para entender y resolver una ecuación; para analizar o sintetizar cualquier tema que tengas que estudiar o presentar. Es como si tuvieras un profesor particular, pero gratuito y para cualquier tipo de asignatura. ¿Te parece poco?
2) Utiliza la IA como una excelente herramienta creativa y de exploración.
La IA Generativa que es la que utilizamos cuando queremos generar contenido como texto o en el caso de imágenes es una excelente forma de ayudarnos a ser creativos. Antes teníamos que acudir a profesores, compañeros de clase, libros, internet, etc para poder extraer la información que necesitábamos en nuestro proyecto de estudio, sea cuál sea, ahora en segundos lo podemos tener al alcance de la mano. Pero además la IA nos ayuda a explorar mucho más allá de lo que podríamos hacer por nosotros mismos o con la ayuda de personas. ¡Sepamos utilizarla y el resultado será enorme!
Profesores:
1) Aprende a enseñar y evaluar con la IA.
Si eres un profesor senior recordaras cuando se prohibía el uso de las calculadoras en clase. Hoy en día, cualquier estudiante de matemáticas las puede utilizar. Porque para evaluar a un estudiante es tan sencillo como decirle que solucione un problema que acabas de escribirle en la pizarra para evaluar si lo sabe o no. Pues es lo mismo con la IA, los profesores debéis gestionar vuestro trabajo con las herramientas que hoy día proporciona la IA. Y evaluar de forma que la IA no sea un problema, sino todo lo contrario, una solución.
2) Los Estudiantes van a utilizar la IA de todos modos.
Todos sabemos que no hay nada peor para que algo no se haga, que prohibirlo. Además, no podemos ponerle puertas al campo, y la IA es un campo enorme. Por eso, lo que hay que hacer es enseñar a los estudiantes a cómo deben utilizar la IA de una manera eficaz y responsable. Porque si lo prohibimos, lo único que conseguiremos es que el estudiante encuentre la manera de utilizarla y lo hará de una forma ineficaz.
Esperamos que este artículo os haya sido de utilidad. Desde Gana Inteligencia os informamos de las mejores herramientas de IA para vuestros estudios, profesión, trabajo o negocio. Somos expertos en IA. Consúltanos!
