¿Cómo funcionan los detectores de IA?

Y es que, es importante saber si un texto ha sido generado por una persona o una “máquina”, principalmente para garantizar su transparencia y su originalidad. Para ello, se han creado los detectores de IA, que son capaces de hacer ese proceso de identificación y mostrarnos si un contenido es ‘made in IA’ o no.  

Y es precisamente de ellos, en concreto, de los que hablaremos en este artículo, explicando en qué consisten, cómo funcionan los detectores de IA, cuáles son los factores que influyen en sus resultados finales y qué errores son los más habituales (falsos positivos y negativos, por ejemplo).

Un detector de inteligencia artificial es una herramienta que, mediante el uso de algoritmos, es capaz de determinar la probabilidad de que un texto se haya escrito con una IA. Esto significa que, con su uso, se puede conocer si proviene de una persona o una máquina.

El detector de IA se vale de una serie de factores, como la estructura del contenido, el lenguaje utilizado o los patrones y anomalías que este pueda incluir, para dictaminar si el texto se ha generado artificialmente o lo ha escrito un ser humano.

Eso sí, hay que tener en cuenta que su respuesta no tiene un 100% de veracidad, solo es, como se ha indicado, una probabilidad en forma de porcentaje. 

Es recomendable la detección de textos que se redactan con IA, principalmente y para todos los sectores (incluido el empresarial), por una cuestión de transparencia y de confianza (si bien, como veremos en los siguientes ejemplos, no son los únicos motivos por los que se aconseja su uso).

En sectores como el de la información, para que la información publicada sea original y veraz (también para proteger su propiedad intelectual). En el educativo, para prevenir el fraude. Y en el empresarial, hacen que el contenido publicitario, así como el corporativo, sean auténticos y estén en concordancia con los estándares de calidad de la marca.

El entrenamiento es la base del funcionamiento de los detectores de inteligencia artificial, como le ocurre a las IAs, sustentado en el aprendizaje automático y en el procesamiento de lenguaje natural. 

Este, y tras el uso de una inmensa cantidad de datos, les capacita para leer e interpretar una serie de patrones textuales y semánticos (más complejos según sea el grado de entrenamiento) que les permiten hacer su dictamen final: si estos patrones se encuentran en un alto grado, la probabilidad de que lo haya hecho una IA será alto, si no, será bajo).

Y estos patrones, en concreto, lo que buscan son, entre otros, los siguientes factores:

Son varios los elementos técnicos que permiten emitir su veredicto a estas herramientas (y explican, en cierta medida, cómo funcionan los detectores de inteligencia artificial):

Entrenamiento en datos

Es la principal fuente de conocimiento de los detectores de IA, aunque, para que sean eficaces, se le deben proporcionar grandes bases de datos de textos elaborados por humanos (y también por máquinas) para que los analice y vaya aprendiendo (tanto los estilos como las estructuras). 

Perplejidad

Se mide lo complejo e imprevisible que es el texto analizado. Así, si el texto es sencillo de entender (lo que lo hará, en la mayoría de los casos, bastante previsible), significará que lo ha generado una inteligencia artificial. Si, por el contrario, es complejo y contiene una gran cantidad de “giros inesperados”, lo normal es que sea de una persona.

Y es que, el ser humano no suele escribir de una forma pautada (como sí lo suele hacer la IA), sino que es más impredecible. Esto hace que el detector de inteligencia artificial se puede apoyar en este “factor” para decidir si el texto es de IA o no.

En definitiva:

• Perplejidad baja: es muy probable que lo haya redactado una IA.
• Perplejidad alta: es muy probable que lo haya redactado una persona.

Ráfaga

Se refiere a la variación en la estructura de las frases. 

Los textos que crean las IAs se caracterizan por tener una frases de una estructura y longitud similares (lo que implica que el ritmo del texto es constante y, por tanto, monótono) lo que no ocurre, normalmente, en las que proceden de un ser humano (el cual entremezcla las cortas con las largas y las sencillas con las complejas).

Por tanto, cuando el detector de inteligencia artificial detecta una carencia en el ritmo del texto, o que este es lento, tenderá a interpretarlo como generado por IA.

Patrones (estadísticos y lingüísticos)

Son como las huellas dactilares del texto. 

Es común que las IAs, al crear el texto, tiendan a repetir ciertas frases y estructuras en él, haciéndolo, además, de forma perfecta (y tratando de ser originales). Algo que detectan, con un buen entrenamiento, los detectores de inteligencia artificial.

Y lo hacen porque, al contrario que las máquinas, el texto que redacta el ser humano tiene pequeñas imperfecciones y matices de carácter lingüístico que la IA no llega, de momento, a poder replicar al 100%, lo que hace que este sea un factor diferencial para el detector de inteligencia artificial.

El grado de acierto de un detector de inteligencia artificial es, hoy, un tema de debate constante. Y es que, aunque se ha mejorado mucho la precisión de estas herramientas (desde sus inicios), todavía no son infalibles y su fiabilidad es dependiente del tipo de texto analizado.

A continuación, se muestra una tabla orientativa de eficacia estimada de un detector de IA (según el tipo de contenido):

Si bien es cierto que estas herramientas son de utilidad, saber si un texto es o no de IA es complicado. Y lo es, en gran medida, por errores técnicos que lo dificultan.

Es importante, por tanto, que no solo se conozcan los puntos fuertes, también los débiles o limitantes de los detectores de inteligencia artificial (saber, en definitiva, que no son perfectos y que pueden equivocarse en sus resultados).

Por ejemplo, pueden dar:

• Falsos positivos: es cuando la herramienta indica que el texto escrito por una persona lo ha hecho una IA (lo que es grave, ya que puede dañar la credibilidad de su autor).
• Falsos negativos: es cuando un texto generado íntegramente por IA pasa el “examen” del detector de inteligencia artificial, la cual lo marca como redactado por una persona (lo que es grave, ya que da por bueno un contenido que, por diversas razones, puede no serlo).

El fallo de un detector de IA se puede deber, también, a sesgos formativos, es decir, a limitaciones respecto de los datos utilizados en su entrenamiento. 

Por ejemplo, cuando un sistema solo se entrena con textos en inglés, podría fallar al analizar un texto escrito en otro idioma (como el castellano), al identificar como "artificial" una forma de escribir que se salga de su “norma estándar”. 

Carecer de contexto

Estas herramientas no tienen en cuenta los contextos en los que se escribe el contenido analizado. Esto significa que, frente a 2 textos que estén redactados, uno con todo irónico y otro con tono más formal, aplicará los mismos criterios de análisis, lo que puede influir en el resultado.

El uso de los detectores de inteligencia artificial se ha extendido por la mayoría de los sectores y ámbitos profesionales (al ser cada vez más importante la verificación de la autoría de los contenidos que se escriben, sobre todo de los digitales).

Entre los sectores que más se utiliza, en España, se encuentran:

• Educación: los docentes lo emplean para asegurarse de que los trabajos de sus alumnos son propios (y fruto de su trabajo) y no procedentes de una IA.
• Editorial: los propietarios de revistas y periódicos buscan comprobar la integridad de los artículos que publican (para mantener la confianza de sus lectores).
• Medios de comunicación: son herramientas que les ayudan a mantener el “toque humano” de sus informaciones y, además, hacen posible que no empeoren su posicionen en buscadores.
• Legal: pueden utilizarse como herramienta adicional de control interno, aunque la validez jurídica de un documento no depende de si ha sido redactado con IA.
• Empresarial: entre otros motivos, se usa para verificar que los informes, manuales y contenidos publicitarios y de marketing mantienen un estándar de calidad y son 100% originales.

Es común confundir estos términos, a pesar de ser muy distintos.

El plagio consiste en copiar el trabajo de otra persona y presentarlo como propio (lo que, entre otras cosas, vulnera sus derechos de autor). La detección de IA, en cambio, busca identificar contenido que no tiene un autor humano detrás (en este caso, no hay un "robo" de ideas a otra persona, sino una delegación total de la escritura en un sistema de procesamiento de datos).

La inteligencia artificial ya forma parte del presente y en BBVA queremos acompañarte para que la incorpores a tu negocio de forma práctica y eficaz. El objetivo es que sigas haciendo lo que ya sabes hacer, pero con herramientas que te permitan llegar más lejos y hacerlo mejor:

• Conoce cómo hablar con una IA con consejos para hacer un buen prompt.
• Cómo la inteligencia artificial puede ayudarte en las diferentes áreas de tu negocio.

¿Quieres saber más sobre ello? Puedes encontrar muchos más contenidos relacionados con inteligencia artificial en esta sección especializada de IA para empresas.