Inteligencia Artificial

Crean algoritmo que podría detectar «Fake News»

La herramienta tiene la capacidad de detectar la probabilidad de que una palabra aparezca detrás de otra en el lenguaje natural. Además han publicado el código en GitHub para que cualquiera pueda implementarlo.

¿Adiós a las Fake News?

El Instituto de Tecnología de Massachussets (MIT), el IBM-Watson Lab y el departamento de procesamiento del lenguaje natural de Harvard crearon una herramienta de inteligencia artificial (IA) que detecta qué partes de un texto fueron creadas mediante un algoritmo de inteligencia artificial.

Sus creadores Hendrik Strobelt, Sebastian Gehrmann y Alexander Rush bautizaron el algoritmo como Giant Language Model Test Room (GLMTR) y de momento está en fase de pruebas y demostración, pero abierta en internet. En la página se puede probar a GMLTR mediante tres textos generados por inteligencia artificial y otros tres escritos por humanos. También se puede copiar y pegar un texto propio o escribir directamente en la herramienta para que esta analice el texto. Además han publicado el código en GitHub para que cualquiera pueda implementarlo.

El algoritmo predice la probabilidad de que una palabra aparezca justo después de la palabra anterior. Los investigadores explican que si un sistema de generación automática de textos «utiliza un modelo de lenguaje y predice palabras muy probables, el resultado parecerá similar al que un humano hubiera elegido en una situación similar, a pesar de no tener mucho conocimiento sobre el contexto».
¿Adiós a las Fake News?
Obviamente esto abre el camino a usos maliciosos como generar críticas, comentarios o noticias falsas. Para evitar que esto suceda, los creadores aseguran que «necesitamos desarrollar técnicas forenses para detectar los textos generados automáticamente, por la cual cosa suponemos que el texto generado por un ordenador engaña a los humanos al usar las palabras más probables en cada posición. En contraste, la escritura natural en realidad selecciona con mayor frecuencia palabras más impredecibles, pero que tienen sentido en un contexto determinado. Por tanto, eso significa que si en el texto analizado aparecen palabras demasiado probables, puede que no lo haya escrito una persona».

El algoritmo del MIT, IBM y Harvard marca las palabras en distintos colores. Las más probables en color verde, las algo menos probables en amarillo, las poco probables en rojo y las claramente improbables en púrpura. Cuantas más palabras marcadas en verde y en amarillo tenga el texto más probabilidad hay de que haya sido escrito por una máquina y no por una persona.

Te puede interesar

piel artificial

Utilizarán piel artificial para probar cosméticos

Lograron crear un fragmento de piel humana del tamaño de una uña de un pulgar, …

Deja un comentario