imagen./stock.adobe.com

Las herramientas tecnológicas de IA como ChatGPT están capacitando a los titulares. Los chatbots diseñados para ofrecer servicios en el mundo real no van a desaparecer: desde escribir poesía en un estilo que recuerda a la Inglaterra del siglo XVI hasta redactar artículos de investigación científica. De hecho, estos no tan malos agentes seguirán mejorando en su oficio. ¿Seremos capaces de no dejarnos engañar por los modelos de procesamiento del lenguaje natural que se están convirtiendo en un elemento fundamental de nuestra sociedad?

Engáñame una vez

Un equipo de investigación de la Facultad de Ingeniería y Ciencias Aplicadas de la Universidad de Pensilvania (Estados Unidos) ha llevado a cabo el mayor estudio humano sobre la detección de la IA para aportar algo de ayuda. Recopilaron datos del juego de entrenamiento en línea «Real or Fake Text?» creado por la misma universidad. Los resultados se presentaron en un artículo con revisión por pares en el marco de una reunión de la Asociación para el Avance de la Inteligencia Artificial, celebrada en febrero. El estudio empezo que podemos aprender a detectar textos escritos por personas y textos generados por maquinas. «Hemos demostrado que las personas pueden entrenarse para reconocer textos generados por máquinas», afirma en un artículo Chris Callison-Burch, profesor asociado del Departamento de Informática y Ciencias de la Información (ICI). «Las personas parten de una serie de suposiciones sobre qué tipo de errores cometería una máquina, pero estas suposiciones no son, no obstante, correctas. Con el tiempo, si se nos facilitan suficientes ejemplos e instrucciones limpias, podemos aprender a detectar los tipos de errores que cometen las máquinas en la actualidad».

El entrenamiento hace mucho

«Hoy en día, la IA es asombrosamente buenos textos produciendo muy fluidos y gramaticalmente correctos», explica Liam Dugan, coautor del estudio y doctorando en el ICI. «Sin embargo, comete errores. Hemos demostrado que las máquinas cometen distintos tipos de errores —por ejemplo, de sentido común, pertinencia, razonamiento y lógica— que podemos aprender a detectar». «Hay motivos válidos para que la gente esté preocupada por la IA», añadió Callison-Burch, quien dirigió la investigación. « Nuestro estudio aporta pruebas que disipan esas preocupaciones. En cuanto podamos aprovechar nuestro optimismo sobre los generadores de texto mediante IA, podremos dedicar nuestra atención a la capacidad de estas herramientas para ayudarnos a escribir textos más imaginativos e interesantes». «En este momento tengo la sensación de que dichas tecnologías son más adecuadas para la escritura creativa», añade el investigador. «Las noticias, los trabajos de final de grado o el asesoramiento jurídico constituyen malos casos de uso porque no se garantiza la veracidad de los hechos». Dugan ve lo positivo en todo ello: «Existen interesantes caminos positivos en los que se puede impulsar esta tecnología. Aunque las personas se fijan en los ejemplos más preocupantes, como el plagio y las noticias falsas, ahora sabemos que podemos entrenarnos para ser mejores lectores y escritores». Entonces, ¿qué tan bueno puede ser? Para saberlo, juegue a cualquiera de las cuatro categorías del juego (relatos breves, artículos periodísticos, recetas de cocina o discursos presidenciales), que contienen millas de textos.

Autor

CORDIS

El Servicio de Información Comunitario sobre Investigación y Desarrollo (CORDIS) es la principal fuente de la Comisión Europea los resultados de los proyectos financiados por los programas marco de investigación e innovación de la UE (desde el 1PM hasta Horizonte 2020). Nuestro objetivo es acercar los resultados de investigación a los profesionales del sector para fomentar la ciencia abierta, crear productos y servicios innovadores y estimular el crecimiento en toda Europa.