2023-02-25¿Cómo detectaremos los textos hechos con ChatGPT y similares?
Blogthinkbig |ChatGPT, que también se incluye en el nuevo Bing, es una herramienta extremadamente útil para generar textos fácilmente o realizar consultas rápidas. Esta y otras IAs similares, sin embargo, tienen un inconveniente. Son tan precisas, que en muchas ocasiones es prácticamente imposible saber si un texto está hecho con ChatGPT o si, en cambio, lo ha escrito un ser humano, algo que podría traer consigo contenido engañoso o manipulativo. De hecho, ya hemos visto como muchos profesores se han posicionado en contra de la IA porque lleva a sus alumnos a utilizarla para, entre otras cosas, hacer los deberes. Pero, ¿cómo detectaremos los textos hechos con ChatGPT y similares?A día de hoy, saber si un texto está hecho con ChatGPT o un modelo de IA similar es una tarea muy complicada. Sobre todo, si tenemos en cuenta el lenguaje tan natural que tienen este tipo de herramientas. Por ejemplo, podríamos detectar los textos hechos con ChatGPT buscando contenido inexacto o incorrecto. Y es que la IA no es perfecta y, en muchas ocasiones, comete errores, sobre todo en aquellos textos relacionados con las finanzas.
El problema es que el ser humano también puede equivocarse a la hora de escribir texto. Por tanto, la forma de saber con certeza si lo ha escrito ChatGPT y similares, es fijarse si en alguna parte del texto hay un mensaje en el que se detalle que ha sido generado mediante una IA. Por ejemplo, algunos científicos han utilizado ChatGPT para sus estudios, y nombran a la inteligencia artificial como autor. Detectar textos hechos con ChatGPT y similares sin autoría, sin embargo, podría ser más sencillo en un futuro.
Existen herramientas capaces de detectar textos hechos con ChatGPT
Detectar textos ChatGPT. Blogthinkbig
Compañías que han desarrollado modelos capaces de generar texto, como OpenAI, también están trabajando en IAs que puedan detectar textos hechos con ChatGPT. Son, en realidad, herramientas muy sencillas de usar. El usuario tan solo debe copiar el texto, pegarlo en la plataforma y esperar a que esta detecte si está hecho con ChatGPT, Bard u otro modelo parecido.
Este tipo de herramientas, sin embargo, no son totalmente fiables. Por ejemplo, la que anunció recientemente OpenAI solo identifica correctamente el 26% del texto escrito por IA. Además, un 9% de las veces da falsos positivos. Es decir, puede que ese texto lo haya escrito un humano, pero la plataforma lo etiqueta como escrito por una IA.
La herramienta capaz de detectar textos hechos con ChatGPT o similares, eso sí, puede mostrar diferentes resultados dependiendo de la precisión a la hora de comprobar si algo lo ha escrito una IA. Por ejemplo, si no puede distinguir si es algo generado por un humano o por un modelo de inteligencia artificial, etiquetará el resultado como “posible”. Si, en cambio, la plataforma tiene más seguro que ese texto está hecho con ChatGPT o similares, lo etiquetará como “muy improbable”.
Lamentablemente, es muy poco probable que este tipo de herramientas sean capaces de detectar textos hechos con ChatGPT si estos son muy predecibles. Por ejemplo, es extremadamente complicado saber si una lista con los nombres de las provincias de España ordenados alfabéticamente, lo ha escrito una IA o un humano.
A futuro, la única forma de detectarlo será incorporando, de alguna manera, marcas de agua o metadatos, de la misma manera que las imágenes a menudo llevan datos EXIF. Pero hecha la ley, hecha la trampa. No sería una sorpresa que surgieran formas de retirar esos metadatos asociados, de la misma manera que se pueden editar los datos EXIF de una fotografía. Es ahí donde autoridades y principales actores en el campo de la inteligencia artificial tendrán que seguir trabajando en paralelo al avance de los modelos.
Rubén Chicharro
El blog de innovación de Telefónica
2023-03-31
Cómo vivir grandes experiencias inmersivas con Spatial
¿Sabías que en el año 2026 más de una cuarta parte de la población vivirá al menos una hora al día en el Metaverso? No es ninguna sorpresa viendo como estas nuevas tecnologías están avanzando, ofreciendo nuevas formas de comprar, formarnos, trabajar e incluso socializar.
2023-03-31
La inteligencia artificial toma conciencia ambiental calculando su propia huella de carbono
Los últimos avances tecnológicos de la mano de la inteligencia artificial no dejan de sorprendernos debido a todas las posibilidades que ofrece y a todas las materias que es capaz de abarcar. Sin embargo, una de sus características menos positivas es que para su entrenamiento y funcionamiento se requieren grandes cantidades de energía, siendo toda una incógnita el tamaño de su huella de carbono.
2023-03-30
Advierten riesgos de uso irrestricto de inteligencia artificial
-Dos informes internacionales alertan sobre riesgos de uso inadecuado de la inteligencia artificial -Oficina ONU de DDHH recomienda moratoria hasta regularse salvaguardas a derechos de las personas -Otro estudio advierte que avance de esta tecnología llegó a su “punto de inflexión”
2023-03-30
Nuevo algoritmo evita que los drones colisionen en el aire
Los investigadores crean un sistema de planificación de trayectorias que permite a los drones que trabajan juntos en el mismo espacio aéreo elegir siempre un camino seguro hacia adelante.
2023-03-29
Investigadores del CSIC estudiarán la proteína NEK8, relacionada con una de las enfermedades congénitas más raras
Se calcula que sólo hay entre 20 y 30 casos con esta alteración en todo el mundo, que afecta de forma negativa el desarrollo de órganos y tejidos durante el desarrollo
2023-03-29
Conoce los cables submarinos para detectar tsunamis
Desde la aparición de los primeros seres humanos en el planeta, la naturaleza ha puesto en jaque a la civilización en innumerables ocasiones. Miles de años después, un innovador proyecto liderado por la Organización de las Naciones Unidas (ONU) busca detectar tsunamis mediante el uso de cables submarinos con el propósito de salvar una mayor cantidad de vidas ante la ocurrencia de esta clase de eventos.
