Noticias Actualidad en procesos industriales

Dele visibilidad a su trayectoria académica

Participe en la convocatoria de trabajos inéditos de Virtual Pro.

Publicar Ahora

2022-08-21Aportando lecciones de la ciberseguridad a la lucha contra la desinformación

MIT |Mary Ellen Zurko fue pionera en la seguridad centrada en el usuario en la década de 1990. Ahora está usando esos conocimientos para ayudar a la nación a frustrar las operaciones de influencia.

Mary Ellen Zurko recuerda el sentimiento de decepción. No mucho después de obtener su licenciatura del MIT, estaba trabajando en su primer trabajo evaluando sistemas informáticos seguros para el gobierno de EE. UU. El objetivo era determinar si los sistemas cumplían con el "Libro naranja", el manual autorizado del gobierno sobre seguridad cibernética en ese momento. ¿Los sistemas eran técnicamente seguros? Sí. ¿En la práctica? No tanto.  

“No había preocupación alguna sobre si las demandas de seguridad de los usuarios finales eran realistas”, dice Zurko. “La noción de un sistema seguro se trataba de la tecnología, y asumía humanos perfectos y obedientes”.

Esa incomodidad la inició en un camino que definiría la carrera de Zurko. En 1996, después de regresar al MIT para obtener una maestría en ciencias de la computación, publicó un artículo influyente que introdujo el término "seguridad centrada en el usuario". Se convirtió en un campo propio, preocupado por asegurarse de que la seguridad cibernética esté equilibrada con la facilidad de uso, o de lo contrario, los humanos podrían eludir los protocolos de seguridad y dar un pie en la puerta a los atacantes. Ahora nos rodean lecciones de seguridad utilizable, que influyen en el diseño de advertencias de phishing cuando visitamos un sitio inseguro o la invención de la barra de "fuerza" cuando escribimos una contraseña deseada.

Ahora, un investigador de seguridad cibernética en el Laboratorio Lincoln del MIT, Zurko todavía está enredado en la relación de los humanos con las computadoras. Su enfoque se ha desplazado hacia la tecnología para contrarrestar las operaciones de influencia o los intentos de los adversarios extranjeros de difundir deliberadamente información falsa (desinformación) en las redes sociales, con la intención de alterar los ideales estadounidenses.

En un editorial reciente publicado en IEEE Security & Privacy, Zurko argumenta que muchos de los "problemas humanos" dentro del campo de la seguridad utilizable tienen similitudes con los problemas de abordar la desinformación. Hasta cierto punto, se enfrenta a una tarea similar a la que tuvo al principio de su carrera: convencer a sus compañeros de que esos problemas humanos también son problemas de ciberseguridad.

“En ciberseguridad, los atacantes usan humanos como un medio para subvertir un sistema técnico. Las campañas de desinformación están destinadas a impactar la toma de decisiones humanas; son una especie de uso definitivo de la tecnología cibernética para subvertir a los humanos”, dice. “Ambos usan tecnología informática y humanos para llegar a un objetivo. Lo único que es diferente es el objetivo”.

Adelantarse a las operaciones de influencia

La investigación para contrarrestar las operaciones de influencia en línea es aún joven. Hace tres años, Lincoln Laboratory inició un estudio sobre el tema para comprender sus implicaciones para la seguridad nacional. Desde entonces, el campo se ha disparado, especialmente desde la difusión en línea de afirmaciones peligrosas y engañosas sobre el covid-19, perpetuadas en algunos casos por China y Rusia, como descubrió un estudio de RAND. Ahora hay fondos dedicados a través de la Oficina de Tecnología del laboratorio para desarrollar contramedidas de operaciones de influencia.

“Es importante para nosotros fortalecer nuestra democracia y hacer que todos nuestros ciudadanos sean resistentes al tipo de campañas de desinformación dirigidas contra ellos por adversarios internacionales, que buscan interrumpir nuestros procesos internos”, dice Zurko.

Al igual que los ataques cibernéticos, las operaciones de influencia a menudo siguen una ruta de varios pasos, llamada cadena de destrucción, para explotar las debilidades predecibles. Estudiar y reforzar esas debilidades puede funcionar en la lucha contra las operaciones de influencia, tal como lo hacen en la ciberdefensa. Los esfuerzos de Lincoln Laboratory están en el desarrollo de tecnología para respaldar la "atención de fuentes" o reforzar las primeras etapas en la cadena de destrucción cuando los adversarios comienzan a encontrar oportunidades para una narrativa divisiva o engañosa y crean cuentas para amplificarla. La atención de la fuente ayuda a alertar al personal de operaciones de información de EE. UU. sobre una campaña de desinformación que se está gestando.

Un par de enfoques en el laboratorio tienen como objetivo la atención de la fuente. Un enfoque es aprovechar el aprendizaje automático para estudiar personas digitales, con la intención de identificar cuándo la misma persona está detrás de varias cuentas maliciosas. Otra área se centra en la construcción de modelos computacionales que pueden identificar falsificaciones profundas o videos y fotos generados por IA creados para engañar a los espectadores. Los investigadores también están desarrollando herramientas para identificar automáticamente qué cuentas tienen la mayor influencia sobre una narrativa. Primero, las herramientas identifican una narrativa ( en un artículo, los investigadores estudiaron la campaña de desinformación contra el candidato presidencial francés Emmanuel Macron) y recopilaron datos relacionados con esa narrativa, como palabras clave, retuits y me gusta. Luego, utilizan una técnica analítica llamada análisis de red causal para definir y clasificar la influencia de cuentas específicas: ¿qué cuentas suelen generar publicaciones que se vuelven virales?

Estas tecnologías están alimentando el trabajo que Zurko está liderando para desarrollar un banco de pruebas de operaciones de contrainfluencia. El objetivo es crear un espacio seguro para simular entornos de redes sociales y probar contratecnologías. Lo que es más importante, el banco de pruebas permitirá que los operadores humanos se pongan al día para ver qué tan bien las nuevas tecnologías los ayudan a hacer su trabajo.

“El personal de operaciones de información de nuestro ejército carece de una forma de medir el impacto. Al establecer un banco de pruebas, podemos usar múltiples tecnologías diferentes, de manera repetible, para aumentar las métricas que nos permiten ver si estas tecnologías realmente hacen que los operadores sean más efectivos para identificar una campaña de desinformación y los actores detrás de ella”.

Esta visión sigue siendo una aspiración a medida que el equipo construye el entorno del banco de pruebas. Simular a los usuarios de las redes sociales y lo que Zurko llama la "celda gris", los participantes involuntarios de la influencia en línea, es uno de los mayores desafíos para emular las condiciones del mundo real. La reconstrucción de las plataformas de redes sociales también es un desafío; cada plataforma tiene sus propias políticas para lidiar con la desinformación y algoritmos patentados que influyen en el alcance de la desinformación. Por ejemplo, The Washington Post informóque el algoritmo de Facebook dio un "valor adicional" a las noticias que recibieron reacciones de ira, lo que hace que sea cinco veces más probable que aparezcan en el feed de noticias de un usuario, y es desproporcionadamente probable que dicho contenido incluya información errónea. Es importante replicar estas dinámicas, a menudo ocultas, en un banco de pruebas, tanto para estudiar la difusión de noticias falsas como para comprender el impacto de las intervenciones.

Tomando un enfoque de sistema completo

Además de construir un banco de pruebas para combinar nuevas ideas, Zurko también aboga por un espacio unificado que los investigadores de la desinformación puedan llamar propio. Tal espacio permitiría a los investigadores en sociología, psicología, política y derecho reunirse y compartir aspectos transversales de su trabajo junto con expertos en seguridad cibernética. Las mejores defensas contra la desinformación requerirán esta diversidad de conocimientos, dice Zurko, y "un enfoque de sistema completo de defensas tanto técnicas como centradas en el ser humano".

Aunque este espacio aún no existe, es probable que esté en el horizonte a medida que el campo continúa creciendo. La investigación de operaciones de influencia está ganando terreno en el mundo de la ciberseguridad. “Recientemente, las principales conferencias han comenzado a incluir investigaciones sobre desinformación en su convocatoria de artículos, lo cual es un indicador real de hacia dónde van las cosas”, dice Zurko. “Pero algunas personas todavía se aferran a la idea de la vieja escuela de que los humanos desordenados no tienen nada que ver con la ciberseguridad”.

A pesar de esos sentimientos, Zurko todavía confía en su observación inicial como investigadora: lo que la tecnología cibernética puede hacer de manera efectiva está moderado por la forma en que la gente la usa. Ella quiere continuar diseñando tecnología y abordar la resolución de problemas de una manera que coloque a los humanos en el centro del marco. “Desde el principio, lo que me encantó de la ciberseguridad es que es en parte rigor matemático y en parte estar sentados alrededor de la fogata contando historias y aprendiendo unos de otros”, reflexiona Zurko. La desinformación obtiene su poder de la capacidad de los humanos para influirse unos a otros; esa habilidad también puede ser la defensa más poderosa que tenemos.

MIT
Autor
MIT

Promover la investigación, las innovaciones, la enseñanza y los eventos y las personas de interés periodístico del MIT a la comunidad del campus, los medios de comunicación y el público en general, Comunicar anuncios del Instituto, Publicar noticias de la comunidad para profesores, estudiantes, personal y ex alumnos del MIT. Proporcionar servicios de medios a los miembros de la comunidad, incluido el asesoramiento sobre cómo trabajar con periodistas, Responder a consultas de los medios y solicitudes de entrevistas...


2023-02-02
Debate científico sobre las causas del cambio climático

En 1974, los científicos Frank Sherwood Rowland y Mario Molina dieron a conocer que los gases clorofluorcarbonados utilizados en refrigeradores, aires acondicionados, aerosoles y spray de laca, entre otros productos, se dispersan en la estratosfera expulsando una alta condensación de átomos de cloro que degradan la capa de ozono que nos protege de los rayos ultravioleta emitidos por el sol. Posterior a esto, un alto representante de DuPont, una de las más reconocidas industrias químicas a nivel mundial, estimó que la investigación era un “cuento de ciencia ficción”, un “montón de basura” y una “absoluta idiotez”. Sin embargo, en 1987, bajo el Protocolo de Montreal, se establecieron las medidas necesarias para controlar y disminuir poco a poco hasta eliminar el uso de cerca de 100 componentes químicos que afectan sustancialmente la capa de ozono.

2023-02-02
Un nuevo sistema de reciclaje de carbono permitiría reducir las emisiones de la industria siderúrgica en un 90 %

Investigadores de la Universidad de Birmingham proponen un método para adaptar los hornos actuales que permitiría sustituir el 90 % del coque utilizado habitualmente por este sector.

2023-02-02
El Instituto de Óptica del CSIC convoca la sexta edición de los Premios FOTÓN, dirigidos a comunicadores y docentes

Los galardones reconocen la divulgación de la óptica y la fotónica en medios de comunicación y centros educativos.

2023-02-02
Las empresas derivadas de la NASA refuerzan la resiliencia climática, mejoran la atención médica y más

Cuando se trata de la NASA, la mayoría de las personas miran hacia el cielo mientras los cohetes, los rovers y los astronautas superan los límites de la exploración espacial. Pero los beneficios de ir más allá se pueden encontrar aquí en la Tierra a través de productos y servicios nacidos de la innovación de la NASA.

2023-02-02
ChatGPT apuesta solo por esta criptomoneda para revolucionar la economía

La inteligencia artificial ChatGPT sin duda está marcando un antes y un después en nuestro día a día, ya que se han descubierto numerosos usos para la vida cotidiana como por ejemplo ganar dinero. Es tal, que importantes empresas han decidido apostar por ella con inversiones multimillonarias. Ahora un experto en criptomonedas ha querido poner a ChatGPT en una encrucijada al preguntarle si los bancos centrales podrían acabar con las criptomonedas.

2023-02-02
Resuelven un viejo problema de teoría de la computación a partir del estudio de la covid

Al inicio de la pandemia, un matemático de la Universidad Autónoma de Barcelona empezó a experimentar con modelos epidemiológicos. No logró mejorar las predicciones, pero resolvió una cuestión abierta desde la década de 1980 en informática teórica sobre las redes de Petri.