Noticias Actualidad en procesos industriales

Dele visibilidad a su trayectoria académica

Participe en la convocatoria de trabajos inéditos de Virtual Pro.

Publicar Ahora

2022-05-18Vivir mejor con algoritmos

MIT |La estudiante de posgrado Sarah Cen explora la interacción entre los humanos y los sistemas de inteligencia artificial para ayudar a generar responsabilidad y confianza.

La estudiante del Laboratorio de Sistemas de Información y Decisiones (LIDS) Sarah Cen recuerda la conferencia que la envió por el camino a una pregunta anterior.

En una charla sobre inteligencia artificial ética, el orador mencionó una variación del famoso problema del tranvía, que describe una elección filosófica entre dos resultados indeseables.

El escenario del orador: digamos que un automóvil autónomo viaja por un callejón estrecho con una anciana caminando de un lado y un niño pequeño del otro, y no hay forma de pasar entre ambos sin una fatalidad. ¿A quién debe atropellar el coche?

Entonces el orador dijo: Demos un paso atrás. ¿Es esta la pregunta que deberíamos hacernos?

Fue entonces cuando las cosas hicieron clic para Cen. En lugar de considerar el punto de impacto, un automóvil autónomo podría haber evitado elegir entre dos malos resultados al tomar una decisión antes: el orador señaló que, al ingresar al callejón, el automóvil podría haber determinado que el espacio era estrecho y reducido a una velocidad que mantendría a todos a salvo.

Reconociendo que los enfoques de seguridad de la IA de hoy en día a menudo se asemejan al problema del tranvía, centrándose en la regulación posterior, como la responsabilidad después de que alguien no tenga buenas opciones, Cen se preguntó: ¿Qué pasaría si pudiéramos diseñar mejores salvaguardas aguas arriba y aguas abajo para tales problemas? Esta pregunta ha informado gran parte del trabajo de Cen.

“Los sistemas de ingeniería no están divorciados de los sistemas sociales en los que intervienen”, dice Cen. Ignorar este hecho corre el riesgo de crear herramientas que no sean útiles cuando se implementen o, lo que es más preocupante, que sean dañinas.

Cen llegó a LIDS en 2018 a través de una ruta ligeramente indirecta. Primero le gustó la investigación durante su licenciatura en la Universidad de Princeton, donde se especializó en ingeniería mecánica. Para su maestría, cambió de rumbo y trabajó en soluciones de radar en robótica móvil (principalmente para automóviles autónomos) en la Universidad de Oxford. Allí, desarrolló un interés en los algoritmos de IA, curiosa sobre cuándo y por qué se comportan mal. Entonces, vino al MIT y LIDS para su investigación doctoral, trabajando con el profesor Devavrat Shah en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación, para obtener una base teórica más sólida en sistemas de información.

Auditoría de algoritmos de redes sociales

Junto con Shah y otros colaboradores, Cen ha trabajado en una amplia gama de proyectos durante su tiempo en LIDS, muchos de los cuales se relacionan directamente con su interés en las interacciones entre humanos y sistemas computacionales. En uno de esos proyectos, Cen estudia opciones para regular las redes sociales. Su trabajo reciente proporciona un método para traducir regulaciones legibles por humanos en auditorías implementables.

Para tener una idea de lo que esto significa, suponga que los reguladores exigen que cualquier contenido de salud pública, por ejemplo, sobre vacunas, no sea muy diferente para los usuarios con tendencias políticas de izquierda y derecha. ¿Cómo deben los auditores verificar que una plataforma de redes sociales cumpla con esta regulación? ¿Se puede hacer que una plataforma cumpla con la regulación sin dañar su balance final? ¿Y cómo afecta el cumplimiento al contenido real que ven los usuarios?

Diseñar un procedimiento de auditoría es difícil en gran parte porque hay muchas partes interesadas en lo que respecta a las redes sociales. Los auditores deben inspeccionar el algoritmo sin acceder a datos confidenciales del usuario. También tienen que sortear secretos comerciales complicados, lo que puede evitar que observen de cerca el algoritmo que están auditando porque estos algoritmos están legalmente protegidos. También entran en juego otras consideraciones, como equilibrar la eliminación de información errónea con la protección de la libertad de expresión.

Para enfrentar estos desafíos, Cen y Shah desarrollaron un procedimiento de auditoría que no necesita más que acceso de caja negra al algoritmo de redes sociales (que respeta los secretos comerciales), no elimina contenido (lo que evita problemas de censura) y no requiere acceso a los usuarios (que preserva la privacidad de los usuarios).

En su proceso de diseño, el equipo también analizó las propiedades de su procedimiento de auditoría y descubrió que garantiza una propiedad deseable que denominan solidez de decisión. Como buenas noticias para la plataforma, muestran que una plataforma puede pasar la auditoría sin sacrificar las ganancias. Curiosamente, también descubrieron que la auditoría incentiva naturalmente a la plataforma a mostrar a los usuarios contenido diverso, que se sabe que ayuda a reducir la difusión de información errónea, contrarrestar las cámaras de eco y más.

¿Quién obtiene buenos resultados y quién malos?

En otra línea de investigación , Cen analiza si las personas pueden obtener buenos resultados a largo plazo cuando no solo compiten por los recursos, sino que tampoco saben por adelantado qué recursos son mejores para ellos.

Algunas plataformas, como las plataformas de búsqueda de empleo o las aplicaciones para compartir viajes, forman parte de lo que se denomina un mercado de emparejamiento, que utiliza un algoritmo para emparejar un conjunto de personas (como trabajadores o pasajeros) con otro (como empleadores o conductores). ). En muchos casos, las personas tienen preferencias coincidentes que aprenden a través de prueba y error. En los mercados laborales, por ejemplo, los trabajadores aprenden sus preferencias sobre el tipo de trabajos que desean y los empleadores conocen sus preferencias sobre las calificaciones que buscan en los trabajadores.

Pero el aprendizaje puede ser interrumpido por la competencia. Si a los trabajadores con antecedentes particulares se les niegan repetidamente trabajos en tecnología debido a la alta competencia por los trabajos tecnológicos, por ejemplo, es posible que nunca obtengan el conocimiento que necesitan para tomar una decisión informada sobre si quieren trabajar en tecnología. Del mismo modo, es posible que los empleadores de tecnología nunca vean y aprendan lo que estos trabajadores podrían hacer si fueran contratados.

El trabajo de Cen examina esta interacción entre el aprendizaje y la competencia, estudiando si es posible que las personas en ambos lados del mercado de emparejamiento se vayan felices.

Al modelar tales mercados coincidentes, Cen y Shah descubrieron que, de hecho, es posible llegar a un resultado estable (no se incentiva a los trabajadores para que abandonen el mercado coincidente), con poco arrepentimiento (los trabajadores están contentos con sus resultados a largo plazo), imparcialidad ( la felicidad se distribuye uniformemente) y un alto bienestar social.

Curiosamente, no es obvio que sea posible obtener estabilidad, poco arrepentimiento, equidad y alto bienestar social simultáneamente. Entonces, otro aspecto importante de la investigación fue descubrir cuándo es posible lograr los cuatro criterios a la vez y explorar las implicaciones de esas condiciones.

¿Cuál es el efecto de X sobre Y?

Sin embargo, durante los próximos años, Cen planea trabajar en un nuevo proyecto, estudiando cómo cuantificar el efecto de una acción X en un resultado Y cuando es costoso, o imposible, medir este efecto, centrándose en particular en los sistemas que tienen Comportamientos sociales complejos.

Por ejemplo, cuando los casos de covid-19 aumentaron durante la pandemia, muchas ciudades tuvieron que decidir qué restricciones adoptar, como mandatos de máscaras, cierre de negocios u órdenes de quedarse en casa. Tenían que actuar rápido y equilibrar la salud pública con las necesidades de la comunidad y las empresas, el gasto público y muchas otras consideraciones.

Por lo general, para estimar el efecto de las restricciones en la tasa de infección, se pueden comparar las tasas de infección en áreas que se sometieron a diferentes intervenciones. Si un condado tiene un mandato de mascarilla mientras que el condado vecino no lo tiene, uno podría pensar que comparar las tasas de infección de los condados revelaría la efectividad de los mandatos de mascarilla. 

Pero, por supuesto, ningún condado existe en el vacío. Si, por ejemplo, las personas de ambos condados se reúnen todas las semanas para ver un partido de fútbol en el condado sin máscara, la gente de ambos condados se mezcla. Estas interacciones complejas son importantes, y Sarah planea estudiar cuestiones de causa y efecto en tales entornos.

“Estamos interesados ​​en cómo las decisiones o intervenciones afectan un resultado de interés, por ejemplo, cómo la reforma de la justicia penal afecta las tasas de encarcelamiento o cómo una campaña publicitaria podría cambiar el comportamiento del público”, dice Cen.

Cen también ha aplicado los principios de promover la inclusión a su trabajo en la comunidad del MIT.

Como una de las tres copresidentas del grupo de estudiantes Graduate Women in MIT EECS, ayudó a organizar la cumbre de investigación inaugural GW6 que presentó la investigación de mujeres estudiantes de posgrado, no solo para mostrar modelos a seguir positivos para los estudiantes, sino también para resaltar los muchos éxitos. mujeres graduadas en el MIT que no deben ser subestimadas.

Ya sea en la informática o en la comunidad, un sistema que toma medidas para abordar el sesgo es uno que goza de legitimidad y confianza, dice Cen. “Responsabilidad, legitimidad, confianza: estos principios juegan un papel crucial en la sociedad y, en última instancia, determinarán qué sistemas perdurarán con el tiempo”. 

MIT
Autor
MIT

Promover la investigación, las innovaciones, la enseñanza y los eventos y las personas de interés periodístico del MIT a la comunidad del campus, los medios de comunicación y el público en general, Comunicar anuncios del Instituto, Publicar noticias de la comunidad para profesores, estudiantes, personal y ex alumnos del MIT. Proporcionar servicios de medios a los miembros de la comunidad, incluido el asesoramiento sobre cómo trabajar con periodistas, Responder a consultas de los medios y solicitudes de entrevistas...


2022-07-03
Japón fue durante décadas el líder mundial en tecnología de consumo. Esta es la historia de su caída

No hay imperio que mil años dure y el ruedo tecnológico no marca la excepción. El mejor ejemplo quizás lo deje Japón. Hace décadas el país del sol naciente era el gran foco del sector tech a nivel internacional, el que maravillaba a medio mundo con su impulso, hogar de grandes multinacionales, como Sony, Panasonic o Sharp, y cuna de las calculadoras de bolsillo o el Sony Walkman, gadgets que marcaron a toda una generación. A día de hoy la situación es otra bien distinta.

2022-07-03
¿Quién debería marcar las reglas del metaverso?

En el metaverso, le pese a quien le pese, también tendrían que existir regulaciones. La idea de un mundo virtual sin ley, aunque puede parecer interesante para algunos usuarios, podría traer consigo problemas muy serios en el mundo real. Pues no olvidemos que, pese a que es un entorno completamente virtual, podremos conversar e interactuar con personas reales, adquirir productos o asistir a experiencias con muchos otros usuarios que formen parte del metaverso.

2022-07-02
Encuentran y caracterizan genes importantes en la resistencia a antibióticos

Un estudio liderado por Amando Flores, investigador del Centro Andaluz de Biología del Desarrollo (CABD) y profesor de Microbiología de la Universidad Pablo de Olavide, ha descubierto y caracterizado genes importantes para resistencia a antibióticos en suelos contaminados con petróleo.

2022-07-01
Incorporación de la explicabilidad en los componentes de los modelos de aprendizaje automático

Los métodos de explicación que ayudan a los usuarios a comprender y confiar en los modelos de aprendizaje automático a menudo describen en qué medida ciertas características utilizadas en el modelo contribuyen a su predicción. Por ejemplo, si un modelo predice el riesgo de que un paciente desarrolle una enfermedad cardíaca, es posible que un médico quiera saber con qué fuerza influyen los datos de la frecuencia cardíaca del paciente en esa predicción.

2022-07-01
“Puente” informático protegería de ciberataques a las empresas

El protocolo de comunicación se puede utilizar en aplicaciones que requieran implementar procesos como la automatización de casas y edificios, la gestión de vehículos autónomos para el transporte de pasajeros, o aplicaciones de telemedicina, en las cuales la seguridad sea un factor crucial.

2022-07-01
Finaliza el proyecto NEMOSINE con la creación de un envase inteligente que alarga la vida y mejora la conservación del patrimonio cinematográfico y fotográfico

El proyecto NEMOSINE, coordinado por AIMPLAS llega a su fin tras cuatro años de investigación para dar con una nueva solución de almacenamiento, más eficiente y sostenible, que preserve el patrimonio cultural del siglo XX realizado sobre soportes derivados de la celulosa, es decir, películas y fotografías que contienen este material químicamente inestable que amenaza su conservación a largo plazo. El proyecto ha conseguido crear un envase inteligente que alarga la vida y mejora la conservación de estos archivos culturales tan valiosos y que, además, permite reducir el consumo energético de los sistemas tradicionales de almacenamiento (normalmente, conservación en frío por debajo de 5ºC), así como los costes.