Imagen. / MIT

La estudiante del Laboratorio de Sistemas de Información y Decisiones (LIDS) Sarah Cen recuerda la conferencia que la envió por el camino a una pregunta anterior.

En una charla sobre inteligencia artificial ética, el orador mencionó una variación del famoso problema del tranvía, que describe una elección filosófica entre dos resultados indeseables.

El escenario del orador: digamos que un automóvil autónomo viaja por un callejón estrecho con una anciana caminando de un lado y un niño pequeño del otro, y no hay forma de pasar entre ambos sin una fatalidad. ¿A quién debe atropellar el coche?

Entonces el orador dijo: Demos un paso atrás. ¿Es esta la pregunta que deberíamos hacernos?

Fue entonces cuando las cosas hicieron clic para Cen. En lugar de considerar el punto de impacto, un automóvil autónomo podría haber evitado elegir entre dos malos resultados al tomar una decisión antes: el orador señaló que, al ingresar al callejón, el automóvil podría haber determinado que el espacio era estrecho y reducido a una velocidad que mantendría a todos a salvo.

Reconociendo que los enfoques de seguridad de la IA de hoy en día a menudo se asemejan al problema del tranvía, centrándose en la regulación posterior, como la responsabilidad después de que alguien no tenga buenas opciones, Cen se preguntó: ¿Qué pasaría si pudiéramos diseñar mejores salvaguardas aguas arriba y aguas abajo para tales problemas? Esta pregunta ha informado gran parte del trabajo de Cen.

“Los sistemas de ingeniería no están divorciados de los sistemas sociales en los que intervienen”, dice Cen. Ignorar este hecho corre el riesgo de crear herramientas que no sean útiles cuando se implementen o, lo que es más preocupante, que sean dañinas.

Cen llegó a LIDS en 2018 a través de una ruta ligeramente indirecta. Primero le gustó la investigación durante su licenciatura en la Universidad de Princeton, donde se especializó en ingeniería mecánica. Para su maestría, cambió de rumbo y trabajó en soluciones de radar en robótica móvil (principalmente para automóviles autónomos) en la Universidad de Oxford. Allí, desarrolló un interés en los algoritmos de IA, curiosa sobre cuándo y por qué se comportan mal. Entonces, vino al MIT y LIDS para su investigación doctoral, trabajando con el profesor Devavrat Shah en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación, para obtener una base teórica más sólida en sistemas de información.

Auditoría de algoritmos de redes sociales

Junto con Shah y otros colaboradores, Cen ha trabajado en una amplia gama de proyectos durante su tiempo en LIDS, muchos de los cuales se relacionan directamente con su interés en las interacciones entre humanos y sistemas computacionales. En uno de esos proyectos, Cen estudia opciones para regular las redes sociales. Su trabajo reciente proporciona un método para traducir regulaciones legibles por humanos en auditorías implementables.

Para tener una idea de lo que esto significa, suponga que los reguladores exigen que cualquier contenido de salud pública, por ejemplo, sobre vacunas, no sea muy diferente para los usuarios con tendencias políticas de izquierda y derecha. ¿Cómo deben los auditores verificar que una plataforma de redes sociales cumpla con esta regulación? ¿Se puede hacer que una plataforma cumpla con la regulación sin dañar su balance final? ¿Y cómo afecta el cumplimiento al contenido real que ven los usuarios?

Diseñar un procedimiento de auditoría es difícil en gran parte porque hay muchas partes interesadas en lo que respecta a las redes sociales. Los auditores deben inspeccionar el algoritmo sin acceder a datos confidenciales del usuario. También tienen que sortear secretos comerciales complicados, lo que puede evitar que observen de cerca el algoritmo que están auditando porque estos algoritmos están legalmente protegidos. También entran en juego otras consideraciones, como equilibrar la eliminación de información errónea con la protección de la libertad de expresión.

Para enfrentar estos desafíos, Cen y Shah desarrollaron un procedimiento de auditoría que no necesita más que acceso de caja negra al algoritmo de redes sociales (que respeta los secretos comerciales), no elimina contenido (lo que evita problemas de censura) y no requiere acceso a los usuarios (que preserva la privacidad de los usuarios).

En su proceso de diseño, el equipo también analizó las propiedades de su procedimiento de auditoría y descubrió que garantiza una propiedad deseable que denominan solidez de decisión. Como buenas noticias para la plataforma, muestran que una plataforma puede pasar la auditoría sin sacrificar las ganancias. Curiosamente, también descubrieron que la auditoría incentiva naturalmente a la plataforma a mostrar a los usuarios contenido diverso, que se sabe que ayuda a reducir la difusión de información errónea, contrarrestar las cámaras de eco y más.

¿Quién obtiene buenos resultados y quién malos?

En otra línea de investigación , Cen analiza si las personas pueden obtener buenos resultados a largo plazo cuando no solo compiten por los recursos, sino que tampoco saben por adelantado qué recursos son mejores para ellos.

Algunas plataformas, como las plataformas de búsqueda de empleo o las aplicaciones para compartir viajes, forman parte de lo que se denomina un mercado de emparejamiento, que utiliza un algoritmo para emparejar un conjunto de personas (como trabajadores o pasajeros) con otro (como empleadores o conductores). ). En muchos casos, las personas tienen preferencias coincidentes que aprenden a través de prueba y error. En los mercados laborales, por ejemplo, los trabajadores aprenden sus preferencias sobre el tipo de trabajos que desean y los empleadores conocen sus preferencias sobre las calificaciones que buscan en los trabajadores.

Pero el aprendizaje puede ser interrumpido por la competencia. Si a los trabajadores con antecedentes particulares se les niegan repetidamente trabajos en tecnología debido a la alta competencia por los trabajos tecnológicos, por ejemplo, es posible que nunca obtengan el conocimiento que necesitan para tomar una decisión informada sobre si quieren trabajar en tecnología. Del mismo modo, es posible que los empleadores de tecnología nunca vean y aprendan lo que estos trabajadores podrían hacer si fueran contratados.

El trabajo de Cen examina esta interacción entre el aprendizaje y la competencia, estudiando si es posible que las personas en ambos lados del mercado de emparejamiento se vayan felices.

Al modelar tales mercados coincidentes, Cen y Shah descubrieron que, de hecho, es posible llegar a un resultado estable (no se incentiva a los trabajadores para que abandonen el mercado coincidente), con poco arrepentimiento (los trabajadores están contentos con sus resultados a largo plazo), imparcialidad ( la felicidad se distribuye uniformemente) y un alto bienestar social.

Curiosamente, no es obvio que sea posible obtener estabilidad, poco arrepentimiento, equidad y alto bienestar social simultáneamente. Entonces, otro aspecto importante de la investigación fue descubrir cuándo es posible lograr los cuatro criterios a la vez y explorar las implicaciones de esas condiciones.

¿Cuál es el efecto de X sobre Y?

Sin embargo, durante los próximos años, Cen planea trabajar en un nuevo proyecto, estudiando cómo cuantificar el efecto de una acción X en un resultado Y cuando es costoso, o imposible, medir este efecto, centrándose en particular en los sistemas que tienen Comportamientos sociales complejos.

Por ejemplo, cuando los casos de covid-19 aumentaron durante la pandemia, muchas ciudades tuvieron que decidir qué restricciones adoptar, como mandatos de máscaras, cierre de negocios u órdenes de quedarse en casa. Tenían que actuar rápido y equilibrar la salud pública con las necesidades de la comunidad y las empresas, el gasto público y muchas otras consideraciones.

Por lo general, para estimar el efecto de las restricciones en la tasa de infección, se pueden comparar las tasas de infección en áreas que se sometieron a diferentes intervenciones. Si un condado tiene un mandato de mascarilla mientras que el condado vecino no lo tiene, uno podría pensar que comparar las tasas de infección de los condados revelaría la efectividad de los mandatos de mascarilla. 

Pero, por supuesto, ningún condado existe en el vacío. Si, por ejemplo, las personas de ambos condados se reúnen todas las semanas para ver un partido de fútbol en el condado sin máscara, la gente de ambos condados se mezcla. Estas interacciones complejas son importantes, y Sarah planea estudiar cuestiones de causa y efecto en tales entornos.

“Estamos interesados ​​en cómo las decisiones o intervenciones afectan un resultado de interés, por ejemplo, cómo la reforma de la justicia penal afecta las tasas de encarcelamiento o cómo una campaña publicitaria podría cambiar el comportamiento del público”, dice Cen.

Cen también ha aplicado los principios de promover la inclusión a su trabajo en la comunidad del MIT.

Como una de las tres copresidentas del grupo de estudiantes Graduate Women in MIT EECS, ayudó a organizar la cumbre de investigación inaugural GW6 que presentó la investigación de mujeres estudiantes de posgrado, no solo para mostrar modelos a seguir positivos para los estudiantes, sino también para resaltar los muchos éxitos. mujeres graduadas en el MIT que no deben ser subestimadas.

Ya sea en la informática o en la comunidad, un sistema que toma medidas para abordar el sesgo es uno que goza de legitimidad y confianza, dice Cen. “Responsabilidad, legitimidad, confianza: estos principios juegan un papel crucial en la sociedad y, en última instancia, determinarán qué sistemas perdurarán con el tiempo”. 

Autor

MIT

Promover la investigación, las innovaciones, la enseñanza y los eventos y las personas de interés periodístico del MIT a la comunidad del campus, los medios de comunicación y el público en general, Comunicar anuncios del Instituto, Publicar noticias de la comunidad para profesores, estudiantes, personal y ex alumnos del MIT. Proporcionar servicios de medios a los miembros de la comunidad, incluido el asesoramiento sobre cómo trabajar con periodistas, Responder a consultas de los medios y solicitudes de entrevistas...