Noticias Actualidad en procesos industriales

Dele visibilidad a su trayectoria académica

Participe en la convocatoria de trabajos inéditos de Virtual Pro.

Publicar Ahora

2022-04-19Aprender a pensar críticamente sobre el aprendizaje automático

MIT |Un equipo multidisciplinario de estudiantes graduados ayuda a infundir contenido informático ético en el curso de aprendizaje automático más grande del MIT.

Los estudiantes del curso MIT 6.036 ( Introducción al aprendizaje automático ) estudian los principios detrás de modelos poderosos que ayudan a los médicos a diagnosticar enfermedades o ayudan a los reclutadores a seleccionar candidatos para el trabajo.

Ahora, gracias al marco de responsabilidades sociales y éticas de la informática (SERC), estos estudiantes también se detendrán para reflexionar sobre las implicaciones de estas herramientas de inteligencia artificial, que a veces vienen con su parte de consecuencias no deseadas.

El invierno pasado, un equipo de becarios del SERC trabajó con la instructora Leslie Kaelbling, profesora de informática e ingeniería de Panasonic, y los 6.036 profesores asistentes para infundir laboratorios semanales con material que cubriera la informática ética, el sesgo de datos y modelos, y la equidad en el aprendizaje automático. El proceso fue iniciado en el otoño de 2019 por Jacob Andreas, profesor asistente del X Consortium en el Departamento de Ingeniería Eléctrica e Informática. Los becarios de SERC colaboran en equipos multidisciplinarios para ayudar a los posdoctorados y profesores a desarrollar nuevo material para el curso.


Debido a que 6.036 es un curso tan grande, más de 500 estudiantes que se inscribieron en el período de primavera de 2021 lidiaron con estas dimensiones éticas junto con sus esfuerzos por aprender nuevas técnicas informáticas. Para algunos, puede haber sido su primera experiencia de pensamiento crítico en un entorno académico sobre los posibles impactos negativos del aprendizaje automático.

Los becarios SERC evaluaron cada laboratorio para desarrollar ejemplos concretos y preguntas relacionadas con la ética que se ajusten al material de esa semana. Cada uno trajo un conjunto de herramientas diferente. Serena Booth es estudiante de posgrado en el Grupo de Robótica Interactiva del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL). Marion Boulicault era estudiante de posgrado en el Departamento de Lingüística y Filosofía, y ahora es posdoctorado en el MIT Schwarzman College of Computing, donde tiene su sede SERC. Y Rodrigo Ochigame fue estudiante de posgrado en el Programa de Historia, Antropología y Ciencia, Tecnología y Sociedad (HASTS) y ahora es profesor asistente en la Universidad de Leiden en los Países Bajos. Colaboraron estrechamente con el asistente de enseñanza Dheekshita Kumar, MEng ´21, quien fue fundamental en el desarrollo de los materiales del curso.

Hicieron una lluvia de ideas e iteraron en cada laboratorio, mientras trabajaban en estrecha colaboración con los asistentes de enseñanza para garantizar que el contenido encajara y avanzara los objetivos de aprendizaje básicos del curso. Al mismo tiempo, ayudaron a los asistentes de enseñanza a determinar la mejor manera de presentar el material y dirigir conversaciones sobre temas con implicaciones sociales, como raza, género y vigilancia.

“En una clase como la 6.036, estamos tratando con 500 personas que no están allí para aprender sobre ética. Piensan que están allí para aprender los aspectos básicos del aprendizaje automático, como funciones de pérdida, funciones de activación y cosas por el estilo. Tenemos este desafío de tratar de lograr que esos estudiantes participen realmente en estas discusiones de una manera muy activa y comprometida. Hicimos eso vinculando las cuestiones sociales muy íntimamente con el contenido técnico”, dice Booth.

Por ejemplo, en un laboratorio sobre cómo representar funciones de entrada para un modelo de aprendizaje automático, introdujeron diferentes definiciones de equidad, pidieron a los estudiantes que consideraran los pros y los contras de cada definición y luego los desafiaron a pensar en las funciones que deberían ingresarse en un modelo para hacerlo justo.

Ya se han publicado cuatro laboratorios en MIT OpenCourseWare . Un nuevo equipo de SERC Scholars está revisando los otros ocho, en función de los comentarios de los instructores y estudiantes, con un enfoque en los objetivos de aprendizaje, llenando vacíos y destacando conceptos importantes.

Un enfoque intencional

Los esfuerzos de los estudiantes en 6.036 muestran cómo SERC tiene como objetivo trabajar con los profesores de maneras que funcionen para ellos, dice Julie Shah, decana asociada de SERC y profesora de aeronáutica y astronáutica. Adaptaron el proceso SERC debido a la naturaleza única de este gran curso y las estrictas limitaciones de tiempo.

SERC se estableció hace más de dos años a través del MIT Schwarzman College of Computing como un enfoque intencional para reunir a profesores de disciplinas divergentes en un entorno colaborativo para cocrear y lanzar nuevos cursos centrados en la informática social y responsable.

Cada semestre, el equipo de SERC invita a una docena de profesores a unirse a un Grupo de Acción dedicado a desarrollar nuevos materiales curriculares (hay varios Grupos de Acción de SERC , cada uno con una misión diferente). Tienen un propósito en cuanto a quién invitan y buscan incluir miembros de la facultad que probablemente formen asociaciones fructíferas en subgrupos más pequeños, dice David Kaiser, decano asociado de SERC, profesor de Historia de la Ciencia de Germeshausen y profesor de física.

Estos subgrupos de dos o tres miembros de la facultad perfeccionan su interés compartido en el transcurso del período para desarrollar nuevo material relacionado con la ética. Pero en lugar de que una disciplina sirva a otra, el proceso es una calle de doble sentido; cada miembro de la facultad aporta nuevo material a su curso, explica Shah. Los profesores se sienten atraídos por los Grupos de Acción de las cinco escuelas del MIT.

“Parte de esto implica salir de los límites disciplinarios normales y construir un lenguaje, y luego confiar y colaborar con alguien nuevo fuera de sus círculos normales. Por eso creo que nuestro enfoque intencional ha tenido tanto éxito. Es bueno probar materiales y traer cosas nuevas a su curso, pero construir relaciones es el núcleo. Eso hace que esto sea algo valioso para todos”, dice.

Haciendo un impacto

En los últimos dos años, Shah y Kaiser quedaron impresionados por la energía y el entusiasmo que rodearon estos esfuerzos.

Han trabajado con alrededor de 80 miembros de la facultad desde que comenzó el programa, y ​​más de 2100 estudiantes tomaron cursos que incluyeron contenido nuevo de SERC solo en el último año. Esos estudiantes no son todos necesariamente ingenieros: alrededor de 500 fueron expuestos al contenido de SERC a través de cursos ofrecidos en la Escuela de Humanidades, Artes y Ciencias Sociales, la Escuela de Administración Sloan y la Escuela de Arquitectura y Planificación.

Para SERC es fundamental el principio de que la ética y la responsabilidad social en la informática deben integrarse en todas las áreas de enseñanza en el MIT, por lo que se vuelve tan relevante como las partes técnicas del plan de estudios, dice Shah. La tecnología, y la IA en particular, ahora toca casi todas las industrias, por lo que los estudiantes de todas las disciplinas deben tener una capacitación que los ayude a comprender estas herramientas y a pensar profundamente sobre su poder y sus peligros.

“No es el trabajo de otra persona averiguar por qué o qué sucede cuando las cosas van mal. Es toda nuestra responsabilidad y todos podemos estar equipados para hacerlo. Acostumbrémonos a eso. Desarrollemos ese músculo de poder hacer una pausa y hacer esas preguntas difíciles, incluso si no podemos identificar una sola respuesta al final de un conjunto de problemas”, dice Kaiser.

Para los tres becarios de SERC, fue un desafío único elaborar cuidadosamente preguntas éticas cuando no había una clave de respuesta a la que referirse. Pero pensar profundamente en problemas tan espinosos también ayudó a Booth, Boulicault y Ochigame a aprender, crecer y ver el mundo a través de la lente de otras disciplinas.

Tienen la esperanza de que los estudiantes universitarios y los asistentes de enseñanza en 6.036 tomen en serio estas importantes lecciones y las incorporen en sus futuras carreras.

“Este proceso me inspiró y me llenó de energía, y aprendí mucho, no solo el material técnico, sino también lo que puedes lograr cuando colaboras entre disciplinas. Solo la escala de este esfuerzo se sintió emocionante. Si tenemos esta cohorte de 500 estudiantes que salen al mundo con una mejor comprensión de cómo pensar sobre este tipo de problemas, siento que realmente podríamos marcar la diferencia”, dice Boulicault.

MIT
Autor
MIT

Promover la investigación, las innovaciones, la enseñanza y los eventos y las personas de interés periodístico del MIT a la comunidad del campus, los medios de comunicación y el público en general, Comunicar anuncios del Instituto, Publicar noticias de la comunidad para profesores, estudiantes, personal y ex alumnos del MIT. Proporcionar servicios de medios a los miembros de la comunidad, incluido el asesoramiento sobre cómo trabajar con periodistas, Responder a consultas de los medios y solicitudes de entrevistas...


2022-05-24
¿Cómo se recicla el plástico?

El vidrio se puede fundir, el papel se puede triturar. Pero ¿qué ocurre con los residuos plásticos después de recogerlos del contenedor de reciclaje? Nuestra experta Barbara Morico de NextChem (Italia) lo explica.

2022-05-24
Cómo convertir cables submarinos en detectores de terremotos

Además de transmitir ingentes cantidades de información entre continentes, los cables de fibra óptica transoceánicos pueden actuar como sensores ambientales de movimientos sísmicos y corrientes oceánicas. Para conseguirlo, una nueva técnica utiliza los repetidores que llevan estas infraestructuras y ha logrado detectar terremotos de Perú e Indonesia en una línea que conecta Reino Unido con Canadá.

2022-05-24
Presidente Biden: La NASA dará la bienvenida a astronauta japonés a bordo de Gateway

El presidente Joe Biden y el primer ministro japonés, Fumio Kishida, se reunieron en Tokio el lunes, donde anunciaron avances en la colaboración para misiones lunares humanas y robóticas. Confirmaron su compromiso de incluir a un astronauta japonés a bordo del puesto lunar Gateway y su ambición compartida de ver a un futuro astronauta japonés aterrizar en la Luna como parte del programa Artemis de la NASA.

2022-05-23
Cartografía de la expresión génica en dos colores

Unos investigadores respaldados por la Unión Europea emplearon la resonancia magnética nuclear (RMN) para rastrear al unísono dos genes diferentes en dos colores. Este método nuevo podría emplearse algún día para observar procesos importantes en las profundidades del organismo.

2022-05-23
Primera Maestría en Biotecnología se ofrecerá en la UNAL

El Instituto de Biotecnología (IBUN) de la Universidad Nacional de Colombia (UNAL) inaugura su programa de Maestría en Ciencias –Biotecnología, diseñado con un enfoque de solución desde las ciencias, y pensado en que las nuevas tendencias científicas están encaminadas a solventar las problemáticas que afectan el desarrollo humano.

2022-05-23
Museos de ciencia, centros de atracción para el turismo científico

Estos centros de divulgación se convierten en verdaderos ‘imanes’ en el proyecto Turismo Científico, puesto en marcha en 2018 por la Fundación Descubre, por su capacidad de movilización hacia este nuevo segmento. La iniciativa, que ha dado el salto a escala nacional abriendo el registro a promotores de todo el país. En el Día Internacional de los Museos, miembros de la red como el Parque de las Ciencias de Granada, la Casa de la Ciencia de Sevilla, el Centro de Ciencia Principia de Málaga o el Museo Minero de Riotinto han programado actividades para celebrar la efeméride.