Inteligencia Artificial. Image: Pixabay

El rápido desarrollo de las tecnologías de inteligencia artificial en todo el mundo ha llevado a una creciente demanda de una política de inteligencia artificial robusta: leyes que permitan que la innovación florezca al tiempo que protegen a las personas de violaciones de privacidad, vigilancia explotadora, algoritmos sesgados y más.

Pero la redacción y aprobación de tales leyes ha sido todo menos fácil.

"Este es un problema muy complejo", dijo Luis Videgaray PhD ‘98, director de la Política de AI para el Proyecto Mundial del MIT, en una conferencia el miércoles por la tarde. “Esto no es algo que se resolverá en un solo informe. Tiene que ser una conversación colectiva, y llevará un tiempo. Pasarán años en la fabricación ”.

A lo largo de su charla, Videgaray describió una visión ambiciosa de la política de IA en todo el mundo, que es sensible a la dinámica económica y política, y se basa en la equidad material y la deliberación democrática.   

"La confianza es probablemente el problema más importante que tenemos", dijo Videgaray.

La charla de Videgaray, "De los principios a la implementación: el desafío de la política de IA en todo el mundo", fue parte de la serie de debates públicos del Foro Starr sobre temas de interés mundial. El Foro Starr es organizado por el Centro de Estudios Internacionales del MIT. Videgaray dio sus comentarios a una multitud de más de 150 personas en el edificio E25 del MIT.

Videgaray, quien también es profesor titular en la MIT Sloan School of Management, anteriormente se desempeñó como ministro de finanzas de México de 2012 a 2016 y ministro de relaciones exteriores de México de 2017 a 2018. Videgaray también ha trabajado extensamente en banca de inversión.

Retraso informativo y exageración mediática

En su charla, Videgaray comenzó describiendo varios "temas" relacionados con la IA que él piensa que los responsables políticos deberían tener en cuenta. Estos incluyen los usos gubernamentales de la IA; los efectos de la IA en la economía, incluida la posibilidad de que pueda ayudar a las empresas tecnológicas gigantes a consolidar el poder del mercado; problemas de responsabilidad social, como privacidad, equidad y prejuicios; y las implicaciones de la IA para la democracia, en un momento en que los bots pueden influir en la discusión política. Videgaray también señaló una "geopolítica" de la regulación de la IA, desde los esfuerzos integrales de China para controlar la tecnología hasta los métodos más flexibles utilizados en los EE. UU.

Videgaray observó que es difícil para los reguladores de IA mantenerse al día con la tecnología.

"Hay un retraso de información", dijo Videgaray. "Las cosas que preocupan a los informáticos de hoy podrían convertirse en preocupaciones de los encargados de formular políticas en los próximos años".

Además, señaló, la exageración de los medios puede distorsionar las percepciones de la IA y sus aplicaciones. Aquí, Videgaray comparó el reciente informe del Grupo de trabajo sobre el futuro del trabajo del MIT, que encuentra incertidumbre sobre cuántos trabajos serán reemplazados por tecnología, con un reciente documental de televisión que presenta una imagen de vehículos automatizados que reemplazan a todos los conductores de camiones.

"Claramente, la evidencia no está cerca [indicando] que todos los trabajos en conducción de camiones, en conducción de larga distancia, se perderán", dijo. "Ese no es el caso."

Teniendo en cuenta estos problemas generales, ¿qué deberían hacer los responsables políticos sobre la IA ahora? Videgaray ofreció varias sugerencias concretas. Para empezar: los formuladores de políticas ya no deberían simplemente esbozar principios filosóficos generales, algo que se ha hecho muchas veces, con una convergencia general de ideas.

"Trabajar en principios tiene rendimientos marginales muy, muy pequeños", dijo Videgaray. “Podemos pasar a la siguiente fase ... los principios son una condición necesaria pero no suficiente para la política de IA. Porque la política consiste en tomar decisiones difíciles en condiciones inciertas ".

De hecho, enfatizó, se puede lograr un mayor progreso haciendo que muchas decisiones de política de IA sean particulares para industrias específicas. Cuando se trata de, por ejemplo, diagnóstico médico, los encargados de formular políticas quieren que la tecnología "sea muy precisa, pero también quieren que sea explicable, que sea justa, sin prejuicios, que la información sea segura ... hay muchos objetivos eso puede entrar en conflicto entre sí. Entonces, esto se trata de las compensaciones ”. 

En muchos casos, dijo, las herramientas de inteligencia artificial basadas en algoritmos podrían pasar por un proceso de prueba riguroso, como se requiere en algunas otras industrias: "Las pruebas previas a la comercialización tienen sentido", dijo Videgaray. "Hacemos eso para medicamentos, ensayos clínicos, lo hacemos para automóviles, ¿por qué no deberíamos hacer pruebas previas a la comercialización de algoritmos?"

Pero aunque Videgaray ve valor en las regulaciones específicas de la industria, no está tan interesado en tener un mosaico de diferentes leyes de IA a nivel estatal que se utilizan para regular la tecnología en los EE. UU.

“¿Es esto un problema para Facebook, para Google? No lo creo ”, dijo Videgaray. “Tienen suficientes recursos para navegar a través de esta complejidad. ¿Pero qué hay de las startups? ¿Qué pasa con los estudiantes del MIT o Cornell o Stanford que están tratando de comenzar algo y tendrían que pasar, en el extremo, 55 [piezas de] legislación?

Una conversación colaborativa

En el evento, Videgaray fue presentado por Kenneth Oye, profesor de ciencias políticas en el MIT que estudia la regulación tecnológica, y que hizo preguntas a Videgaray después de la conferencia. Entre otras cosas, Oye sugirió que los estados de EE. UU. Podrían servir como un laboratorio útil para la innovación regulatoria.

"En un área caracterizada por una incertidumbre, complejidad y controversia significativas, la experimentación puede tener beneficios, ya que se buscan diferentes modelos en diferentes áreas para ver cuál funciona mejor o peor", sugirió Oye.

Videgaray no necesariamente estuvo en desacuerdo, pero enfatizó el valor de una eventual convergencia en la regulación. Señaló que la industria bancaria de los Estados Unidos también siguió esta trayectoria, hasta que "finalmente la regulación que tenemos para las finanzas [se volvió] federal", en lugar de ser determinada por los estados.

Antes de sus comentarios, Videgaray reconoció a algunos miembros de la audiencia, incluido su asesor de tesis doctoral en el MIT, James Poterba, el profesor de economía de Mitsui, a quien Videgaray llamó "uno de los mejores maestros, no solo en economía sino sobre muchas cosas en la vida". . " El cónsul general de México en Boston, Alberto Fierro, también asistió al evento.

Finalmente, Videgaray enfatizó a la audiencia que el futuro de la política de IA será colaborativo.

"No puedes simplemente ir a un laboratorio de computación y decir: ‘Está bien, tráeme una política de IA‘", enfatizó. "Esto tiene que ser una conversación colectiva".

Escrito por: Peter Dizikes | MIT News Office

Autor

MIT

Promover la investigación, las innovaciones, la enseñanza y los eventos y las personas de interés periodístico del MIT a la comunidad del campus, los medios de comunicación y el público en general, Comunicar anuncios del Instituto, Publicar noticias de la comunidad para profesores, estudiantes, personal y ex alumnos del MIT. Proporcionar servicios de medios a los miembros de la comunidad, incluido el asesoramiento sobre cómo trabajar con periodistas, Responder a consultas de los medios y solicitudes de entrevistas...