2019-02-25La OpenAI de Elon Musk
Xataka |Las implicaciones sociales de la IA (y, sobre todo, de su mal funcionamiento) son numerosas.Los algoritmos mal diseñados o entrenados con datos poco diversos pueden generar todo tipo de situaciones perniciosas: discriminación laboral a mujeres, desaparición de la privacidad, denegación de préstamos a minorías o propagación de pseudociencias.
Muchas de esas externalidades negativas de la IA sobre lo social tienen a su vez causas sociales (como los prejuicios). Por ello, muchas son las voces que reivindican el papel que pueden desempeñar los científicos sociales a la hora de desarrollar esta tecnología.
Por ejemplo el emprendedor social Will Byrne, fundador de Groundwsell, afirmaba que
"Actualmente la IA es un campo enrarecido, exclusivo de tecnólogos y matemáticos. Los equipos con trasfondos más diversos plantearán por naturaleza las preguntas, iluminarán los puntos ciegos, comprobarán las suposiciones para garantizar que sus herramientas se basen en un espectro amplio de perspectivas".
¿Qué opina OpenAI?
"Si queremos entrenar a la IA para que haga lo que los humanos quieren, antes debemos estudiar a los humanos [...] y resolver muchas incertidumbres relacionadas con la psicología de la racionalidad humana", sostiene un artículo publicado recientemente por Geoffrey Irving y Amanda Askell, investigadores de OpenAI.
"Necesitamos científicos sociales con experiencia en cognición humana, comportamiento y ética, y en el diseño cuidadoso de experimentos rigurosos".
"Dado que las preguntas que debemos responder son interdisciplinarias [...] creemos que se pueden recurrir a muchos campos de la ciencia social, incluyendo psicología experimental, ciencia cognitiva, economía, ciencia política y psicología social, así como campos adyacentes como neurociencia y el derecho".
"Las respuestas humanas a las preguntas sobre sus valores pueden ser poco confiables. Los seres humanos tienen un conocimiento y una capacidad de razonamiento limitados, y exhiben una variedad de sesgos cognitivos y creencias éticas que resultan ser inconsistentes en la reflexión".
Todavía en medio de la polémica desatada por su IA redactora de fakes news, esta entidad sin ánimo de lucro (fundada por Elon Musk y respaldada por Peter Thiel) ha tenido tiempo para reivindicar la colaboración cercana entre científicos sociales y expertos en computación.
De hecho, en OpenAI están convencidos de la necesidad de contar con los científicos sociales para garantizar que el diseño de las inteligencias artificiales sea el adecuado para interactuar de manera fiable con nosotros.
Recientemente, de hecho, organizaron un taller en el Centro de Estudios Avanzados en Ciencias del Comportamiento de la Universidad de Stanford, y ya han hecho públicos sus planes para contratar científicos sociales que trabajen en esta clase de problemas a tiempo completo.
El problema de la alineación de valores
Uno de los 23 ‘Principios de Asilomar‘ elaborados por el Future of Life Institute con el fin de evitar que la IA se vuelva contra nosotros es el llamado "Alineación de valores", y se describe en estos términos:
"Los sistemas de IA altamente autónomos deberían ser diseñados para que sus metas y comportamientos puedan alinearse con los valores humanos a lo largo de sus operaciones".
Según OpenAI, lograr esto es una tarea que se subdivide en otras tres:
- Contar con una definición satisfactoria de los valores humanos.
- Recopilar datos sobre valores humanos, de manera compatible con su definición.
- Encontrar algoritmos de aprendizaje automático fiables que puedan aprender y generalizar a partir de estos datos.
En su artículo, Irving y Askell afirman que afrontamos incertidumbres significativas con respecto a estos tres aspectos. Los valores humanos (entendidos como nuestro conjunto completo de preferencias detalladas, no como objetivos abstractos y generales) son demasiado complejos como para definirlos con reglas simples.
Y añaden que, si bien esta alineación ya es un problema hoy en día (por la falta de coincidencia entre valores humanos y las fuentes de datos más usadas, como los clics), se hace más difícil a medida que los sistemas de aprendizaje automático se vuelven más inteligentes e intervienen en tareas más importantes.
La oferta de trabajo para científicos sociales publicada por OpenAI entra más en detalle sobre el papel que se le reservaría a este sector en el desarrollo de la IA:
Se le asignará la tarea de explorar el lado humano de los algoritmos de seguridad de IA que intentan aprender haciendo preguntas a los humanos. Eventualmente, estos algoritmos involucrarán tanto a humanos como a inteligencias artificiales, pero creemos que podemos obtener conocimiento temprano al modelar los algoritmos sólo con humanos.
Escrito por: Marcos Merino
Publicación de noticias sobre gadgets y tecnología. Últimas tecnologías en electrónica de consumo y novedades tecnológicas en móviles, tablets, informática...
2024-04-23
Vasto y rico: estudiando el océano con simulaciones por computadora de la NASA
Una herramienta desarrollada en la división de Supercomputación Avanzada de la NASA proporciona a los investigadores una visión global de su simulación oceánica en alta resolución. En esta parte de la visualización global, la Corriente del Golfo ocupa un lugar destacado. Las velocidades del agua superficial se muestran desde 0 metros por segundo (azul oscuro) hasta 1,25 metros (aproximadamente 4 pies) por segundo (cian). El vídeo se reproduce a un día de simulación por segundo. Los datos utilizados provienen del consorcio Estimating the Circulation and Climate of the Ocean (ECCO). Créditos: NASA/Bron Nelson, David Ellsworth
2024-04-17
Este robot puede saber cuándo estás a punto de sonreír y devolverte la sonrisa
Los emo pueden predecir una sonrisa humana 839 milisegundos antes de que suceda.
2024-04-16
Tokyo Electron: la futurista ASML nipona con la que Japón quiere convertirse en una potencia de los chips
"Estamos trabajando con nuestros clientes para desarrollar tecnologías que se adentran cuatro generaciones en el futuro". Esta declaración de Nobuto Doi, vicepresidente de Tokyo Electron, es toda una declaración de intenciones. Cuando hablamos de la industria de los equipos de fotolitografía la compañía neerlandesa ASML acapara todo el protagonismo. Y lo merece si tenemos presente que actualmente es la única que ha desarrollado máquinas de litografía de ultravioleta extremo (UVE) y su más reciente y avanzada iteración, los equipos UVE de alta apertura.
2024-04-15
Experiencias de gaming en plataformas de Metaverso
Existen multitud de plataformas de Metaverso a las que podemos acceder con nuestro avatar y experimentar diferentes mundos virtuales. Entre las plataformas más destacadas se encuentran Horizon Worlds, Microsoft Mesh, Spatial, Decentraland y VRChat, en las que podemos acceder a ellas desde distintos dispositivos. En algunas de ellas solo podremos disfrutar de la experiencia mediante gafas de realidad virtual (VR) y en otras, que son multidispositivo, es posible acceder desde dispositivos móviles y desktop.
2024-04-11
Una forma mejor y más rápida de evitar que un chatbot de IA dé respuestas tóxicas
Los investigadores crean un curioso modelo de aprendizaje automático que encuentra una variedad más amplia de indicaciones para entrenar un chatbot para evitar resultados odiosos o dañinos.
2024-04-11
Dominar el arte de la formación en robótica para las fábricas del mañana
El equipo del proyecto MASTER, financiado con fondos europeos, lanza su primera convocatoria abierta para desarrolladores de tecnologías de realidad extendida. El objetivo es crear innovaciones digitales de aprendizaje que se utilicen en una plataforma abierta para la formación basada en la realidad extendida en el sector manufacturero.
