Noticias Actualidad en procesos industriales

Dele visibilidad a su trayectoria académica

Participe en la convocatoria de trabajos inéditos de Virtual Pro.

Publicar Ahora

2019-04-10Hacia la regulación del Reconocimiento Facial

Foro Económico Mundial |A pesar de que el Reconocimiento Facial (RF) se utiliza en centenares de aplicaciones, existen muy pocas reglas para gobernar su uso. Más importante: esta tecnología, en las manos incorrectas, puede ser muy peligrosa, por lo que no es casualidad que se hayan incrementado los llamados para regularla.

 La Unión Americana de Libertades Civiles fue una de las primeras organizaciones que se pronunció por la regulación, después de anunciar que obtuvo documentos sobre el uso de Amazon Rekognition para equipar a fuerzas policiacas. La organización manifestó que este tipo de uso “plantea profundas preocupaciones sobre las libertades y derechos civiles[…] una vez que se construyan y desplieguen sistemas de vigilancia automáticos y potentes como estos, el daño será extremadamente difícil de deshacer.”

En diciembre pasado, un director de Microsoft instó a los legisladores estadounidenses a establecer reglas sobre el RF para evitar una carrera sobre una espiral hasta el fondo —observación que recalcó Satya Nadella en Davos—.

Las reacciones tampoco han sido las que Microsoft esperaba. Por un lado, otras empresas de tecnología los criticaron aduciendo que tenían miedo a la competencia. Para la compañía con sede en obserWashington, el potencial del abuso va más allá de la auto vigilancia y auto contención de los jugadores de la industria, y por ello se requieren reglas claras. A nivel estatal,un grupo bipartidista presentó una propuesta que exigía la certificación que los sistemas en uso son igualmente precisos para personas de diferentes razas, tonos de piel, etnias, género o edad.

¿Cómo es el marco regulatorio actual?

A nivel internacional, no existe una regulación unificada para el uso del RF. En EE.UU., las leyes a nivel estatal y federal dejan a discreción de las autoridades de seguridad que puedan establecer sus propias políticas. Lo más cercano es la Cuarta Enmienda constitucional, que protege a los ciudadanos contra el espionaje, aunque la mayor parte de interés policiaco es aplicarla a imágenes recopiladas legalmente en público.

  1. A nivel federal, hay interés de organizar audiencias ante el Congreso para informar sobre el tema. A nivel estatal, Texas, Illinois y Washington tienen leyes de privacidad para la recolección de datos biométricos, por lo que las compañías requieren permiso para hacerse desde huellas digitales hasta RF.

A nivel municipal, las ciudades californianas de Berkeley, Davis, Oakland, Santa Clara y San Francisco han tomado acciones alrededor del RF, al que ven como tecnología de espionaje. Ahora exigen cierta transparencia y un proceso ordenado para utilizarla. Algunas propuestas más ambiciosas buscan reportes anuales y hasta la prohibición de la tecnología, ya que solo ven un uso coercitivo u opresivo.

La regulación del RF debe ser una prioridad para países latinoamericanos, que están inmersos en una profunda transformación tecnológica, con gobiernos más interesados en utilizarla. Por ejemplo, el gobierno de la Ciudad de México anunció que se utilizará la tecnología en las 22 estaciones del metro más críticas con el fin de “mejorar el servicio al usuario”.

Nos encontramos en un caso típico en el que la tecnología se mueve más rápido que los reguladores, pero hay derechos que deben ser protegidos. Compañías como Microsoft apoyan medidas así porque, al estar en innovación de vanguardia, han visto sus implicaciones.


Un marco básico para una regulación del RF debiera incluir los siguientes apartados.

1. Casos de uso prohibido o con alto nivel de regulación: Debe definir el concepto de aceptabilidad para uso de la tecnología. Se pueden definir casos estrictamente prohibidos y debe facilitar los cambios en el camino, ya que los abusos no ocurren desde el principio, sino a medida que la tecnología se acepta y se afianza.

2. Protección: Se refiere a reglas para defender derechos universales (no discriminación, por ejemplo), poblaciones vulnerables (menores de edad, entre otros), minorías (raciales, étnicas, entre otras) y áreas sensibles (hospitales, escuelas, baños, entre otros).

3. Transparencia: El RF puede ser legislado dentro del marco de recolección de datos biométricos, que generalmente requieren que las personas sean notificadas, y en algunos casos, den su consentimiento. Aquí hay que tener cuidado que la forma de aplicar esta regla sea práctica, ya que generalmente estas legislaciones derivan en papeleo y aumento de burocracia.

4. Rendición de cuentas y atención a sesgos: Se deben abrir protocolos para que terceros de confianza puedan realizar pruebas y comparaciones sobre los motores de RF, de forma que muestren precisión y no tengan sesgos injustos, incluidos los raciales.

5. Supervisión humana: Al menos para esta generación de RF, sería valioso exigir que los algoritmos tengan supervisión humana relevante mientras estén trabajando. Los revisores deberán estar capacitados para prever y responder a escenarios complejos de uso, y tomar decisiones relevantes.

6. Educación sobre RF: Como en muchos casos tecnológicos, las personas saben poco —y les interesan poco— las implicaciones del RF. Es por ello que, así como se está comenzando a capacitar desde la educación básica sobre el consumo de noticias en la época de las fake news y sus riesgos, se haga una concientización análoga para RF.

7. Uso en el sector público: La legislación debe marcar reglas claras a los gobiernos y los cuerpos de seguridad —con participación de especialistas y organizaciones civiles— sobre el uso responsable de esta tecnología, incluyendo protocolos de actuación. Más aún, deben legislarse inclusive casos excepcionales como seguridad nacional y emergencia, así como distinguir su uso en espacios públicos —no es lo mismo utilizarla en una calle cualquiera que en una manifestación o dentro de un estadio—. Igualmente, tiene que asegurarse que no se le dé un uso discriminatorio.

Como se ha visto aquí, el marco regulatorio del RF puede ser muy directo y su objetivo debe ser el de velar por el bien común y generar confianza. Inclusive, puede mejorar nuestra vida en caso de que nos permita contar con espacios públicos y privados más seguros. Pero para ello, tenemos que comenzar con su discusión.


2024-03-27
Oportunidades y riesgos de la Inteligencia Artificial General y la Superinteligencia

La Inteligencia Artificial (IA) se ha vuelto una tecnología de uso cotidiano. Día a día aparecen nuevas aplicaciones para crear música, hacer vídeos, generar imágenes, producir textos, calificar tareas y automatizar procesos. Las empresas están implementando modelos de aprendizaje automático y aprendizaje profundo para el mejoramiento en la toma de decisiones en sus diferentes áreas. También se están adaptando diversas aplicaciones en la optimización de la mayoría de operaciones logísticas de las cadenas de suministros. En este sentido, es necesario entender ¿qué es la IA General?, y ¿qué es la Superinteligencia?

2024-03-27
La NASA lanzará cohetes sonda a la sombra de la Luna durante el eclipse solar

La NASA lanzará tres cohetes sondeo durante el eclipse solar total del 8 de abril de 2024, para estudiar cómo se ve afectada la atmósfera superior de la Tierra cuando la luz solar se atenúa momentáneamente sobre una parte del planeta.

2024-03-27
Un pequeño dispositivo puede medir cambios sutiles en el campo gravitacional de la Tierra

El instrumento se encuentra entre los gravímetros más pequeños y más baratos jamás construidos.

2024-03-26
Corte y confección del genoma para tratar enfermedades

Recientemente se aprobó en el Reino Unido y en Estados Unidos la primera terapía génica basada en el método CRISPR/Cas9, que combatirá la anemia de células falciformes y la beta talasemia.

2024-03-26
El campo científico y la representatividad de las mujeres en Colombia

Marzo destaca el papel de las mujeres en la ciencia, promoviendo la equidad y la representatividad. Adriana Ocampo, Ángela Camacho, Susana Fiorentino, Nubia Muñoz y Alexandra Olaya-Castro son ejemplos de mujeres que han contribuido significativamente en diversos campos científicos.

2024-03-21
La IA genera imágenes de alta calidad 30 veces más rápido en un solo paso

Un método novedoso hace que herramientas como Stable Diffusion y DALL-E-3 sean más rápidas al simplificar el proceso de generación de imágenes en un solo paso mientras se mantiene o mejora la calidad de la imagen.