Microsoft prohíbe el uso de su IA para uso de reconocimiento facial policial

0
29

La policía de Estados Unidos ya no podrá utilizar los servicios de Azure OpenAI para el reconocimiento facial.

En su código de conducta, Microsoft reforzó su prohibición sobre los departamentos de policía de Estados Unidos para utilizar sus servicios de Azure OpenAI. Estos incluyen inteligencia artificial (IA) generativa de reconocimiento facial.

Estos términos se añadieron al Servicio Azure OpenAI que prohíbe de manera más clara las integraciones con dicho servicio de ser utilizadas «por o para» departamentos de policía para reconocimiento facial en los Estados Unidos, incluyendo integraciones con modelos de análisis de imágenes actuales y futuros de OpenAI.

Otro nuevo punto aborda «cualquier aplicación policial a nivel global» y prohíbe explícitamente el uso de «tecnología de reconocimiento facial en tiempo real» en cámaras móviles, como cámaras corporales y dashcams, para intentar identificar a una persona en entornos «sin control, en la naturaleza».

El medio especializado Techcrunch reportó que los cambios en la política llegan una semana después de que Axon, un fabricante de productos tecnológicos y armas para militares y fuerzas del orden, anunciara un nuevo producto que aprovecha el modelo de texto generativo GPT-4 de OpenAI para resumir audio de cámaras corporales.

Los críticos señalaron rápidamente posibles problemas, como alucinaciones, es decir, errores en el modelo sin que el usuario esté enterado, hasta prejuicios raciales introducidos desde los datos de entrenamiento. Esto es especialmente preocupante dado que se han reportado numerosos casos donde las personas de ciertas etnicidades, como la africana o latina, tienen muchas más probabilidades de ser detenidas por la policía.

No está claro si Axon estaba utilizando GPT-4 a través del Servicio Azure OpenAI, y, según el medio especializado, de ser así, si la política actualizada fue en respuesta al lanzamiento de este producto.

Tecnología de reconocimiento facial: un problema mundial

El código de conducta señala que la prohibición sobre el uso del Servicio Azure OpenAI se refiere solo a la policía de Estados Unidos, no internacional, y no cubre el reconocimiento facial realizado con cámaras en entornos controlados, como una oficina.

En enero, Bloomberg reveló que OpenAI está trabajando con el Pentágono en varios proyectos, incluyendo capacidades de ciberseguridad, lo que representa un cambio en la prohibición anterior de la startup de proporcionar su IA a los militares.

El Servicio Azure OpenAI se hizo disponible en el producto Azure Government de Microsoft en febrero, añadiendo características adicionales de cumplimiento y gestión dirigidas a agencias gubernamentales, incluyendo fuerzas del orden.

En una publicación de blog , Candice Ling, vicepresidenta senior de la división de gobierno de Microsoft Federal, se comprometió a que el Servicio Azure OpenAI se sometería a «autorización adicional» por parte del DoD para cargas de trabajo que apoyen las misiones del DoD.

Dejar respuesta

Please enter your comment!
Please enter your name here