El dilema ético que gira alrededor de la tecnología de reconocimiento facial ha llevado a Google a hacer una pausa en la venta de su propio sistema al público.

El jueves, el negocio de Google en la nube dijo que se estaba absteniendo de ofrecer un sistema de reconocimiento facial para fines generales, citando el potencial de abuso.

“Continuamos trabajando con muchas organizaciones para identificar y abordar estos desafíos, y, a diferencia de otras compañías, Google Cloud ha optado por no ofrecer API de reconocimiento facial para fines generales antes de trabajar con importantes cuestiones de tecnología y políticas”, dijo el vicepresidente de asuntos globales de la compañía. Kent Walker escribió en un blog el jueves.

La declaración de Walker probablemente fue un golpe sutil hacia Amazon, que ha estado ofreciendo un sistema de reconocimiento facial a los clientes, incluida la policía estadounidense. El sistema de Amazon, denominado Rekognition, puede identificar las caras de las personas en imágenes y videos digitales, lo que hace que sea útil para la policía buscar rápidamente a los sospechosos en las investigaciones criminales. Sin embargo, los grupos de libertad civil temen que se pueda utilizar la misma tecnología para impulsar la vigilancia masiva a través de cámaras de seguridad para rastrear a los ciudadanos comunes.

En realidad, Walker dedicó la mayor parte de la publicación a los beneficios del reconocimiento facial y los algoritmos de inteligencia artificial que pueden descifrar objetos en imágenes. Por ejemplo, Google recientemente desarrolló un modelo de IA para ayudar a los oftalmólogos a identificar rápidamente si sus pacientes diabéticos sufrieron una complicación que puede causar ceguera permanente si no se trata.

“Nuestro modelo de IA ahora detecta la retinopatía diabética con un nivel de precisión a la par con los especialistas en retina humana”, escribió Walker. “Esto significa que los médicos y el personal pueden usar esta tecnología de asistencia para evaluar a más pacientes en menos tiempo, evitando que las personas tengan ceguera a través de un diagnóstico más oportuno”.

Google quiere ofrecer a todos los beneficios de la tecnología impulsada por la IA, por lo que planea continuar investigando la tecnología y llevar a cabo ciertos proyectos en coordinación con investigadores externos, organizaciones sin fines de lucro, gobiernos y empresas. “Sin embargo, al igual que muchas tecnologías con múltiples usos, el reconocimiento facial merece una consideración cuidadosa para asegurar que su uso esté alineado con nuestros principios y valores, y evita el abuso y los resultados dañinos”, agregó Walker.

En junio, Google adoptó un conjunto de nuevos principios empresariales sobre el desarrollo de inteligencia artificial que prohíben específicamente el diseño y el despliegue de inteligencia artificial como arma o herramienta de vigilancia. Esto ocurrió después de que los empleados de Google protestaron por la participación de la compañía en un proyecto del Pentágono para utilizar AI para analizar las imágenes de aviones no tripulados.

El jueves, la American Civil Liberties Union elogió la decisión de Google de abstenerse de ofrecer un sistema de reconocimiento facial de uso general. “Este es un primer paso sólido”, dijo la directora de ACLU, Nicole Ozer, en un comunicado. “Google demostró hoy que, a diferencia de otras compañías que redoblan los esfuerzos para poner la tecnología de vigilancia de caras peligrosas en manos de la policía y de ICE, tiene una brújula moral y está dispuesta a tomar medidas para proteger a sus clientes y comunidades”.

Actualmente, Google ofrece una tecnología de reconocimiento de objetos llamada Cloud Vision que puede escanear imágenes y detectar lo que representan. Pero en este punto, el sistema solo ofrece “detección de rostros”. No admite la capacidad de reconocer una cara y determinar a qué persona pertenece.

Mientras tanto, el rival Microsoft también ha estado vendiendo un sistema de reconocimiento facial a través de su plataforma Azure. Sin embargo, Microsoft ha expresado abiertamente su llamamiento a los gobiernos para que introduzcan leyes que regulen la tecnología antes de que puedan ser objeto de abuso en gran escala.

Fuente: PCMag aquí

0 14