Un nuevo TechBrief de la ACM señala los problemas éticos y de privacidad de la tecnología de reconocimiento facial

Un nuevo TechBrief de la ACM señala los problemas éticos y de privacidad de la tecnología de reconocimiento facial

El Consejo de Política Tecnológica global de la Association for Computing Machinery (ACM TPC) ha publicado hoy “ACM TechBrief: Facial Recognition”, una visión concisa de una aplicación cada vez más utilizada que depende en gran medida de la inteligencia artificial. El informe incluye una introducción al reconocimiento facial, estadísticas clave sobre su crecimiento y uso, así como importantes implicaciones políticas.

Esta última edición destaca que el uso del reconocimiento facial basado en la IA está “aumentando a pesar de sus limitaciones fundamentales, creando profundas preocupaciones éticas y de privacidad“. El gráfico “By the Numbers” de TechBrief pone de relieve las estadísticas clave sobre su crecimiento y uso. Por ejemplo, más de 80 millones de estadounidenses (casi el 25% de la población del país) viven ahora en jurisdicciones que han prohibido o restringido en gran medida el uso de sistemas de reconocimiento facial, en gran medida debido a la preocupación por la privacidad y las libertades civiles.

Una de las principales preocupaciones señaladas por el TPC de la ACM es que los prejuicios (incluidos los raciales y de género) son omnipresentes y profundos en los sistemas de reconocimiento facial. El TechBrief cita varios estudios de investigación que demuestran que los errores suelen recaer de forma desproporcionada en las poblaciones minoritarias, especialmente en las personas de color.

“Es un momento urgente”, explica el Dr. Joshua A. Kroll, profesor adjunto de la Naval Postgraduate School y autor principal del ACM TechBrief. “Últimamente, los artículos sobre el reconocimiento facial están en todas las noticias y algunas de las principales empresas del mundo se están replanteando fundamentalmente si utilizar o no esta tecnología. Pero la comprensión del público de la tecnología, así como el motivo de su controversia, es vaga. El Consejo de Política Tecnológica de la ACM ha elaborado este resumen para familiarizar a la gente con los fundamentos del reconocimiento facial, así como con los motivos por los que muchos profesionales de la informática están preocupados por sus posibles efectos negativos. Esperamos que este TechBrief ayude a enmarcar un debate público sobre el reconocimiento facial y evite que la gente se vea perjudicada por estas tecnologías”.

Otra de las principales preocupaciones planteadas en el TechBrief es la cuestión de la privacidad. El TPC de la ACM señala que en cualquier lugar donde haya una cámara, los individuos pueden ser potencialmente identificados y rastreados. Por consiguiente, puede ser casi imposible evitar esto sin evitar los espacios públicos. Además, muchos sistemas comerciales se desarrollan a partir de imágenes de reconocimiento facial recogidas sin el conocimiento o el consentimiento de los retratados. En un ejemplo reciente, el Estado de Texas ha anunciado que va a demandar a Meta por utilizar indebidamente los datos de reconocimiento facial.

“Este nuevo TechBrief complementa una declaración de 2020 emitida por el Comité de Política Tecnológica de Estados Unidos de la Association for Computing Machinery (ACM USTPC), que instaba a suspender inmediatamente el uso privado y gubernamental de las tecnologías de reconocimiento facial”, añadió James Hendler, profesor del Instituto Politécnico Rensselaer y presidente del ACM TPC. “En teoría, el despliegue de las tecnologías de reconocimiento facial podría ofrecer beneficios a la sociedad. Pero, en la práctica, el uso no regulado del reconocimiento facial tiene el potencial de causar daños a los derechos humanos y legales fundamentales de los individuos en áreas como la privacidad, el empleo, la justicia y la libertad personal. Esperamos que al proporcionar a las personas una visión general accesible de la tecnología de reconocimiento facial entiendan por qué debe ser cuidadosamente regulada antes de que se adopte de forma más generalizada”.

Este TechBrief es el segundo de una serie de boletines técnicos breves del TPC de la ACM que presentan perspectivas con base científica sobre el impacto de desarrollos o aplicaciones tecnológicas específicas. Diseñados para complementar las actividades de ACM en el ámbito político, los TechBriefs pretenden informar a los responsables políticos y a otras personas sobre la naturaleza y las implicaciones de las tecnologías de la información. El primer TechBrief de ACM de la serie se centró en el cambio climático. Entre los temas que se están estudiando para futuros números se encuentran la seguridad electoral, las ciudades inteligentes y la encriptación.

[content-egg module=Youtube template=custom/simple]

Jessica Ávila

Jessica Ávila

Me apasiona la música y todo lo relacionado con lo audiovisual desde muy joven, y crecí en esta carrera que me permite utilizar mis conocimientos sobre tecnología de consumo día a día. Puedes seguir mis artículos aquí en Elenbyte para obtener información sobre algunos de los últimos avances tecnológicos, así como los dispositivos más sofisticados y de primera categoría a medida que estén disponibles.

Elenbyte
Logo
Comparar artículos
  • Total (0)
Comparar
0