Muchas personas utilizan la tecnología de reconocimiento facial en sus dispositivos personales, para introducir rápidamente y con seguridad una contraseña o completar una transacción en línea. Pero cuando esa misma tecnología se utiliza en entornos públicos -como para controlar a los pasajeros de un aeropuerto o para permitir el acceso a un lugar seguro-, ¿cómo se sienten las personas cuyas imágenes se captan?
Según un nuevo estudio dirigido por Penn State y la Universidad de Alabama, la decisión de una organización de desplegar públicamente la tecnología de reconocimiento facial -y si las partes interesadas están involucradas e informadas en esa toma de decisiones- no sólo podría dar lugar a las preocupaciones de los usuarios sobre la privacidad, la seguridad de los datos, la vigilancia masiva y el sesgo hacia los grupos minoritarios, sino que también podría revelar cuestiones de justicia organizativa, o percepciones de equidad, dentro de la propia organización.
“La tecnología la crean los humanos, y los humanos pueden ser fácilmente tendenciosos, por lo que la tecnología nunca es neutral”, dijo Yao Lyu, estudiante de doctorado en el Penn State College of Information Sciences and Technology. “La comunidad de la interacción persona-ordenador ha prestado cada vez más atención a las cuestiones de justicia en el diseño y el desarrollo de la tecnología. Pero como destacamos en nuestro estudio, además del diseño y el desarrollo, la aplicación de la tecnología también podría engendrar problemas de justicia, especialmente en un entorno organizativo en el que participan varias partes interesadas”.
Bajo la comparativa con el uso de la tecnología de reconocimiento facial en un dispositivo personal, donde el usuario tiene pleno control sobre la decisión de utilizar la herramienta como medio de autenticación, la reciente implementación de la tecnología de reconocimiento facial en entornos públicos captura y utiliza las imágenes de los individuos sin su consentimiento. Esto ha dado lugar a una creciente controversia, sobre todo en torno a la preocupación por la privacidad y la identificación errónea y desproporcionada de las mujeres y las personas de color, que a menudo conduce a falsas detenciones debido al sesgo algorítmico de las herramientas de reconocimiento facial que las fuerzas del orden utilizan para identificar a los sospechosos y los testigos. Los debates en curso han llevado a ciudades y estados de Estados Unidos, como San Francisco, Boston y Maine, a limitar o prohibir el uso de la tecnología de reconocimiento facial en espacios públicos. Sin embargo, su despliegue va en aumento en ciertos sectores -entre ellos las universidades públicas estadounidenses- en los que Yao y su equipo centraron su estudio.
“Me sorprendió el hecho de que el sector educativo sea uno de los entornos públicos en los que se está implantando esta tecnología a gran escala, a través de la seguridad del campus, el control de la asistencia y el aprendizaje virtual”, afirma Hengyi Fu, profesor adjunto del College of Communication & Information Sciences de la Universidad de Alabama y coautor del estudio. “En contraste con los debates más polémicos sobre la tecnología de reconocimiento facial en otros ámbitos de la sociedad, hay poca oposición sostenida a su implantación en las escuelas”.
Según Fu, en un entorno de educación superior, donde muchos jóvenes configuran su sentido de identidad social y pueden estar más dispuestos a compartir información personal, la implementación de la tecnología de reconocimiento facial podría conducir a la “eliminación normalizada de la oscuridad práctica”, un concepto anterior a Internet que sostiene que la información privada en los registros de acceso público -como los registros policiales- está en gran medida protegida debido a las limitaciones de accesibilidad.
“Intentar gestionar lo que se conoce y divulga sobre uno mismo puede considerarse una forma legítima de que los estudiantes se aseguren de que sus acciones e intenciones se interpretan y entienden correctamente”, afirmó.
En el estudio, el primero de este tipo en el que se investiga cómo responden los participantes a la tecnología de reconocimiento facial en un entorno universitario, los investigadores examinaron las perspectivas del profesorado, el personal y los estudiantes que tuvieron que acceder al espacio de trabajo colaborativo compartido de una universidad pública mediante el reconocimiento facial, en sustitución del anterior sistema de paso de tarjetas, sin conocimientos ni formación previos. Entrevistaron a 19 usuarios del sistema al menos dos semanas después del uso inicial de la tecnología por parte de cada participante, midiendo la experiencia previa de cada usuario y su conocimiento de la tecnología de reconocimiento facial; sus impresiones y reacciones iniciales; sus actitudes generales hacia el sistema y la decisión de instalarlo; y si sus opiniones cambiaron después de sus interacciones iniciales.
Descubrieron que más de la mitad de los usuarios se sentían inicialmente incómodos o confundidos por la decisión de instalar el sistema, mientras que una minoría de usuarios se mostraba curiosa o incluso impresionada. Con el tiempo, todos los participantes con percepciones negativas se mantuvieron firmes; la mayoría de los que inicialmente estaban a favor de la instalación pasaron a sentirse menos partidarios; y la mayoría de los que inicialmente se sentían neutrales llegaron a aceptar la tecnología, pero con cierto nivel de reticencia.
Además, la mayoría de los participantes se quejaron del proceso de toma de decisiones y consideraron injusto que se diera por supuesto su consentimiento, independientemente de su impresión sobre la propia tecnología. Ningún usuario declaró haber recibido formación oficial sobre la tecnología o información sobre el motivo de la instalación del sistema o cómo se tomó la decisión de instalarlo.
“Cada día se introducen nuevas tecnologías en nuestras vidas, entre ellas el reconocimiento facial, a menudo (con la promesa) de aportarnos más comodidad”, dijo Lyu. “Es elegante, rápido y especialmente cómodo, pero (hay) también personas preocupadas por los posibles problemas de la tecnología. La pregunta es: ¿la comodidad supera las preocupaciones?”.
A través de este estudio y otros proyectos en los que los investigadores estudian las tecnologías emergentes y la reacción de la gente ante ellas, esperan dotar a la dirección de las organizaciones de información basada en pruebas que pueda influir en la toma de decisiones a la hora de implantar tecnologías novedosas o a veces controvertidas.
“A medida que continúa el despliegue de la tecnología de reconocimiento facial y aumentan las críticas del público, es necesario investigar para entender cómo se implementan las tecnologías controvertidas, qué tipo de experiencias tienen los usuarios y cómo es probable que respondan”, mencionó Fu. “Este estudio proporciona información empírica y conceptual sobre las interacciones de los usuarios con un sistema de reconocimiento facial en un entorno real. Los datos cualitativos ofrecen una base para la investigación cuantitativa relacionada con el diseño que facilitará las comparaciones entre las actitudes hacia la tecnología de reconocimiento facial a lo largo del tiempo”.
El artículo de los investigadores, “Interacción con la tecnología de reconocimiento facial en un entorno universitario: Impression, Reaction, and Decision-making”, se presentó esta semana en la iConference 2022, donde fue finalista del premio Lee Dirks al mejor trabajo de investigación completo. Yubo Kou, profesor adjunto de ciencias de la información y tecnología en Penn State, también contribuyó al proyecto.
[content-egg module=Youtube template=custom/simple]Lo más visto del mes en: Seguridad
Jessica Ávila
Me apasiona la música y todo lo relacionado con lo audiovisual desde muy joven, y crecí en esta carrera que me permite utilizar mis conocimientos sobre tecnología de consumo día a día. Puedes seguir mis artículos aquí en Elenbyte para obtener información sobre algunos de los últimos avances tecnológicos, así como los dispositivos más sofisticados y de primera categoría a medida que estén disponibles.
