¿Es peligrosa la tecnología de reconocimiento facial?

Resumen:

  • La tecnología de reconocimiento facial se utiliza para detectar rostros en imágenes, extraer características comparables de ellos y comparar esas características con un conjunto de características de referencia.
  • Los recientes avances en el aprendizaje automático también conocido como machine learning en inglés, han acelerado el desarrollo de las tecnologías de reconocimiento facial.
  • La tecnología de reconocimiento facial puede utilizarse para la autenticación, la identificación y el diagnóstico médico.
  • Los algoritmos utilizados en el reconocimiento facial reflejan sesgos que entran a través de los datos utilizados durante el entrenamiento.
  • Los investigadores de ética piden que se restrinja por ley el uso de las tecnologías de reconocimiento facial.

El reconocimiento automático de rostros en imágenes se ha convertido en un tema muy debatido en los últimos tiempos. Para poder debatir con conocimiento de causa sobre este tema, es importante conocer algunos antecedentes sobre esta tecnología y su uso actual.

El reconocimiento facial es una rama muy activa de la visión por ordenador que persigue el objetivo de identificar a un individuo a partir de una imagen de su rostro. La razón de ser es que la cara de las personas es única para ellas, al igual que otros datos biométricos, como las huellas dactilares, el ADN o, curiosamente, la forma de las orejas [1]. Una ventaja evidente de la identificación de la cara, en lugar de, por ejemplo, el ADN, es que es muy accesible: basta con una foto.

El primer algoritmo de reconocimiento facial automatizado se desarrolló en 1991 y se llamó Eigenfaces [2]. Este algoritmo supuso un gran avance, ya que no requería la anotación manual de los rasgos faciales (como los ojos, la boca, etc.). En su lugar, utilizaba transformaciones matemáticas de las imágenes faciales para relacionar los individuos con las imágenes de una base de datos. La idea general de este enfoque sigue utilizándose hoy en día y puede dividirse en tres pasos: detección de rostros, extracción de rasgos e identificación [3]. En el primer paso, un algoritmo escanea una imagen en busca de rostros. Una cara detectada se recorta de la imagen original y se preprocesa para que coincida con las imágenes con las que se comparará, ajustando, por ejemplo, el encuadre o el brillo/contraste. En el segundo paso, se utiliza el aprendizaje automático para extraer los rasgos faciales y crear una descripción del rostro que pueda compararse con otros. Esta descripción se utiliza en el tercer paso para comparar el rostro con otros de una base de datos y determinar la identidad o el estado médico de una persona. La mayor parte de la investigación actual se centra en optimizar la extracción de rasgos, ya que la clave para una identificación eficaz y fiable de los rostros reside en su descripción precisa, completa y comparable [4].

Un área destacada del reconocimiento facial es la autenticación de usuarios. En este caso, la tarea del algoritmo consiste en decidir si la cara de una foto de un usuario coincide con un rostro previamente analizado y, en caso afirmativo, concederle el acceso. Para ello, todos los datos implicados pueden almacenarse localmente en el dispositivo del usuario, lo que lo hace éticamente menos problemático. Ejemplos de aplicación de esta herramienta son FaceID de Apple o Windows 10 Hello de Microsoft, que son tecnologías de reconocimiento facial utilizadas para desbloquear dispositivos electrónicos. Los esfuerzos actuales se dirigen a ampliar el uso de estas tecnologías en la vida cotidiana [5]. Aparte de sus usos en dispositivos electrónicos, la autenticación mediante reconocimiento facial ha sido utilizada desde mediados de la década de 2000 por gobiernos de todo el mundo para identificar a los viajeros mediante el pasaporte biométrico [6].

Otro ámbito -más controvertido- del reconocimiento facial es la identificación de personas. La principal diferencia con respecto a la autentificación es que para identificar una cara desconocida hay que compararla con muchas caras registradas previamente. Para ello es necesario disponer de una base de datos de descripciones de rostros vinculada a los nombres de las personas correspondientes. Estas bases de datos pueden ser consultadas con fines de identificación [4]. Un ejemplo de reconocimiento facial utilizado en este contexto es la identificación de víctimas o autores de delitos por parte de las fuerzas del orden [7]. A pesar de las evidentes ventajas que tendría esta tecnología en manos de gobiernos y policías éticos, su uso sigue siendo muy controvertido. Una de las razones es que un reconocimiento facial fiable, unido a una vigilancia pública ampliada, puede permitir el seguimiento y la elaboración de perfiles automáticos del paradero y las acciones de un individuo [8]. Además, la tecnología de reconocimiento facial puede parecer imparcial en sus evaluaciones, cuando en realidad no lo es. Es muy susceptible a los sesgos de género o étnicos que entran a través de los datos utilizados para el entrenamiento de los algoritmos de aprendizaje automático [9]. Ambas razones son consideradas muy problemáticas por los investigadores de ética y otros científicos, que piden restricciones legislativas al uso del reconocimiento facial a gran escala [8, 10]. Como reacción a ello -y a raíz de la presión pública-, la mayoría de las grandes empresas tecnológicas han dejado de suministrar tecnología de reconocimiento facial a las fuerzas del orden [11].

Un último ejemplo de aplicación del software de reconocimiento facial es su uso como sistema de apoyo a la toma de decisiones para los médicos. En este caso, el reconocimiento automático de la cara de un paciente se utiliza para estimar la probabilidad de que el paciente tenga una determinada enfermedad. Se ha demostrado que esto funciona en varios casos, como la detección de enfermedades genéticas raras [12-14] y la predicción de parámetros fisiológicos como la grasa corporal, la presión arterial o el IMC [15]. Los puntos de preocupación obvios para este tipo de aplicaciones son, de nuevo, los sesgos en la selección de los pacientes utilizados para entrenar los algoritmos empleados y una posible falta de consentimiento por parte de los mismos [16].

En resumen, la tecnología de reconocimiento facial es una disciplina en rápida evolución y muy rentable [17], y parece que su progreso ha superado a los legisladores y a los líderes comunitarios. Es crucial que el uso de la tecnología de reconocimiento facial para la autenticación, la identificación y el diagnóstico médico esté bien regulado para que su poder pueda aprovecharse de forma ética, sin discriminar a las personas ni comprometer su privacidad o su libertad personal.

Referencias:

  1. Krishan, K. et al., A study of morphological variations of the human ear for its applications in personal identification, Egyptian Journal of Forensic Sciences, 2019
  2. Turk, MA. et al., Face recognition using eigenfaces, Computer Vision and Pattern Recognition Proceedings, 1991
  3. Kaur, P. et al., Facial-recognition algorithms: A literature review, Medicine, Science and the Law, 2020
  4. Wang, M. et al., Deep Face Recognition: A Survey, arXiv:1804.06655v8, 2019
  5. Chowdhury, MMH. et al., Biometric Authentication using Facial Recognition, Security and Privacy in Communication Networks, 2016
  6. Council Regulation (EC) No 2252/2004, Integration of biometric features in passports and travel documents, Official Journal of the European Union L385/1, 2004
  7. US National Institute of Justice, History of NIJ Support for Face Recognition Technology, nij.ojp.gov: https://nij.ojp.gov/topics/articles/history-nij-support-face-recognition-technology, 2020
  8. Brey, P., Ethical Aspects of Facial Recognition Systems in Public Places, Journal of Information, Communication & Ethics in Society, 2004
  9. Raji, I et al., Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products, Conference on Artificial Intelligence, Ethics, and Society, 2019
  10. Zeng, Y. et al., Responsible Facial Recognition and Beyond, arXiv: 1909.12935, 2019
  11. Brewster, T., Microsoft Urged to Follow Amazon And IBM: Stop Selling Facial Recognition To Cops After George Floyd’s Death, Forbes, 2020
  12. Basel-Vanagaite, L. et al., Recognition of the Cornelia de Lange syndrome phenotype with facial dysmorphology novel analysis, Clinical Genetics, 2015
  13. Kosilek, RP. et al., Automatic Face Classification of Cushing’s Syndrome in Women – A Novel Screening Approach, Exp Clin Endocrinol Diabetes, 2013
  14. Chen, S. et al., Development of a computer-aided tool for the pattern recognition of facial features in diagnosing Turner syndrome: comparison of diagnostic accuracy with clinical workers, Scientific Reports, 2018
  15. Stephen, ID. et al., Facial Shape Analysis Identifies Valid Cues to Aspects of Physiological Health in Caucasian, Asian, and African Populations, Frontiers in Psychology, 2017
  16. Martinez-Martin, N., What Are Important Ethical Implications of Using Facial Recognition Technology in Health Care?, AMA Journal of Ethics, 2019
  17. Marketandmarkets, Facial Recognition Market by Component, Application, Vertical, and Region – Global Forecast to 2024, Market Research Report TC 3421, 2019