Czy technologia cyfrowego rozpoznawania twarzy może nam zagrażać?
Podsumowanie:
- Technologia rozpoznawania twarzy jest wykorzystywana do wykrywania twarzy w obrazie, wyodrębnianie ich cech oraz porównywanie tychże cech z zestawem punktów odniesienia.
- Rozwój w dziedzinie nauczania maszynowego (‘machine learning’) przyspieszył postęp w technologii rozpoznawania twarzy.
- Rozpoznawanie twarzy może być używane do uwierzytelniania, identyfikacji oraz diagnozy medycznej.
- Algorytmy rozpoznawania twarzy odzwierciedlają uprzedzenia pojawiające się przy wprowadzaniu danych “treningowych”.
- Etycy technologii nawołują do prawnych restrykcji w użyciu rozpoznawania twarzy.
Temat zautomatyzowanego rozpoznawania twarzy jest ostatnio bardzo często poruszany w mediach, np. w związku z protestami w USA oraz w Hong-Kongu. Znajomość podstaw działania tej technologii oraz jej zastosowanie są niezbędne, aby lepiej zrozumieć korzyści oraz zagrożenia, jakie ze sobą niesie.
Wykrywanie twarzy jest bardzo aktywną gałęzią nauki zwaną “rozpoznawanie obrazów” (‘computer vision’). Jej celem jest identyfikacja osób wykorzystując jedynie zdjęcia twarzy. Technologia ta bazuje na założeniu, że twarz, tak jak inne cechy biometryczne (odciski palców, DNA oraz kształt uszu), jest wyjątkowa dla każdej osoby [1]. Technologia rozpoznawania twarzy wymaga jedynie zdjęcia, co jest oczywiście o wiele łatwiejsze niż, na przykład, użycie DNA.
Pierwszy algorytm do rozpoznawania twarzy nosił nazwę “Eigenfaces” i został opracowany już w 1991 roku [2]. Był to przełomowy system, gdyż nie wymagał zdalnego oznaczania cech twarzy, takich jak ulokowanie oczu czy ust. Algorytm ten wykonywał przekształcenia funkcji matematycznych na zdjęciach przedstawiających twarze i przyrównywał je do zdjęć znajdujących się w bazie danych. Metoda wykorzystana w tym algorytmie jest wciąż inspiracją dla aktualnie stosowanych systemów. Ich działanie może być podzielone na trzy etapy: detekcja twarzy, wyodrębnienie cech oraz identyfikacja [3]. W pierwszym etapie algorytm skanuje obraz w poszukiwaniu twarzy. Po rozpoznaniu, twarz jest wycinana z oryginalnego zdjęcia i wstępnie dostosowywana (ramka obrazu, jasność, kontrast) w celu ujednolicenia obrazu pod format obowiązujący w bazie danych. Na kolejnym etapie uczenie maszynowe jest wykorzystywane do wyodrębnienia cech fizjonomicznych i stworzenia opisu twarzy w celach porównawczych. Taki ‘opis’ twarzy jest następnie używany w trzecim etapie w celu dopasowania jej do wyników w bazie danych, co pozwala na identyfikację lub diagnozę medyczną. Większość obecnych badań nad tą technologią ma na celu optymalizację procesu wyodrębniania cech, gdyż podstawa do wydajnej i rzetelnej identyfikacji leży w dokładnym, pełnym i łatwym do porównań cyfrowym opisie twarzy [4].
Typowym użyciem rozpoznawania twarzy jest uwierzytelnienie użytkownika (między innymi do odblokowywania współczesnych telefonów). W tym przypadku, zadanie algorytmu polega na decydowaniu, czy twarz na obrazie odpowiada wcześniej analizowanemu wizerunkowi. Dane do tego celu mogą być przechowywane lokalnie (np. w telefonie), co jest mniej problematyczne z perspektywy etyki. Przykładem takich rozwiązań są Apple FaceID lub Microsoft Windows 10 Hello, służące właśnie do odblokowania urządzeń cyfrowych. Badania w tej dziedzinie mają na celu głównie poszerzenie zastosowania tej technologii w codziennym życiu [5]. Poza użyciem w elektronice, uwierzytelnienie tego typu zaczęto stosować już od połowy pierwszej dekady 21-go wieku [6]. Rządy wielu krajów wykorzystują tę technologię w celu identyfikacji podróżnych, np. przy użyciu paszportów biometrycznych.
Wiele kontrowersji wzbudza automatyczne rozpoznawanie twarzy w celu identyfikacji obywateli. W odróżnieniu od uwierzytelniania, proces ten ma na celu określenie tożsamości przypadkowej osoby porównując jej twarz z wcześniej uzyskanymi obrazami. Takie rozwiązanie wymaga bazy danych, w której cechy twarzy przypisane są do nazwisk, umożliwiając identyfikację obywateli [4]. Przykładowe użycie to identyfikacja sprawców przestępstw przez funkcjonariuszy służb porządkowych [7]. Poza oczywistymi korzyściami dla postępujących etycznie rządów i służb, użycie tej technologii wzbudza kontrowersje. Jednym z powodów może być to, że w połączeniu z ciągłym monitoringiem rozpoznawanie twarzy pozwala na automatyczne śledzenie i profilowanie obywateli [8]. Dodatkowo, rozpoznawanie twarzy nie jest wolne od uprzedzeń, choć tak mogłoby się wydawać. Podczas treningowego wprowadzania danych do algorytmów uczenia maszynowego wkrada się wiele uprzedzeń związanych z płcią i pochodzeniem etnicznym [9]. Powyższe zastrzeżenia powodują, że etycy i badacze nawołują do zaostrzenia przepisów dotyczących rozpoznawania twarzy na szeroką skalę [8. 10]. W odpowiedzi na te zastrzeżenia oraz z powodu nacisków społecznych, duże firmy technologiczne przestały zaopatrywać służby porządkowe w oprogramowanie do rozpoznawania twarzy [11].
Ostatnim przykładem zastosowania omawianej technologii jest medycyna. W tym przypadku, automatyczne rozpoznawanie twarzy pacjenta ma na celu oszacowanie prawdopodobieństwa występowania schorzeń. Rozwiązanie to było już demonstrowane wielokrotnie i wykryło, między innymi, rzadkie choroby genetyczne [12-14]. Algorytmy potrafiły także przewidzieć parametry fizjologiczne pacjenta, takie jak poziom tkanki tłuszczowej, ciśnienie krwi czy wskaźnik masy ciała (BMI) [15]. Tak jak w przypadku wyżej wymienionych zastosowań technologii rozpoznawania twarzy, w systemie mogą pojawić się uprzedzenia wynikające z profili pacjentów użytych przy trenowaniu algorytmów. Dodatkowo, kontrowersje wzbudza wyrażanie zgody przez pacjentów (lub jej brak) na wykorzystanie ich profili [16].
Podsumowując, rozpoznawanie twarzy jest intratne [17], a rozwój tej technologii jest bardzo szybki i wyprzedził idące w ślad ustawodawstwo. Przepisy dotyczące uwierzytelniania, identyfikacji i diagnozowania medycznego są potrzebne, aby nie naruszać norm etycznych związanych z ich stosowaniem. Kluczowe jest również zadbanie o to, by algorytmy nie dyskryminowały obywateli i nie narażały ich prywatności ani wolności osobistej.
Źródła:
- Krishan, K. et al., A study of morphological variations of the human ear for its applications in personal identification, Egyptian Journal of Forensic Sciences, 2019
- Turk, MA. et al., Face recognition using eigenfaces, Computer Vision and Pattern Recognition Proceedings, 1991
- Kaur, P. et al., Facial-recognition algorithms: A literature review, Medicine, Science and the Law, 2020
- Wang, M. et al., Deep Face Recognition: A Survey, arXiv:1804.06655v8, 2019
- Chowdhury, MMH. et al., Biometric Authentication using Facial Recognition, Security and Privacy in Communication Networks, 2016
- Council Regulation (EC) No 2252/2004, Integration of biometric features in passports and travel documents, Official Journal of the European Union L385/1, 2004
- US National Institute of Justice, History of NIJ Support for Face Recognition Technology, nij.ojp.gov: https://nij.ojp.gov/topics/articles/history-nij-support-face-recognition-technology, 2020
- Brey, P., Ethical Aspects of Facial Recognition Systems in Public Places, Journal of Information, Communication & Ethics in Society, 2004
- Raji, I et al., Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products, Conference on Artificial Intelligence, Ethics, and Society, 2019
- Zeng, Y. et al., Responsible Facial Recognition and Beyond, arXiv: 1909.12935, 2019
- Brewster, T., Microsoft Urged to Follow Amazon And IBM: Stop Selling Facial Recognition To Cops After George Floyd’s Death, Forbes, 2020
- Basel-Vanagaite, L. et al., Recognition of the Cornelia de Lange syndrome phenotype with facial dysmorphology novel analysis, Clinical Genetics, 2015
- Kosilek, RP. et al., Automatic Face Classification of Cushing’s Syndrome in Women – A Novel Screening Approach, Exp Clin Endocrinol Diabetes, 2013
- Chen, S. et al., Development of a computer-aided tool for the pattern recognition of facial features in diagnosing Turner syndrome: comparison of diagnostic accuracy with clinical workers, Scientific Reports, 2018
- Stephen, ID. et al., Facial Shape Analysis Identifies Valid Cues to Aspects of Physiological Health in Caucasian, Asian, and African Populations, Frontiers in Psychology, 2017
- Martinez-Martin, N., What Are Important Ethical Implications of Using Facial Recognition Technology in Health Care?, AMA Journal of Ethics, 2019
- Marketandmarkets, Facial Recognition Market by Component, Application, Vertical, and Region – Global Forecast to 2024, Market Research Report TC 3421, 2019