Influência do viés racial no uso do reconhecimento facial aplicado ao controle de acesso: Uma análise crítica
DOI:
https://doi.org/10.33448/rsd-v14i2.48186Palavras-chave:
Reconhecimento Facial, Aprendizado de Máquina, Inteligência Artificial, Controle de Acesso, Cibersegurança, Viés Racial, Racismo Algorítmico.Resumo
O viés racial tem sido uma questão persistente nas tecnologias de reconhecimento facial, particularmente em aplicações de controle de acesso. Este estudo tem como objetivo examinar a adoção generalizada dessas tecnologias na era do aprendizado de máquina, destacando sua integração em frameworks de segurança da informação, cibersegurança e privacidade de dados. Apesar de sua crescente prevalência, os conjuntos de dados e algoritmos subjacentes frequentemente apresentam vieses significativos, impactando desproporcionalmente indivíduos de grupos raciais marginalizados. Por meio de uma revisão extensa da literatura, esta pesquisa identifica lacunas críticas e propõe 14 recomendações direcionadas com o objetivo de mitigar o viés racial nos sistemas de reconhecimento facial. Essas recomendações abrangem a diversificação dos conjuntos de dados de treinamento, o aprimoramento da transparência algorítmica e a incorporação de equipes multidisciplinares para garantir a tomada de decisões éticas. Os resultados destacam o potencial para melhorar tanto a equidade quanto a precisão dessas tecnologias, abrindo caminho para aplicações mais confiáveis e inclusivas. Ao implementar as medidas propostas, as partes interessadas podem abordar questões éticas, reduzir os resultados discriminatórios e aumentar a confiança pública na adoção do reconhecimento facial para contextos sensíveis de controle de acesso. Esta análise crítica fornece um roteiro para promover a justiça e a responsabilidade na inteligência artificial, fomentando impactos transformadores na área.
Referências
Benjamin, R. (2019). Review of “Race After Technology: Abolitionist Tools for the New Jim Code.” Social Forces, 98(1), 1–3.
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15.
Caballero, A. (2017). Computer and information security handbook. Elsevier.
Cantor, J. R. (2020). Privacy impact assessment for the homeland advanced recognition technology system (HART) increment 1 PIA. Retrieved from https://www.dhs.gov/sites/default/files/publications/privacy-pia-obim004-hartincrement1-february2020_0.pdf [Accessed August 27, 2024].
Cornish, P. (2021). The Oxford handbook of cyber security. Oxford University Press
Gordon, F. (2019). Review of Virginia Eubanks (2018) Automating inequality: How high-tech tools profile, police, and punish the poor. New York: Picador/St. Martin’s Press. Law, Technology, and Humans, 1(1), 162–164.
Grother, P., Ngan, M., & Hanaoka, K. (2019). Face recognition vendor test part 3: Demographic effects. NIST Interagency/Internal Report (NISTIR). Gaithersburg, MD: National Institute of Standards and Technology.
HSBC. (n.d.). Touch ID and Face ID: A simple and secure alternative to your digital security device passcode. Retrieved from https://www.us.hsbc.com/mobile-banking/biometrics/ [Accessed August 27, 2024].
Hua, G., Nasrabadi, N. M., Chellappa, R., & Aggarwal, G. (2011). Introduction to the special section on real-world face recognition. IEEE Transactions on Pattern Analysis and Machine Intelligence, 33(10), 1921–1924.
Jain, A., Ross, A., & Prabhakar, S. (2004). An introduction to biometric recognition. IEEE Transactions on Circuits and Systems for Video Technology, 14(1), 4–20
Kärkkäinen, K., & Joo, J. (2021). FairFace: Face attribute dataset for balanced race, gender, and age for bias measurement and mitigation. 2021 IEEE Winter Conference on Applications of Computer Vision (WACV), 1547–1557.
Klare, B. F., Burge, M. J., Klontz, J. C., Vorder Bruegge, R. W., & Jain, A. K. (2012). Face recognition performance: Role of demographic information. IEEE Transactions on Information Forensics and Security, 7(6), 1789–1801.
Larson, J., Mattu, S., Kirchner, L., & Angwin, J. (2016). How we analyzed the COMPAS recidivism algorithm. ProPublica. Retrieved from https://www.propublica.org
Lecun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998). Gradient-based learning applied to document recognition. Proceedings of the IEEE, 86(11), 2278–2324.
Llauradó, J., Pujol, F., & Tomás, D. (2023). Study of image sensors for enhanced face recognition at a distance in the smart city context. Scientific Reports, 13, Article 14713.
Lynch, J. (2020). Face off: Law enforcement use of face recognition technology. Electronic Frontier Foundation (EFF), 10, 78–95.
Microsoft. (2021). Windows Hello face authentication. Retrieved from https://learn.microsoft.com/en-us/windows-hardware/design/device-experiences/windows-hello-face-authentication [Accessed August 27, 2024].
Najibi, A. (2020). Racial discrimination in face recognition technology. Retrieved from https://sitn.hms.harvard.edu/flash/2020/racial-discrimination-in-face-recognition-technology/ [Accessed August 27, 2024].
Oloyede, M., Hancke, G., & Myburgh, H. (2020). A review on face recognition systems: Recent approaches and challenges. Multimedia Tools and Applications, 279(22), 27891–27922.
Raji, I. D., & Buolamwini, J. (2019). Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial AI products. Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, 429–435.
Ratha, N. K., Connell, J. H., & Bolle, R. M. (2001). Enhancing security and privacy in biometrics-based authentication systems. IBM Systems Journal, 40(3), 614–634.
Solove, D. J. (2006). A taxonomy of privacy. University of Pennsylvania Law Review, 154, 477–564.
Stanley, J. (2019). The dawn of robot surveillance: AI, video analytics, and privacy. American Civil Liberties Union, 38–48.
Turk, M., & Pentland, A. (1991). Eigenfaces for recognition. Journal of Cognitive Neuroscience, 3(1), 71–86.
Wayman, J. L. (2008). Biometrics in identity management systems. IEEE Security & Privacy, 6(3), 30–37.
Whittaker, M. (2018). AI Now Report 2018. AI Now Institute, New York University.
Zhao, W., Chellappa, R., Phillips, P. J., & Rosenfeld, A. (2003). Face recognition: A literature survey. Association for Computing Machinery, 35(1), 399–458.
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2025 Alexandre Mundim de Oliveira; Hugo Xavier Rodrigues; Alexandre Solon Nery; Fábio Lúcio Lopes de Mendonça; Luiz Antonio Ribeiro Junior
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
1) Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
2) Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
3) Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado.
