Os reguladores ainda não avançaram com um conjunto claro de regras sobre como a tecnologia de reconhecimento facial deverá ser usada, e foi esta a justificação que a empresa usou para descartar, para já, esta tecnologia.
Entretanto, e desde que esta começou a ser utilizada, a empresa enfrentou uma enxurrada de críticas quanto ao seu impacto sobre os usuários. Até agora, os usuários do plataforma de redes sociais podiam optar por ativar o recurso que digitalizaria seus rostos em fotos e os notificaria se alguém na plataforma tivesse publicado uma foto deles.
Numa publicação no blog, Jerome Pesenti, vice-presidente de inteligência artificial da empresa, disse: "Face a esta incerteza contínua, acreditamos que é apropriado limitar o uso do reconhecimento facial a um conjunto restrito de casos".
Em 2019, um estudo do governo dos EUA sugeriu que os algoritmos de reconhecimento facial eram muito menos precisos na identificação de rostos afro-americanos e asiáticos em comparação com rostos caucasianos.
As mulheres afro-americanas eram ainda mais propensas a serem identificadas erroneamente, de acordo com o estudo conduzido pelo Instituto Nacional de Padrões e Tecnologia.
No ano passado, o Facebook também resolveu uma disputa legal de longa data sobre a forma como verifica e marca as fotos. O caso está em andamento desde 2015 e foi acordado que a empresa pagaria 550 milhões de dólares a um grupo de usuários em Illinois que argumentou que a ferramenta de reconhecimento facial violava as leis de privacidade do estado.
