Desde 1818, quando a escritora inglesa Mary Shelley publicou o clássico romance Frankenstein, a narrativa sobre a criação de uma entidade a partir de partes dissecadas de corpos diferentes tem sido usada para refletir sobre os limites da responsabilidade científica. No entanto, para a pesquisadora em computação Nina da Hora, o que realmente preocupa no procedimento de criação de uma criatura é a ausência de responsabilização do criador, uma dinâmica que se repete na tecnologia moderna do reconhecimento facial.
Atualmente, sistemas de reconhecimento facial estão presentes em estações de metrô, aeroportos, estádios e diversos sistemas de segurança pública em todo o Brasil. A análise de Nina da Hora, concluída em sua dissertação de mestrado defendida em maio de 2026 na Universidade Estadual de Campinas (Unicamp), e publicada em artigo na conferência internacional ACM FAccT — evento dedicado à justiça e responsabilidade em algoritmos —, revela que esses sistemas reproduzem um padrão de disparidades raciais e de gênero que já eram conhecidos na área.
Ela explica que os sistemas de reconhecimento facial operam por meio de uma sequência de etapas fixas, chamadas de pipeline, que incluem detecção, recorte, alinhamento e vetorização. Na fase de detecção, o sistema busca identificar um rosto na imagem. Caso essa etapa não reconheça a face, ela simplesmente é ignorada pelo sistema, o que implica que a pessoa deixa de existir para a tecnologia. A etapa de alinhamento, por sua vez, exige que o rosto seja ajustado a um molde padrão, uma norma implícita que define o que é considerado um “rosto típico”. Essa norma, que Nina denomina “rosto canônico”, é aprendida durante o treinamento do sistema com milhões de imagens, e sua presença levanta a questão de sua universalidade e equidade.
A pesquisa de Nina da Hora reforça que as disparidades raciais nesses sistemas não são uma hipótese nova. Estudos anteriores, como o Gender Shades, de 2018, liderado pelas cientistas Joy Buolamwini e Timnit Gebru, demonstraram que esses algoritmos apresentavam taxas de erro significativamente maiores ao identificar mulheres de pele escura em comparação a homens de pele clara. Além disso, avaliações do National Institute of Standards and Technology (NIST), órgão norte-americano responsável por padrões tecnológicos, indicaram diferenças de desempenho entre grupos demográficos em diversos algoritmos de reconhecimento facial.
A resposta da indústria, até então, tem sido a de que essas disparidades decorrem de limitações de modelos antigos, que poderiam ser corrigidas com arquiteturas mais modernas e bases de dados maiores. Para testar essa hipótese, Nina da Hora realizou um experimento controlado, comparando três modelos de arquiteturas distintas: dois da linhagem YOLO, utilizados em vigilância por sua velocidade em tempo real, e um baseado na arquitetura Transformer, considerado o estado da arte na área. Esses modelos foram avaliados em um conjunto de dados denominado Casual Conversations v2, criado pela Meta, que reúne mais de 26 mil vídeos de 5.567 participantes de sete países, incluindo o Brasil. Os participantes forneceram informações sobre idade, gênero e tom de pele, enquanto especialistas anotaram essas características, permitindo uma análise detalhada das taxas de falha de detecção por grupo.
O resultado foi claro: todos os três modelos apresentaram padrões semelhantes de disparidade, falhando de forma consistente em reconhecer indivíduos de pele mais escura. Isso indica que o problema não está na arquitetura ou na tecnologia específica, mas no método de fabricação do sistema, que inclui os dados utilizados, os moldes de reconhecimento e as normas implícitas de rosto. Assim, a promessa de que futuras gerações de modelos resolveriam essas disparidades não se sustenta com os dados coletados na pesquisa, pois cada nova versão herda o problema de suas predecessoras.
Para Nina da Hora, essa constatação levou à formulação do conceito de “epistemicídio computacional”. Inspirada pelo termo desenvolvido pela filósofa brasileira Sueli Carneiro para descrever a desqualificação sistemática de saberes e modos de existência de grupos racializados, ela amplia essa ideia ao domínio técnico. Segundo ela, o epistemicídio computacional ocorre quando um sistema impõe uma norma de reconhecimento facial, negando a existência de indivíduos que não se enquadram nela, sob a aparência de objetividade matemática.
Ela compara esse processo ao Frankenstein de Shelley, que deixou de ser uma ilustração literária para se tornar uma metáfora de leitura crítica. Assim como a criatura de Shelley, esses sistemas são montados a partir de partes dissecadas, dotados de autoridade, mas sem responsabilidade ou possibilidade de contestação pública. O pipeline de reconhecimento facial, ao dissecar o rosto em fragmentos e gerar um substituto numérico, passa a exercer uma autoridade prática sobre vidas humanas, sem auditoria externa, reprodutibilidade ou canais de contestação, reforçando uma norma que exclui e invisibiliza grupos vulnerabilizados.
Nina da Hora esclarece que seu estudo não defende o abandono da tecnologia de reconhecimento facial, mas aponta que, quando o problema está na metodologia, a calibração do resultado não resolve a questão. Sistemas de alta precisão, instalados em contextos de segurança pública que já concentram ações sobre populações negras e periféricas, tendem a acelerar e dificultar a contestação dessas abordagens.
Por isso, ela propõe a recusa de operações específicas, como a identificação facial na segurança pública, e a adoção de princípios de “reparação computacional”: sistemas auditáveis, contestáveis e construídos com as populações afetadas, que até então figuram apenas como matéria-prima nos bancos de dados.
Com o Brasil atualmente em processo de definição de leis, contratos e regulamentações sobre reconhecimento facial, a parceria entre o Instituto da Hora, dedicado ao estudo do racismo digital, e o portal The Conversation Brasil busca ampliar o debate público sobre essas questões. Para Nina da Hora, a responsabilidade de divulgar e propor soluções para os erros das criaturas digitais que criamos é fundamental, pois a negligência na responsabilização dessas tecnologias pode levar à perpetuação de injustiças e violações de direitos.
O artigo reforça que o problema não reside na intenção individual de seus criadores, mas na estrutura e nos métodos utilizados na fabricação e implementação desses sistemas. Assim como a criatura de Shelley se tornou monstruosa por não ter quem respondesse por ela, as tecnologias de reconhecimento facial se tornam perigosas quando operam sem transparência, responsabilização ou possibilidade de contestação pública, influenciando o destino de milhares de pessoas.
