Na última sexta-feira (15/01) foi lançado o segundo episódio da websérie From Devices to Bodies (Das telas aos nossos corpos), um curta sobre como tecnologias de reconhecimento facial – desenvolvidas majoritariamente por homens brancos e eficazes somente com eles – têm sido usadas para vulnerabilizar grupos minorizados.

Para as organizadoras do webdocumentário, os corpos também estão se tornando fontes de dados, do reconhecimento facial à coleta de informações de DNA. “Smart”, “mais seguro”, “mais saudável” são narrativas comuns por trás de tecnologias digitais e biotecnologias que estão levando as já preocupantes práticas de perfilamento a um nível com forte viés discriminatório de populações minorizadas.

Não é de hoje que se discute como as tecnologias não são nada neutras. Elas são atravessadas por juízos de valor criados em sociedade e podem refletir as visões de mundo de seus desenvolvedores. Dessa forma, certos bias (viés, muitas vezes denotando preconceitos) podem influenciar o funcionamento dos sistemas de biometria facial.

Como explica Mariah, a biometria facial opera com o que é classificado como normal e como anormal, com o que é visível e o que é invisível. “Isso é obviamente transferido para as racionalidades tecnológicas de quem produz esses códigos tecnológicos, quem configura e codifica as inteligências artificiais e, depois, dos operadores”.

Acrescente-se a isso o fato de que, como aponta Nina Da Hora, as empresas que criam, desenvolvem e vendem essas tecnologias serem predominantemente compostas por pessoas brancas. Portanto, há aí uma série de perigos no desenvolvimento e uso das tecnologias de reconhecimento facial, em especial quando aplicadas às mulheres negras e à população trans. Casos reais de implementação falha dessas tecnologias são discutidas no vídeo.

O curto é uma produção da Coding Rights – organização que traz um olhar feminista interseccional para defender os direitos humanos no desenvolvimento, regulação e uso das tecnologias. Além disso, a Coding Rights atua em rede com o conhecimento hacker para questionar o presente e reimaginar um futuro pautado por valores transfeministas e decoloniais.

Sobre a websérie *From Devices To Bodies é uma websérie de curtas produzida pela Coding Rights que reúne conversas fascinantes com mulheres e pessoas não-binárias, pesquisadoras que visam ampliar os debates sobre a implementação de biotecnologias e tecnologias digitais que funcionam baseadas na coleta de dados sobre nossos corpos. O primeiro vídeo foi sobre DNA. Você pode assistir todos os episódios, em inglês e português, no youtube da Coding Rights.