O lançamento do Sora, Inteligência Artificial de geração de vídeos hiperrealistas a partir de breves comandos de texto, foi amplamente noticiado em dezembro – com enfoque em tutoriais e pouca análise crítica dos impactos éticos da ferramenta – e coincidiu com a aprovação no Senado, na terça-feira (10), do marco regulatório para uso de IA no Brasil. 

O Projeto de Lei 2338/2023 ainda vai passar pela Câmara dos Deputados, mas já classifica sistemas de IA por grau de risco, definindo medidas específicas para governança, documentação, responsabilidade civil, direitos autorais, incidentes, sanções e penalidades, incentivos para empresas e proteção para trabalhadores, além da criação de autoridade competente dedicada. O texto prevê o direito à não discriminação, mas não expande sobre o tema.

Neste artigo, sinalizo que o treinamento em larga escala de algoritmos para confrontar sistemas de opressão, cujos vieses discriminatórios já estão presentes nas linguagens disponíveis para as ferramentas de IA, é uma urgência feminista. 

A OpenAI, dona do Sora, foi fundada em 2015, e são também seus o DALL-E (especializado na criação de imagens a partir de descrições textuais), e o Codex (focado em programação assistida). Mas seu produto mais conhecido é o ChatGPT – que respondeu minha pergunta sobre a empresa afirmando que ela “tem a missão de garantir que a inteligência artificial beneficie toda a humanidade”. As ferramentas da OpenAI são bastante convencidas, e se o autoengrandecimento em humanos pode ser um sinal de manipulação, talvez este também seja o caso com as IA experimentais. 

Tome, por exemplo, a descrição das imagens criadas a meu pedido para uma representação visual da ferramenta – e note que meu prompt (que é como chamamos as perguntas e pedidos para IA), feito para o DALL-E no ChatGPT, foi simples: “Crie uma imagem sobre Sora, seu novo modelo de IA”.

Eu não pedi por duas imagens, nem qualificadores sobre elas, muito menos determinei que sua representação visual tivesse gênero. Ainda assim, OpenAI me entregou duas figuras femininas, e uma descrição altamente positiva sobre o dispositivo. Continuei engajando para pedir também por uma composição principal para ilustrar este texto, que mantivesse nela a segunda das imagens acima. Como a leitora pode averiguar, o modelo falhou em me entregar esse pedido, mas quando eu demandei por sugestões para melhorar os prompts, por conta própria me induziu a escrever que a imagem do Sora deveria ser “etérea, serena, brilhante, simbolizando resiliência e harmonia”. 

Como medida profilática, sempre duvido da boa intenção de organizações lideradas por homens cis brancos, e essa interação com a ferramenta que “se acha”, bem como a doação de US$1 milhão para o fundo inaugural do presidente Trump feita pelo CEO da OpenAI Sam Altman, na sexta-feira (13), só aprofundaram a desconfiança.

É claro que Altman não é o único “tech bro” a apoiar Donald Trump – Mark Zuckerberg (Meta) e Jeff Bezos (Amazon) também fizeram doações milionárias (Investing.com; G1), o New York Times publicou matéria no sábado (14) divulgando que Sundar Pichai (Google), Sergey Brin (Google) e Tim Cook (Apple) se encontraram com Trump em sua mansão em Mar-a-Lago na Flórida, e Elon Musk já até virou Ministro de Estado (O Globo). 

A Inteligência artificial desenvolve sistemas de computação capazes de imitar o funcionamento do cérebro humano, utilizando o que chama de redes neurais profundas, compostas por múltiplas camadas de neurônios artificiais interconectados, e treinadas com volumes massivos de dados vindos de fontes públicas e curadas, para emular cognição: aprendizado, raciocínio, percepção de padrões, tomada de decisões. 

A era da Internet que ficou caracterizada pelo surgimento de conteúdo gerado por usuários nas plataformas de redes sociais é chamada de Web 2.0, e representa um salto frente à Web 1.0, de páginas não-interativas. Estamos em pleno uso da Web 3.0 (ou Web Semântica), versão inteligente, descentralizada e personalizada, cujas tecnologias permitem que dados sejam melhor estruturados e interconectados como linguagem. E já está a emergir mais avanço: vem aí a Web 4.0 (Web Espacial), que prevê a integração com tecnologias imersivas, para permitir mais interações entre os mundos físico e digital. 

Neste artigo me proponho a demonstrar rapidamente a discrepância entre conteúdos de viés machista e feminista existentes na internet, que por sua vez serão capturados pela IA para a geração de ainda mais conteúdo, então testei algumas perguntas para o ChatGPT sobre Gisèle Pelicot e Donald Trump. Isso porque a revista britânica The New European elegeu a francesa como a pessoa do ano de 2024, e a estadunidense (e muito mais conhecida) Time emplacou Donald Trump na mesma honraria. O modelo não escondeu informações sobre Trump, mas sobre Gisèle Pelicot ele mentiu. Veja abaixo as imagens da minha interação com a plataforma sobre isso:

Gisèle Pelicot ficou conhecida este ano porque, por mais de uma década, foi drogada pelo agora ex-marido, Dominique, para ser sexualmente abusada por dezenas de homens. Em depoimento feito em setembro, ela disse ao tribunal que nunca foi cúmplice dos atos. Ela também afirmou que renunciou ao anonimato garantido por lei justamente para transferir a vergonha das mulheres vítimas de abusos sexuais para seus perpetradores, por todas as que foram drogadas sem saber, para que nenhuma mais sofresse. No dia 20 de dezembro, Dominique Pélicot foi condenado a 20 anos de prisão; dos 50 acusados, 47 foram condenados por violação, e os restantes considerados culpados de tentativa de violação ou agressão sexual; todos têm 10 dias para recorrer.

Gisèle Pelicot mudou o mundo para melhor. Já Trump foi condenado por 34 crimes e indiciado por dezenas de outros – inclusive de fraude eleitoral. Fica claro que a discrepância a que me refiro precede a Inteligência Artificial.

Um outro exemplo de linguagens machistas disponíveis na Web 3.0 aparece em relatório encomendado pelo Ministério das Mulheres e divulgado pela Agência Pública também esse mês, que mostrou aumento no número de vídeos publicados na chamada “machosfera” – comunidades online de misoginia. Pesquisadores analisaram 76 mil vídeos de mais de 7,8 mil canais, que somam 3,9 bilhões de visualizações, e dos tipos de conteúdo identificados, o mais prevalente (42%) é o que incentiva o desprezo e a insurgência contra as mulheres. A ministra Cida Gonçalves reforçou a necessidade de regulamentar as redes sociais.

A Folha de São Paulo reportou, no dia 16, que Sam Altman minimizou a ameaça representada pela inteligência artificial, dizendo que a tecnologia é capaz de espelhar a capacidade dos humanos mais cedo do que pessoas medíocres pensaram, e que a OpenAI lançaria tecnologias cada vez mais poderosas, insinuando que em breve as máquinas poderão fazer quase tudo o que um cérebro humano pode.

Em seu famoso “Manifesto Ciborgue” (1985), Donna Haraway desafia as fronteiras tradicionais entre humano e máquina, organismo e tecnologia, e natureza e cultura, usando a figura do ciborgue – um híbrido de organismo e máquina – como metáfora para rejeitar binários rígidos e propor uma visão feminista resistente a essencialismos.

Importantemente, o manifesto critica os sistemas patriarcais e capitalistas, e defende um mundo onde a tecnologia possa ser reivindicada subversivamente para promover relações inclusivas e não hierárquicas. 

Quem define as linguagens do futuro ainda está em aberto. E precisaremos treinar os algoritmos de inteligência artificial para o discernimento entre o volume discrepante de linguagens machistas e feministas, e ensinar estes grandes modelos de linguagem a atuarem na construção da equidade – e não apenas de gênero – para que gerações futuras não sejam arrasadas pelo patriarcado 4.0. Que as feministas falem todas as línguas de um mundo virado de cabeça para baixo.