_{Redação Culturize-se}

Enquanto empresas do Vale do Silício aceleram a corrida por modelos cada vez mais poderosos de inteligência artificial, um movimento paralelo vem se consolidando no Brasil e na América Latina: o desenvolvimento de tecnologias com perspectiva feminista e foco em direitos humanos. Em vez de apenas consumir sistemas que muitas vezes reproduzem preconceitos de gênero e raça, desenvolvedores, jornalistas e organizações sociais passaram a criar suas próprias ferramentas, que são treinadas com dados mais inclusivos e voltadas ao enfrentamento da violência digital.

A iniciativa responde a um cenário preocupante. Pesquisa de 2025 realizada pelo DataSenado em parceria com o Instituto Nexus apontou que cerca de 8,8 milhões de brasileiras sofreram algum tipo de violência on-line no período de um ano. Entre os episódios relatados estão ameaças, perseguição, difamação e discursos de ódio em redes sociais.

Especialistas afirmam que parte do problema está no próprio desenho dos sistemas digitais. A inteligência artificial aprende com dados produzidos por sociedades desiguais e, se não houver intervenção consciente, tende a reproduzir esses padrões. A especialista em governança tecnológica Ivana Bartoletti destaca, em entrevista à Folha de São Paulo, que vieses de gênero são recorrentes na literatura tecnológica. Sistemas de reconhecimento facial, por exemplo, apresentam maior taxa de erro ao identificar mulheres, especialmente mulheres negras. Em buscadores de imagens, termos como “CEO” costumam gerar resultados majoritariamente masculinos, enquanto “assistente” aparece associado a figuras femininas.

Essas distorções também podem ter impactos mais graves. Recentemente, a IA Grok, ligada ao empresário Elon Musk, foi criticada por permitir a geração de imagens falsas de mulheres e menores nus — função posteriormente desativada. Para Bartoletti, casos como esse mostram o que acontece quando a segurança e os direitos das mulheres não são considerados no desenho das tecnologias.

No Brasil, organizações da sociedade civil têm reagido utilizando a própria inteligência artificial como ferramenta de proteção e mobilização. O Instituto AzMina desenvolveu a Quitér.IA, sistema capaz de analisar proposições legislativas com foco em direitos de mulheres, pessoas negras e LGBTQIA+. Já a organização VoteLGBT criou a Sentinela, ferramenta confidencial que identifica padrões de ataques contra lideranças LGBTQIA+ na política e recebe denúncias de violência.

Outra iniciativa é o chatbot Maria Valente, desenvolvido pela organização Toda Cidadã para oferecer informações acessíveis sobre direitos das mulheres por meio de aplicativos de mensagens. No campo da checagem de informações, a organização jornalística Aos Fatos criou a FátimaGPT, robô que utiliza inteligência artificial generativa para verificar conteúdos suspeitos e combater desinformação.

Há ainda projetos de código aberto voltados à moderação de conteúdo. O Radar Social LGBTQIA+, da rede Código Não Binário, utiliza o modelo TybyrIA para identificar discursos de ódio e padrões de transfobia, homofobia e incitação à violência em ambientes digitais.

Essas iniciativas dialogam com movimentos internacionais, como a Rede Feminista de IA da América Latina e do Caribe, que busca promover transparência, diversidade e políticas públicas para o desenvolvimento ético da tecnologia.

Para especialistas, o avanço dessas ferramentas indica que a inteligência artificial não é apenas uma questão técnica, mas também política. Quem define os dados, as regras e os objetivos dos algoritmos influencia diretamente os impactos sociais da tecnologia. Nesse sentido, ampliar a diversidade nos espaços de decisão torna-se parte central da construção de uma IA mais justa e representativa.