O problema de gênero nos assistentes de voz

A inteligência artificial tem sido programada através de um viés de gênero que pode carregar estereótipos nocivos para alguns grupos de pessoas. Como repensar as máquinas para que sejam mais éticas em termos de gênero?

Carolina Cozer
4 min leitura
novembro 27, 2019

Em maio deste ano a UNESCO publicou um relatório de 145 páginas sobre os problemas de gênero no setor digital, entre eles a falta de representatividade feminina, e como os produtos tecnológicos refletem esse desequilíbrio.
Uma parte do estudo foi destaque na mídia ao classificar os assistentes de voz como sexistas, perpetuando estereótipos prejudiciais de submissão e servidão às mulheres.

Viés de gênero

Não é nenhuma surpresa que sistemas humanóides sejam criados com base naquilo que entendemos como seres humanos, e é impossível abrir mão de todos os estereótipos existentes.
Contudo, o baixo índice de mulheres e pessoas de diferentes gêneros, como não-binários, por exemplo, nos setores de ciências tecnológicas, resulta em pouca orientação de diversidade nos modelos robóticos atuais.
Todos os principais assistentes de voz do mercado são dublados por vozes femininas, e à medida que a relevância desta tecnologia aumenta, cresce a preocupação de que elas possam reforçar a ideia de que as mulheres são mais adequadas para os serviços que exigem subserviência.

Riscos reais para pessoas transgênero

Pessoas de gênero neutro, andróginas ou não-binárias também passam por problemas com as inovações criadas com viés de gênero.
Softwares de reconhecimento facial normalmente atribuem a cada rosto um rótulo entre feminino ou masculino, não conseguindo fazer o reconhecimento adequado de pessoas cuja aparência fuja dessa estética padrão.
Em uma entrevista à CNN Business, o estudante não-binário de tecnologia Os Keyes, da Universidade de Washington, comenta que o problema não está em o software errar o gênero das pessoas, mas sim como essas classificações arbitrárias da IA podem policiar, restringir ou prejudicar pessoas trans nos locais em que essas tecnologias estão sendo implementadas – aeroportos, arenas esportivas, shows e aplicativos de segurança, para começar.

Possíveis soluções

O relatório da UNESCO compartilhou uma lista de recomendações que orientam desenvolvedores de tecnologias IA a encerrarem a perpetuação de estereótipos de gênero, entre elas:

Abolir a prática de tornar assistentes digitais femininos por padrão;

Explorar a viabilidade de desenvolver um gênero de máquina neutro para assistentes de voz;

Ensinar máquinas IA a responderem aos comandos dos usuários utilizando linguagem neutra;

Programar os assistentes digitais para que desencorajem insultos baseados em gênero e linguagem abusiva;

Desenvolver habilidades técnicas avançadas de mulheres e meninas, para que possam orientar a criação de tecnologias de fronteira ao lado dos homens.

Assistente de voz sem gênero

Durante a última Parada do Orgulho LGBTQ+ de Copenhague, a empresa de publicidade Virtue Nordic anunciou o lançamento de um assistente de voz nos moldes de Alexa e Siri, mas de gênero totalmente neutro, em uma tentativa de erradicar o viés de gênero da tecnologia.
O produto se chama Q, e foi desenvolvido por uma equipe de pesquisadores, linguistas e designers de som que analisaram as vozes de dezenas de pessoas, as classificando de acordo com escalas de som e chegando em uma faixa de frequência que fosse totalmente neutra.

Fazer com que as empresas adotem Q, ou outros robôs sem gênero, não será uma tarefa fácil, uma vez que nossos cérebros são culturalmente programados para um mundo que vê os gêneros estritamente masculinos ou femininos.
Contudo, a empresa faz um apelo em seu site oficial, para que grandes corporações, como Apple, Amazon, Google e Microsoft considerem tecnologias neutras em seus produtos de voz.