Ela é fundadora da Liga da Justiça Algorítmica, especialista em viés de IA e artista. Também é autora do Bestseller  “Desmascarando a IA: Minha Missão de Proteger o que é Humano em um Mundo de Máquinas, (em tradução livre)”, e aconselha líderes mundiais sobre a prevenção de danos causados pela IA. Sua pesquisa no MIT sobre tecnologias de reconhecimento facial transformou o campo da auditoria de IA. Ela é a Dra. Joy Buolamwini. Poderia ser uma super-heroína, mas é uma Poetisa do Código. Sua palestra TED sobre viés algorítmico foi vista mais de 1,7 milhão de vezes. E sua outra TED sobre IA e proteção de nossos direitos em uma era de IA transforma pessoas mundo afora. 

Em suas exposições e apresentações ao redor do mundo, ela cria arte para iluminar o impacto da IA na sociedade. Seu trabalho e escritos foram apresentados em publicações como TIME, The New York Times, Harvard Business Review, Rolling Stone e The Atlantic. Como se não bastasse, Joy também atuou como modelo em Vogue, Allure, Harper’s Bazaar e People Magazine. E é a primeira pesquisadora negra a aparecer na capa da Fast Company, na icônica edição “Pessoas Mais Criativas”, nomeada para listas notáveis, incluindo Forbes 30 abaixo de 30, Bloomberg 50, a lista inaugural Time 100 AI e MIT Tech Review 35 abaixo de 35. Ela é uma Jovem Líder Global do Fórum Econômico Mundial. 

A Fortune a chamou de “consciência da revolução da IA”. E com esse currículo impressionante, Joy Buolamwini fez uma apresentação marcante no SXSW, conversando com Mackenzie Sigalos, jornalista da CNBC. 

Joy tem uma presença de palco extraordinária. Em segundos, galvaniza a audiência e arranca aplausos entusiasmados. Tem carisma, conteúdo e ideias fortes. Seu vídeo poema sobre o preconceito algorítmico (ver trecho abaixo) é espantoso. “Quem tem o poder e o privilégio de moldar a tecnologia?”, questiona especialista e ativista. Segundo ela, as máquinas foram desenhadas para reproduzir os vieses e visões de uma determinada classe de pessoas. Para ela, ninguém está imune de ser prejudicado ou afetado pelos vieses e incoerências das Inteligências Artificiais. Particularmente, os negros e pobres. Joy mostra diversos casos de pessoas negras presas e identifica das falsamente como criminosos.

Algoritmos de vigilância

Agora que a TSA expandiu o sistema de reconhecimento facial para para mais de 400 aeroportos e a biometria fácil está disseminada em diversos locais, mais do que nunca é necessário ser vigilante sobre a acurácia dos sistemas de IA e para evitar que mais pessoas sejam prejudicadas e vítimas de vieses e preconceitos. 

Joy resolveu fazer uma pesquisa sobre o conhecimento das pessoas em relação a ser rastreada e mapeada pelos sistemas da TSA. E sim, as pessoas têm o direito de negar sua exposição à biometria fácil, para manter a integridade de seus dados.

A Liga da Justiça Algorítmica trabalha e se relaciona com lideranças do mundo para garantir um tratamento igualitário de todos diante das IAs e IAGs. Como criar alternativas para que as IAs não extraíam o coração dos artistas e dos defensores dos direitos dos cidadãos do mundo todo. Será que as IAs poderão ser uma força a serviço do bem? Será que elas irão aumentar a destruição e irá erradicar a raça humana? Joy projeta sua visão: “Para além das bombas mortíferas que desabam sobre cabeças das pessoas nas guerras estúpidas, podemos evitar que as bombas digitais caiam sobre nossas cabeças reduzindo nossa privacidade e nossa identidade como pessoas e seres humanos”.

Mulher, negra, artista e tecnologista

Ela se define como “a Poetisa do Código”: “para mim, isso é fundamental e essencial quando se está aprendendo sobre ciência da computação, quando se aprende sobre inteligência artificial, é necessário entender isso como parte da construção de sistemas de IA robustos.”, afirma. joy entende claramente o código como linguagem e, como tal, forma de expressão e de visões e crenças e vieses. Controlar e entender como os códigos e algoritmos são construídos é uma forma de assegurar a igualdade e o tratamento equânime dos indivíduos. Com essa atuação multifacetada, Joy procura influenciar o debate de várias formas, como em uma cruzada que deixe de tratar as pessoas de maneira injusta e desigual.

A tecnologia é danosa?

Sim, para a Dra Joy, a tecnologia pode trazer danos, quando utilizada e desenvolvida de maneira veloz, sem ponderar consequências e desdobramentos. Ao comentar os erros significativos do Google Gemini em seu lançamento desastrado, a ativista procurou mostrar que estamos vivendo uma fase de intensa auditoria cultural, onde nossas afirmações passam por escrutínio. Ou como diz Scoot Galway, “com grandes poderes, vem um grande escrutínio”. Nas palavras de Joy, “O que eu retiro disso é a importância da auditoria cultural, porque você precisa conhecer a perspectiva de alguém, talvez você esteja tentando fazer algo… e fazer um comentário, ou talvez esteja procurando algo que seja factual, você precisa saber … sobre questões de preconceitos algorítmicos.” E este é o ponto em que a tecnologia pode ser danosa.

Quem tem o poder de desenvolver a tecnologia, também deixa suas digitais nessa mesma tecnologia. E rastrear essas digitais é uma forma de confrontar os vieses e preconceitos desses tecnologistas e seus valores. O contexto do Ocidente preza a individualidade, mas é sempre válido questionar quem se beneficia com os vieses e com as inconformidades da tecnologia. É imperativo organizar ações e políticas que reduzam o potencial de danos das tecnologias digitais, particularmente da nascente IAG.

“Eu coletei de uma forma muito específica e testei três empresas para começar, um tipo de teste que qualquer pessoa poderia ter feito, certamente qualquer grande empresa com bilhões de dólares de recursos, mais do que eu tinha acesso como estudante de pós-graduação. E essa pesquisa trouxe os resultados que escancararam os defeitos dos primeiros sistemas de IA”, conta Joy. Isso mostra que a tecnologia mais sofisticada pode ser a analisada e avaliada pelas pessoas mais humildes. Nesse sentido, as informações geradas pelas IAs podem, devem trazer selos de validação e integridade, para mostrar às pessoas as digitais e a procedência do que estão vendo, lendo, ouvindo.

Um novo algoritmo social.

Um “AI Bill of Rights”? Será possível escrever uma carta de direitos digitais para IAs? Uma carta que determine o que é válido em termos de uso, privacidade, reconhecimento fácil, transmissão e produção de informação, de proteção contra discriminação? Essa é uma das propostas discussões no Congresso Americano, no sentido de construir a atualização de normas sociais que possam estar em sintonia com uma sociedade digital. Estamos diante de novos desafios e sem referências passadas para compreender como fazer evoluir a sociedade e nossa forma de abordar eticamente a IA. 

Essa nova era pede um novo “algoritmo social”, uma oportunidade de combater vieses e reduzir o impacto dos efeitos danosos da Inteligência Artificial manipulado por pessoas com interesses sombrios. A concepção desse algoritmo passa por um trabalho diverso e multidisciplinar e tem em pessoas e talentos como Joy Buolamwini uma protagonista incansável e uma inspiração impactante. Seu exemplo mostra o poder do humano normal para superar grandes questões, sem superpoderes e sem a necessidade recorrer a heróis fantasiados. Menos Batmen e mais Joys. Sua palavra traz uma série de insights importantes sobre o impacto da inteligência artificial (IA) na sociedade:

               1.           Viés algorítmico: Joy é pioneira na identificação e combate do viés algorítmico em tecnologias de reconhecimento facial e revelou as falhas e consequências prejudiciais desses sistemas, especialmente para grupos minoritários.

               2.           Proteção dos direitos humanos: A Dra. Buolamwini advoga pela proteção dos direitos humanos em uma era que terá prevalência de IA, destacando a importância de garantir que as tecnologias sejam desenvolvidas e utilizadas de maneira ética e responsável.

               3.           Educação e conscientização: As palestras, textos, artigos e exposições artísticas de Joy promovem a conscientização sobre os desafios e dilemas éticos associados à IA, educando o público e incentivando a reflexão crítica sobre o tema.

               4.           Representatividade e diversidade: Como a primeira pesquisadora negra a aparecer na capa da Fast Company e uma defensora da inclusão e diversidade na tecnologia, a Dra. Buolamwini destaca a importância da representatividade e diversidade na pesquisa, desenvolvimento e implementação de tecnologias de IA.

               5.           Ativismo e liderança: Sua atuação como líder na Liga da Justiça Algorítmica e sua presença em importantes fóruns de discussão e publicações ressaltam seu papel como uma voz influente e consciente na vanguarda do ativismo e liderança em tecnologia. 

É muito provável que outras organizações e ativistas ganhem espaço no futuro próximo, para tentar resguardar os direitos e a representatividade de cidadãos nessa fase de profundas transformações tecnológicas, sociais e econômicas.