A Inteligência Artificial (IA) trouxe avanços significativos para a humanidade. Com toda certeza, a tecnologia que consegue simular a inteligência humana e é capaz de aprender novas diretrizes com base em informações que lhe são fornecidas, melhorando as nossas vidas em todos os aspectos. Só para exemplificar, no consumo, ela aperfeiçoa o atendimento ao cliente através dos chatbots. Em contrapartida, robôs conseguem interagir com uma pessoa tirando suas dúvidas ou ajudando a resolver problemas.

Nos transportes, a IA melhora a eficácia das rotas e auxilia na redução do impacto ambiental. Analogamente, no setor financeiro, a Inteligência Artificial é capaz de identificar padrões de fraude com mais rapidez e precisão do que os métodos tradicionais.

Entretanto, ao passo que a IA tem o potencial de ser extremamente útil para a humanidade, ela também suscita preocupações éticas fundamentais. Entre elas, destaque para os preconceitos que podem ser incorporados e amplificados, resultando em discriminação, divisões digitais, desigualdade e exclusão.

Regulamentação da IA: essencial

Assim sendo, a consequência é uma ameaça à diversidade cultural, biológica, social e econômica. Então, na tentativa de reverter esse cenário, no Brasil, diversas medidas estão em curso para estabelecer diretrizes precisas sobre a utilização da IA. Em síntese, o objetivo é assegurar a supervisão humana e proteger os dados pessoais.

E, para colocar essa teoria em prática, a proposta de regulação visa garantir transparência e compreensão sobre o funcionamento dos algoritmos e dos dados utilizados em seu treinamento. Por consequência, a ideia é que isso forneça um impacto positivo sobre a dignidade humana, direitos humanos, liberdades fundamentais, igualdade de gênero, democracia e processos sociais e econômicos.

Lei do Ceará

No Brasil, apesar da boa vontade em querer regular a IA, não há consenso sobre o tema.

Em alguns estados, inclusive, já há legislações que tratam o tema. O Ceará é um deles. Por lá, existe a Lei n.º 17.611/2021. Ela determina que sistemas baseados em IA sejam supervisionados por humanos. Em suma, a normativa expõe responsabilidades e preceitos para a IA e é aplicável tanto a empresas sediadas no estado quanto às que possuem sistemas em uso e operação na região de 184 municípios.

O texto da lei cearense é curto e traz somente quatro artigos. A questão da supervisão, em particular, é abordada no artigo 2º, inciso IV, que diz o seguinte: “garantir que os sistemas sejam sempre gerenciados por humanos, e a eles submetidos, devendo ser mantida a autonomia e a fiscalização humana”.

Projeto em Alagoas

Em Alagoas, uma matéria sobre o tema foi aprovada na Assembleia Legislativa no fim do ano passado. O Projeto de Lei n.º 604, de iniciativa do Poder Executivo, define os princípios e orientações para a utilização da IA no âmbito da administração pública estadual. Segundo a justificativa do governo, a proposta visa atender ao interesse público, e decreto criar um ambiente seguro para o processo de inovação.

Por conseguinte, a matéria permite a implementação de sistemas computacionais inteligentes em diversos setores do poder público. Em conclusão, segundo a proposta, tais sistemas podem contribuir significativamente para a alocação eficiente de recursos e para o aprimoramento da prestação de serviços à coletividade.

No Brasil, há o Projeto de Lei n.º 2.338/2023, de autoria do senador Rodrigo Pacheco (PSD/MG), a partir do anteprojeto apresentado por uma comissão especial de juristas. A votação dessa matéria na Comissão Temporária sobre IA está marcada para o dia 13 de junho. A expectativa é que ela seja levada ao plenário da casa na próxima semana.

IA X Fake News

O senador Eduardo Gomes (PL-TO) é o relator do PL nº. 2.338/2023. Foi ele quem apresentou um substitutivo ao projeto de Pacheco. Durante uma sessão temática no plenário, no dia 11 de junho, ele destacou que a regulamentação da IA não deve ser confundida com questões como o combate às fake news e à polarização política.

De acordo com Eduardo, a tentativa é manter o assunto “regulação da IA” totalmente à parte do debate político. Em primeiro lugar, essa atitude é necessária, porque se a Inteligência Artificial resolvesse a questão da polarização política, “já teríamos a solução para nossos problemas”.

Em segundo lugar, Eduardo Gomes destaca que não há qualquer relação entre os assuntos regulação da IA e fake news. “E nem se trata de regulamentação específica de fake news ou qualquer outra coisa. Sem dúvida, a IA é uma tecnologia que estará presente em todas as nossas atividades. Precisaremos ter paciência e realizar exercícios democráticos de debate para encontrar a solução”, afirmou Eduardo Gomes.

Seguindo em frente

Segundo o presidente da Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), senador Carlos Viana (Podemos-MG), o projeto de lei atingiu um “ponto de equilíbrio” entre o avanço da tecnologia e o respeito aos direitos humanos. Dessa forma, a matéria pode seguir em frente.

“Aliás, o mundo tem debatido amplamente essa questão, e o Congresso brasileiro busca estar na vanguarda do conhecimento. Queremos estabelecer uma legislação moderna para garantir que o uso da Inteligência Artificial não comprometa a democracia, a privacidade e os direitos humanos. Ao mesmo tempo, buscamos não impossibilitar o progresso de uma tecnologia que pode significativamente melhorar a condição humana”, afirma Carlos Viana.

Discriminação algorítmica

No plenário em 11 de junho, a advogada Estela Aranha, integrante do Conselho Consultivo de Alto Nível das Nações Unidas para Inteligência Artificial, argumentou a favor da inclusão de mecanismos no documento para combater o que ela descreveu como “discriminação algorítmica”. Em virtude disso, ela argumenta que existem evidências científicas e estatísticas substanciais de que os algoritmos apresentam tendências. E, com toda certeza, essas predisposições resultam em discriminação, mesmo que de maneira não intencional.

Na literatura, a discriminação é considerada um fenômeno intrínseco ao processo tecnológico de IA. “Isso pode resultar em discriminações ilegais ou injustas. Essas inclinações podem replicar e amplificar preconceitos e disparidades raciais, de gênero e socioeconômicas”, enaltece Estela Aranha, secretária de direitos digitais no Ministério da Justiça e Segurança Pública.

O secretário de reformas econômicas do Ministério da Fazenda, Marcos Barbosa Pinto, também enfatizou a regulação como forma de evitar o uso excessivo da tecnologia. Entretanto, ressaltou os impactos positivos que o desenvolvimento da IA pode trazer para a economia brasileira.

PIB do Brasil

“O setor de serviços digitais já representa 9% do valor acrescentado ao Produto Interno Bruto. O salário médio dos trabalhadores nesta indústria é o dobro do salário médio em outras indústrias”, enaltece o secretário.

De conformidade com esse cenário, Marcos Barbosa Pinto acredita que essa é uma oportunidade significativa de aumentar a produtividade, em primeiro lugar. Em seguida, virão os empregos e aumento de renda para toda a população. “Não podemos negligenciar a regulação da IA, mas, em contrapartida, não devemos promulgar uma lei que iniba a inovação e nos impeça de colher os benefícios que a IA pode oferecer”, argumentou.

Estudo sobre o tema

O consultor legislativo Claudio Nazareno da Câmara dos Deputados realizou o estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil”.

O documento apresenta um panorama da legislação sobre IA em diversos países e aborda as leis brasileiras relacionadas à Inteligência Artificial, além de analisar as principais propostas em discussão no país.

Desafios da regulação

Com base na ideia de que a IA está presente em todos os aspectos de nossa vida digital, a pesquisa explora os desafios centrais para a implementação de um modelo regulatório equilibrado que viabilize o desenvolvimento seguro dessa tecnologia no Brasil. Primeiramente, ele fez uma análise pormenorizada das recentes regulamentações sobre Inteligência Artificial ao redor do mundo, iniciando com as diretrizes da Unesco e passando por países de destaque que possuem abordagens diversas sobre o tema: Estados Unidos, China, Japão, Rússia, União Europeia e Reino Unido.

Também são destacados os principais mecanismos normativos e de fomento a essa tecnologia já em andamento no Brasil, além da análise das principais propostas legislativas em discussão no Congresso Nacional.

No levantamento, Claudio Nazareno explica que os algoritmos de IA são desenvolvidos por indivíduos com suas próprias preferências e características sociais e culturais. Isso pode ocasionar a introdução de viés nos sistemas, especialmente se os dados utilizados forem provenientes de um grupo social específico, resultando em respostas parciais. Por exemplo, algoritmos de previsão de crimes podem exibir viés racista. Na tentativa de corrigir esse viés, as ferramentas de IA podem ser excessivamente politicamente corretas, promovendo uma diversidade forçada.

As três leis da robótica

Ele começa parafraseando Isaac Asimov, um dos maiores mestres da ficção científica, no livro de ficção “Eu, robô”, de 1950. Na obra, Asimov escreveu as três leis da robótica:

Em primeiro lugar, está a lei: um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.

Na sequência, a segunda lei: um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que entrem em conflito com a Primeira Lei.

E, sem seguida: um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Leis sobre IA no mundo

Hoje, passados 74 anos, o Digital Policy Alert, primeiro repositório público e independente de políticas do mundo sobre mudanças que afetam a economia digital, afirma que no início de 2024, havia 128 leis em vigor em todo o mundo sobre o assunto.

“No Brasil, embora ainda não haja uma legislação específica, mas sim instrumentos mais voltados para sua utilização e promoção, o entusiasmo é evidente”, comenta Claudio Nazareno. “Uma análise dos projetos em andamento na Câmara dos Deputados revela a existência de pelo menos 42 propostas em busca de regulamentar diversos aspectos relacionados ao tema. Dessa forma, as preocupações de empresas, governos, legisladores, especialistas e sociedade civil vão desde a possível proibição do uso de IA em atividades de alto risco até questões sobre responsabilidade em caso de danos, tratamento de dados em âmbito internacional, propriedade dos sistemas, necessidade de órgão regulador, entre outras implicações”.

Alucinações em IA

Outro ponto que merece destaque diz respeito às alucinações em IA. Em síntese, alucinações ocorrem quando um algoritmo fornece respostas completamente fictícias e irreais. Só para ilustrar, vamos a um caso ganhou holofotes da mídia mundial: a coroação do rei Charles III. Com efeito, o evento estava marcado para 6 de maio de 2023. Assim, foi feita a pergunta ao ChatGPT: “Quando será a coroação do rei Charles III?”. Ao passo que o chatbot de IA da empresa OpenAI declarava que a coroação aconteceria na Abadia de Westminster, em Londres, no dia 19 de maio de 2023.

A data estava equivocada, demonstrando a “alucinação” da IA. Em outras palavras, o fenômeno da alucinação ocorre quando um sistema fornece dados corretos de maneira estruturada, mas com informações incorretas, tendenciosas ou completamente equivocadas. Portanto, apesar da previsão errada do ChatGPT, a coroação de Charles continuava agendada para 6 de maio.

“São diversos os riscos que estão sendo enfrentados no desenvolvimento da IA. Só para exemplificar, a União Americana pelas Liberdades Civis (Aclu) testou uma tecnologia de reconhecimento facial da empresa Amazon e verificou que 28 membros do congresso foram falsamente identificados como criminosos. E, ainda, verificou que os erros foram desproporcionais com relação à representatividade de congressistas pessoas de cor”, pontuou o autor do estudo.

Conclusão

Outro levantamento, publicado pelo Instituto de Tecnologia de Massachusetts (MIT), abordou o uso de algoritmos de predição de crimes com vieses racistas, que contribuem para a perpetuação do racismo sistêmico. Por exemplo, a identificação de áreas de alta incidência de crimes leva a uma maior vigilância policial nessas regiões, resultando em mais abordagens e prisões, enquanto outras áreas são menos monitoradas. Além disso, ferramentas utilizadas para prever reincidência criminal em indivíduos condenados mostram um erro maior em pessoas negras do que em brancas. “Essas predições não apenas envolvem questões de raça, mas também podem restringir o acesso a serviços públicos e afetar indicadores socioeconômicos, como a escolaridade. Uma investigação jornalística da revista Time descobriu que a Open IA, responsável pelo ChatGPT, contratou trabalhadores no Quênia por menos de dois dólares por hora para treinar a ferramenta na identificação de conteúdo tóxico, expondo esses funcionários a riscos”, ressalta Claudio.

A conclusão do levantamento foi que a questão crucial da responsabilização adequada dos agentes envolvidos e da presença ou não de uma entidade reguladora são apontadas como os principais desafios a serem enfrentados pelos legisladores. As decisões tomadas terão um impacto significativo no desenvolvimento do ecossistema e na adoção da Inteligência Artificial no Brasil.

Conselho de IA e Sociedade

A Associação Brasileira de Internet (Abranet) e o Instituto de Tecnologia e Sociedade (ITS) uniram forças com líderes de diversos setores para estabelecer o Conselho de Inteligência Artificial e Sociedade (CIAS). O propósito desse conselho é promover uma consulta pública aberta à participação ampla visando discutir a regulamentação da Inteligência Artificial no Brasil.

O site para participação na consulta é o oquequeremosdaia.

Nesse sentido, a primeira etapa da consulta consistirá em responder à seguinte pergunta: “o que o Brasil deseja da Inteligência Artificial?” A partir das respostas a essa pergunta, a segunda fase da consulta terá o objetivo de elaborar um projeto de lei para a Inteligência Artificial que reflita as necessidades e expectativas do país nessa área, à medida que os consensos forem sendo alcançados.

“A IA é uma tecnologia que impacta a vida de todas as pessoas”, enfatizou Ronaldo Lemos, fundador do Instituto de Tecnologia e Sociedade (ITS Rio) e membro do CIAS. “Por esse motivo, o caminho a ser percorrido para sua regulamentação é mediante um processo amplo de participação. Outros países, como os EUA e Taiwan, estão seguindo o mesmo caminho. A Europa também adotou essa abordagem para a elaboração de sua legislação. Em nosso país, temos o exemplo do Marco Civil da Internet, construído por meio de um processo participativo e reconhecido internacionalmente como referência, tanto por seu processo quanto por seu resultado. Com o tema da Inteligência Artificial, podemos fazer o mesmo e ir além. Afinal, sem responder o que queremos da Inteligência Artificial, não é possível determinar o caminho a seguir”.

Consulta pública

A participação na consulta pública está aberta a todos, sem restrições: indivíduos, associações, empresas, órgãos governamentais, instituições de ensino e pesquisa, entre outros. Além disso, o Conselho planeja realizar consultas presenciais. Por exemplo, em parceria com a Campus Party, conhecida por promover eventos de tecnologia em todo o Brasil, serão realizadas sessões presenciais para debater a regulação da Inteligência Artificial nas próximas edições do evento.

A última edição da Campus Party, realizada em Brasília, reuniu 150 mil pessoas. Novas edições estão agendadas em 10 cidades brasileiras nos próximos meses.

“A regulação de um tema como Inteligência Artificial tem o potencial de revolucionar a nossa sociedade”, destaca Carol Conway, presidente da Abranet. “Primordialmente, vamos ouvir desde nossos muitos empreendedores até os movimentos sociais. Esse modelo colaborativo tem grande potencial para posicionar o Brasil ativamente na era da web 3.0. Por conseguinte, seremos capazes de desenvolver uma legislação assertiva que beneficie os negócios e a população do país. Não é viável estabelecer uma regulamentação que alcance objetivos e expectativas sem provocar a sociedade a refletir e se posicionar”.

O Conselho de Inteligência Artificial e Sociedade conta com a participação de Carol Conway (Abranet), Carol Strobbel (Antler), Demi Getschko (CGI.br), Eduardo Saron (Fundação Itaú), Leandro Machado (CAUSE), Luana Génot (ID_BR), Luiz Paulo Pinho (Jusbrasil), Mariana Caetano (SALVA), Natalie Unterstell (GCF), Nathalia Arcuri (Me Poupe), a jornalista Patrícia Campos Mello, Priscilla Cruz (Todos pela Educação), Ronaldo Lemos (ITS), Sil Bahia (Olabi), Sergio Branco (Sciences Po, Paris) e Virgílio Almeida (professor da UFMG).

Acesse: Consulta Pública | O queremos da IA? (oquequeremosdaia.com.br)