IA Responsável: desafios éticos na era da Inteligência Artificial

A Inteligência Artificial cresce exponencialmente e, com isso, os desafios éticos que surgem são inegáveis. Um dos principais obstáculos enfrentados quando o assunto é IA é a questão da responsabilidade, afinal, como responsabilizar uma tecnologia que toma decisões por si mesma?  Ou como acompanhar esse desenvolvimento com uma regulamentação que, embora esteja em andamento, ainda não acompanha o ritmo da inovação? A discussão sobre regulação foi o tema central do painel “IA responsável: estratégias para regulação e os limites nas interações com o cliente” na primeira edição do evento IA+CX. 

Andrea Bocabello, diretora executiva de estratégia, inovação e ESG do Grupo Fleury compartilhou sua percepção sobre como a regulação da tecnologia. “Na saúde, temos a associação dos setores que tendem a procurar a autorregularão. Hoje, o Conselho Federal de Medicina tem se posicionado sobre isso, sendo que a responsabilidade é do médico e a Inteligência Artificial atua como uma assessoria. A discussão de regulação é centrada na própria empresa em como ela quer conduzir”, afirma a executiva. 

Nesse contexto, o que se espera de uma regulação? Bruno Penha, Chief Digital Officer da AlmavivA destaca a expectativa para novas regras que contemplem os vários momentos do uso de IA. “Espero de fato que regule o desenvolvimento das soluções, fomente as inovações, mas que também traga uma governança para mitigar riscos sobre o uso, privacidade dos dados e entre outros”. O executivo destacou o PL 2338 que circula na Câmara do Senado. “O PL vai ao encontro da regulação da IA, definindo a questão da categoria de risco e colocando em pauta o contexto de desigualdade, e que traz um a série de governação. Talvez seja o texto mais completo que tenhamos hoje e que deve avançar nos próximos meses”, pontua Bruno Penha. 

Fábio Dragone, diretor de digital e inovação do Bradesco, compartilha da importância da regulação e sugere que a IA deva acompanhar o ritmo da inovação e da transformação. “A questão principal da regulação passa pelo tamanho da inovação que está acontecendo; o modo como integramos e vivenciamos a IA é uma dessas causas. É natural que a regulação venha após uma transformação tão disruptiva como essa; é natural que muita discussão precisa ser feita ainda sobre a regulação da Inteligência Artificial. Para muitas questões não há uma resposta óbvia e, sim, uma resposta para esse momento”. 

Roberto Jabali, diretor executivo do Banco BV destacou que, embora a Inteligência Artificial tenha um grande potencial de expansão e ofereça diversos benefícios, também apresenta desafios e riscos significativos. “Quando falamos de IA Responsável, o tema da regulação é fundamental. Essas tecnologias, de modo geral, têm um potencial de expansão enorme e trazem muitos benefícios, mas também muitos malefícios. A IA está muito conectada à expansão dessas novas tecnologias. Ela tem a ver com a forma como a cultura das pessoas encara isso e vai se adaptar a essas transformações. O que prevalece aqui ainda é tudo muito experimental”, destaca. 

Priorizar o cliente é uma questão de ética

À medida que navegamos no vasto oceano da Inteligência Artificial (IA), surge uma pergunta: estamos no rumo certo? Na visão dos especialistas, é preciso ter urgência para prever possíveis desvios de rota. Além disso, também destacaram a importância de assegurar a ética em todas as etapas do desenvolvimento e implementação da IA na jornada do cliente. 

Bruno Penha, da AlmavivA, trouxe uma perspectiva da ética centrada no cliente em todas as interações. Desde a coleta de dados até a curadoria e governança, a preocupação com as consequências e o armazenamento seguro de informações são fundamentais. “No que diz respeito aos dados, garantir não só o consequentemente, mas a clara visibilidade de que dados são coletados e processados e, por fim, uma visão de curadoria e governança. As soluções de NLP (Natural Language Processing) permitem que aprendamos com o histórico de intenções desse cliente para retroalimentar o desenho do fluxo. Assim, garantimos que essa interação seja fluida”. 

Dragone compartilhou a vasta experiência da IA no Banco Bradesco, destacando a transição para IA generativa e os desafios associados à sua implementação ética. “Temos uma vasta experiência com a BIA, fomos pioneiros no uso de IA, e agora estamos evoluindo com a generativa. A IA generativa trouxe outro patamar ao atendimento aos clientes. Mas um cuidado muito grande que temos é com a aplicação. Neste momento, estamos fazendo rodadas com todos os gerentes para pilotar para os clientes. Primeiro testamos dentro de casa e assim conseguimos ganhar a satisfação no patamar de atendimento ao cliente. É preciso pilotar antes de escalar a IA”. 

O conceito de processos híbridos, nos quais a IA é complementada pela validação humana, surge como um meio de aumentar a produtividade enquanto se ganha confiança na automação digital total. “Temos uma linha de processos que ocorreram de forma híbrida. A IA faz todo entendimento do caso, ou seja, no final você tem ainda o humano validando. Claramente existe um ganho de produtividade com processo híbrido e à medida que ganha confiabilidade, aí, sim, você automatiza o fluxo 100% digital”, completa o executivo do Bradesco. 

Andrea Bocabello ressaltou a importância da diversidade nos dados para garantir uma IA imparcial, especialmente em setores sensíveis como a saúde. A validação humana é essencial em todos os processos, especialmente em empresas com grandes equipes, como o Fleury. “Na saúde, temos um protocolo de pesquisa rigoroso. A validação humana é sempre obrigatória e necessária; isso facilita muito nosso processo interno de aplicar IA. No Fleury, temos 20 mil colaboradores e a diversidade é importante”, pontuou. 

A discussão aberta e a conscientização são vistas como fundamentais para enfrentar esses desafios. “Temos uma ferramenta que estamos desenvolvendo, que consegue chegar a 600 comunicações”, compartilha Roberto Jabali, do Banco BV. “O problema é que todas elas têm o mesmo tom. Inserimos dentro dessa camada uma validação humana para entender a qualidade daquilo que está sendo gerado pela máquina e verificar se encaixa com o modelo de comunicação que o BV considera correto. Essa camada é o que previne muitos problemas dentro das iniciativas; é fundamental a avaliação humana. No entanto, a IA é um caminho sem volta”. 

Fica claro que a ética deve permanecer no centro de todas as iniciativas. O diálogo contínuo, a validação humana e a conscientização são essenciais para garantir que a IA navegue em águas seguras, beneficiando a todos de forma responsável e ética.