A era digital trouxe uma revolução silenciosa para o setor financeiro, impulsionada pela inteligência artificial (IA). Esta tecnologia, que há não muito tempo era uma promessa distante, já se encontra no coração das operações financeiras, remodelando desde a gestão de riscos até a experiência do consumidor. No Brasil, o setor financeiro emergiu como um pioneiro na adoção da IA, impulsionado por um ambiente regulatório favorável e uma crescente demanda por serviços mais personalizados e seguros.
No entanto, especialmente após o lançamento das IAs generativas, a corrida pela melhor aplicação também está acompanhada de algumas preocupações. Elas envolvem a gestão de riscos, fraudes e vieses. Neste cenário, a Zetta, associação que reúne instituições financeiras digitais, bancos e fintechs, produziu um manual de boas práticas para ajudar seus parceiros a aproveitar o melhor dos recursos que a inteligência artificial pode viabilizar.
“O grande objetivo do setor é o grande princípio que deve nortear o uso de qualquer tecnologia, o bem-estar financeiro das pessoas. As tecnologias devem servir às pessoas para que elas possam tomar decisões informadas em relação à sua vida financeira”, diz Daniel Stivelberg, coordenador do grupo de governança e regulação de dados da Zetta.
Inteligência Artificial é uma força transformadora
O setor financeiro brasileiro está na vanguarda da adoção da IA, impulsionado por um ambiente regulatório progressista e pela necessidade de inovação constante. O ramo, como um todo, é muito intensivo em uso de tecnologias.
Especificamente no Brasil, o mercado de finanças é muito bem desenvolvido, inclusive com apoio do Banco Central, o órgão regulador, na criação de novos modelos de negócios. Outro motor que contribui para esse pioneirismo são as fintechs, com instituições de pagamento ou arranjos de pagamento diferentes, que possibilitaram o uso de tecnologias de transformação digital para incluir as pessoas através do uso de aplicações que muitas vezes são invisíveis para o cliente, mas essenciais para uma experiência cada vez mais ágil, mais intuitiva, e por que não dizer, mais barata.
Serviços em nuvem são um exemplo de aplicações que as novas tecnologias trouxeram para que as empresas pudessem alavancar seus modelos de negócios, armazenar informações e melhorar o CX.
A inteligência artificial faz parte dessas tecnologias de transformação digital, assim como a segurança da informação, a blockchain e a tokenização de dados. “Elas trazem essa transformação porque permitem que as informações sejam tratadas com mais transparência, com mais facilidade, inclusive reduzindo os próprios custos do setor, porque as empresas se tornam muito tecnológicas, o que permite que tenhamos modelos de negócios que não sejam respaldado por tarifas em si, mas possam trazer serviços e produtos um pouco mais simplificados e mais acessíveis para a população como um todo. A inteligência artificial está nesse contexto como uma ferramenta fundamental para o desenvolvimento de novos modelos de negócios e aprimoramento da experiência do cliente”, explica Stivelberg.
Independentemente do porte da instituição, a discussão do uso de modelos de automação e semi automação existe há mais de 50 anos no setor financeiro brasileiro e mundial. A gestão de risco de crédito é um dos casos de uso muito clássico nos modelos para fazer score de crédito e para entender a capacidade de adimplemento de uma pessoa em relação às suas obrigações financeiras, destaca Daniel.
“O que está acontecendo agora é que temos modelos cada vez mais sofisticados de aprendizado de máquina e, agora, a IA generativa, que é basicamente o uso de linguagem natural na identificação de padrões ainda mais aprimorados para que possamos ter informações com maior qualidade sobre as pessoas, e as pessoas poderem ter a condições de tomar uma decisão ainda mais precisa sobre como levar a sua vida financeira”, destaca o coordenador da Zetta, que também é advogado especializado em privacidade de dados no Nubank.
A IA tem um papel crucial em diversas áreas, desde análise de risco de crédito até personalização de serviços. A entrevista e o relatório fornecem exemplos concretos de como a IA está sendo usada para melhorar a eficiência operacional e oferecer soluções mais personalizadas aos clientes.
Entre os desafios em relação às IAs generativas está encontrar a real aplicabilidade e utilidade para outras funções e outros propósitos sociotécnicos, avalia Stivelberg.
A IA tem uma função fundamental no setor financeiro para prevenir, combater fraudes, identificando padrões e comportamentos suspeitos no comportamento de um cliente a partir da análise do ambiente transacional. Assim a instituição pode garantir que a salvaguardas estejam colocadas em momentos oportunos, evitando por exemplo operações que não sejam legítimas no nome do cliente
Se as instituições desejarem, algumas têm trabalhado nesse sentido no ecossistema da Zetta de recomendar produtos serviços financeiros utilizando por exemplo um modelo de IA generativa para fazer um diálogo com o cliente, entender exatamente quais são as necessidades dele a partir da análise do seu comportamento transacional, da sua vida financeira.
Eventualmente assim a instituição pode direcionar o crédito mais barato num determinado período do mês em que aquele cliente possa eventualmente ter uma situação de pouca liquidez, ou antecipar situações.
Os principais desafios que a IA apresenta ao setor financeiro hoje
Enquanto a IA oferece benefícios significativos – alguns que ainda nem podemos prever, ela também traz desafios, principalmente relacionados à segurança dos dados e questões éticas. Para o coordenador do grupo de governança e regulação de dados da Zetta, um ponto importante sobre o uso de modelos de IA, tanto desenvolvidos internamente quanto modelos de terceiros, estão a segurança dos dados e a análise das reais vantagens e necessidades que a IA pode solucionar.
É mais ou menos um processo que aconteceu com o armazenamento de dados e o fenômeno de servitização, com empresas superespecializadas, com alto grau de segurança da informação, que poderiam prover serviços de armazenamento, em nuvem, por exemplo, e as instituições passaram a alavancar a infraestrutura computacional de terceiros para armazenar suas informações.
“Esse fenômeno também está acontecendo com a própria inteligência artificial com terceiros provendo modelos personalizados para clientes finais, como por exemplo instituições financeiras. Aí entra toda uma discussão sobre a cadeia de responsabilização, que é um pouco da discussão que está acontecendo em torno da regulação de inteligência artificial”, indica.
Um dos aspectos que a Zetta levantou em seu manual de boas práticas está relacionado aos vieses. A entidade tem três preocupações éticas fundamentais: a primeira, a questão da qualidade dos modelos, se a base de dados é representativa, se os dados estão efetivamente corretos e atualizados. “O que chamamos de preocupações epistêmicas, se de fato aquele modelo, constituído para algum propósito está de fato desempenhando suas funções em direção ao propósito”, explica.
A segunda preocupação ética é relacionada ao impacto normativo, e de como esse modelo pode impactar as pessoas sujeitas as suas decisões. “É onde entram as preocupações relacionadas à privacidade e a proteção de dados das pessoas e a autodeterminação informacional; e entra também a discriminação, para que não haja discriminação ilícita ou abusiva – o que já é uma proibição no ordenamento jurídico brasileiro, consolidada tanto no âmbito da Constituição federal como nas diversas normas”, enfatiza o advogado.
Isso significa que as empresas, nesse caso instituições financeiras, devem ativamente monitorar que as tecnologias baseadas em IA não estão reproduzindo preconceitos e vieses na hora de tomar a decisão do crédito, seja através de uma ferramenta de machine learning ou outra ferramenta de inteligência artificial que possa ser utilizada no processo.
“Trabalhamos muito no e-book essa noção de análise de governanças de modelo para que as instituições adotem sempre que puderem quando necessário for, com análise internas sobre a qualidade da predição do modelo e como esse modelo pode estar impactando populações que possam historicamente ser discriminadas, em relação à raça ou gênero ou qualquer outro atributo é socialmente protegido que se deve buscar uma proteção maior”, ressalta.
A terceira preocupação principal é a responsabilização da prestação de contas, a rastreabilidade, a accountability na cadeia desenvolvimento da inteligência artificial. Aqui, destaca Stivelberg, incluem questões de auditoria, de responsabilidade civil, de atribuição de papéis no ciclo de vida de desenvolvimento da tecnologia, seja internamente numa instituição, seja também com o apoio de terceiros, como fornecedores de tecnologia.
Toda a discussão sobre vieses de modelos algorítmicos está muito associada à discussão de fairness, ou seja, da justiça do impacto do seu modelo algoritmo. Mas Stivelberg adverte que essa é uma discussão muito emergente. “Ela não está completamente amadurecida, inclusive porque cada modelo de negócio traz em si uma definição de fairness diferente. Quando se está usando um modelo de gestão de risco de crédito se pode estabelecer uma definição de viés ou de coibir vieses, diferentemente do modelo dedicado a prevenir e combater fraudes, que vai ser diferente de um é um modelo que eventualmente uma empresa possa usar para selecionar candidatos para uma posição profissional. Em cada contexto, o uso sócio-técnico vai carregar uma tomada de decisão dentro do ciclo de vida de um modelo de negócio”, o que torna a qualificação de profissionais para trabalhar com IA, tanto em seu desenvolvimento quanto em sua curadoria.
