A evolução do relacionamento com clientes impulsionada pela tecnologia é um fato inquestionável. Prova disso é o uso crescente da Inteligência Artificial, muitas vezes agregada a bots de texto ou de voz – que estão cada vez mais independentes e aptos a cumprir ao papel de interpretar a linguagem natural do usuário e fornecer respostas adequadas às suas solicitações.
Apesar disso, ainda é fundamental o papel do humano na programação desses robôs – o que, em muitos casos, pode torná-los enviesados e orientados a pontos de vista excludentes. Por isso, são muitas as empresas que, por exemplo, contam com equipes fortemente diversificadas, que abastecem o bot com diferentes visões de mundo, tornando-os capazes, por exemplo, de entender sotaques, expressões regionais e geracionais.
Independentemente de toda a evolução, essa questão ainda é – e deve ser – bastante debatida. Por isso, o painel “Os Limites da Ética e Transparência no Atendimento de Robôs ao Consumidor”, do evento A Era do Diálogo 2023, trouxe Luciano Timm, advogado e professor da Fundação Getúlio Vargas (FGV), para conversar com Claudia Wharton, diretora de Ouvidoria da MAPFRE e Rodrigo Santana dos Santos, coordenador-geral de normatização da Autoridade Nacional de Proteção de Dados (ANPD).
O lado “humano” dos bots
A velocidade da evolução das tecnologias também impacta diretamente o atendimento e a experiência do cliente. Os limites da ética e a transparência no atendimento de robôs ao consumidor tem estado cada vez mais no centro do debate. Mas de que forma é possível garantir que um bot seja democrático e respeitoso com todos os públicos?
Para Claudia Wharton, da MAPFRE, os bots precisam ser treinados para ter uma preocupação empática. “Empatia é um sentimento demasiadamente humano. Para minimizar o impacto das interações, é preciso pensar na curadoria dos robôs.”
Esse é o aspecto fundamental para uma abordagem ética no atendimento, que responda aos anseios dos consumidores, avalia a executiva. “Precisamos de pessoas capacitadas e empáticas que consigam imaginar o problema do consumidor e o que ele está sentindo, para alimentar as plataformas automatizadas de atendimento e realmente atender o cliente no que ele precisa.”
Para Rodrigo Santana, da ANPD, é necessário discutir quais resultados a inteligência artificial pode trazer e como imputar recursos que garantam este propósito. Nesse sentido, a curadoria de bots precisa de pessoas de alto nível de inteligência emocional, o que vai muito além do conhecimento técnico, que a própria IA já desenvolve bem.
“Um ponto muito relevante no desenvolvimento das IAs é tornar sua base de dados o mais diversificada possível, especialmente na etapa de aprendizado, de modo a trazer consistência nas informações oferecidas aos clientes”, afirma Santana.
O coordenador-geral de normatização da ANPD ainda destaca a importância da elaboração de mecanismos de governança, um debate ético que já está mais avançado na União Europeia. “Isso inclui a responsabilidade com o manuseio da ferramenta e o combate aos vieses que podem reproduzir preconceitos que temos na sociedade.”
Assine nossa newsletter!
Fique atualizado sobre as principais novidades em experiência do cliente
O trabalho por trás da tecnologia
“É o conhecimento da mente e da sociedade que vai fazer com que o programador consiga gerar engajamento”, destaca Luciano Timm ao lembrar que a tecnologia potencializa a baixo custo o consumo de informações. Mas o desafio é, cada vez mais, desenvolver tecnologia que seja de fácil acesso e com funcionalidade para todos.
Já que a IA aprende e evolui dentro dos próprios conceitos, Claudia Wharton enfatiza a importância de uma curadoria intergeracional, que combata preconceitos e permita trocas que ampliem o horizonte dos bots. “Os robôs precisam interagir com todos os tipos de perfis, assim como vão atender a todos os públicos. Por isso considero tão importante ter na curadoria uma equipe intergeracional, só essa troca funciona para respeitar a diversidade.”
E não é só no atendimento relacional. Rodrigo Santana, executivo da ANPD, ressalta que o processo de construção de tecnologia tem que pensar em todos os usuários. Por isso é essencial levar em consideração a experiência do usuário no desenvolvimento de um software. “A usabilidade deve pensar nos diversos segmentos e não segregar o acesso”, afirma Santos.
Tecnologia e as relações de consumo
Com esse embasamento, os bots de atendimento com Inteligência Artificial podem ser ferramentas poderosas na resolução de conflitos nas relações de consumo, desde que sejam embasadas de acordo com os propósitos de uso corretos. É o caso do Consumidor.gov, que tem 80% de resolutividade.
Leia mais:
Resolutividade na Era dos Dados: a luta contra a judicialização
Wharton destaca dois princípios intrínsecos à IA que contribuem para essa resolutividade: respeito e não julgamento de valor. “Pessoas pode se alterar, elas têm humores, contradições, experiências, regionalidades, enquanto o robô pode – e deve – ter embutido o princípio de respeito em todas as circunstâncias. Além disso, a IA não faz juízos de valor, algo pode inibir o consumidor ou desviar um atendimento”, avalia a executiva.
Um dos temas que têm sido discutidos com o rápido avanço no desenvolvimento de tecnologias, como tanto temos visto desde o lançamento do ChatGPT, é a regulação da Inteligência Artificial. O projeto de lei 2338, apresentado recentemente no Senado, traz princípios discutidos pela OCDE para o desenvolvimento de IAs.
Contudo, Wharton e Timm concordam que a regulação não deve partir do poder público, mas dos próprios usuários e desenvolvedores. “Vejo como caminho pensar em autorregulação ou na regulação responsiva. O mercado tem falhas, mas governos também”, aponta o professor da FGV.
Já para Rodrigo Santana, o processo de regulamentação precisa ser lento e com muito debate, para errar o mínimo possível. “O Brasil vem evoluindo muito nas boas práticas regulatórias, mas é um processo que passa pela coleta dados, análise de evidências, organização de informações, com consultas públicas para que a regulação seja discutida com a sociedade”, defende.
O coordenador-geral da ANPD vê como caminho a softlaw e a não intervenção. “O mercado precisa se desenvolver mais, e diante das evidências, vai se desenhando o caminho de como estabelecer diretrizes de como e onde atuar”, argumenta.
É a solução que Wharton também vê como mais eficiente. “A autorregulação permite reflexão, amadurecimento e responsabilidade para engajar todos os segmentos, só assim quem vai executá-la na prática fará parte”, finaliza.
+ NOTÍCIAS
A Era do Diálogo debate os desafios da multicanalidade
Um atendimento preditivo no comércio eletrônico: como prever o futuro?
