É preciso informar o consumidor sobre o atendimento feito por IA?

As interações entre empresas e clientes se modificaram com o avanço da Inteligência Artificial (IA) e das novas tecnologias. Empresas como Vivo, AlmavivA e o Hospital Israelita Albert Einstein estão adotando IA em seus processos de atendimento para impulsionar a eficiência e aprimorar a experiência do cliente. No entanto, surge o dilema ético: até que ponto as empresas devem informar os consumidores de que estão interagindo com uma IA?

Durante o evento “A Era do diálogo, o painel “Qual o futuro do atendimento e da defesa do consumidor sob o prisma da IA?” mediado por Vitor Morais de Andrade, sócio da Morais de Andrade Advogados, trouxe lideranças para discutirem sobre o fio condutor das questões éticas no relacionamento com o cliente.

Suzzy Cipriano, diretora de experiência do cliente da Vivo, destacou que a IA é uma ferramenta eficiente para apoiar os colaboradores na linha de frente com os clientes, resultando em ganhos de produtividade e eficiência. No entanto, ela ressaltou a importância de uma avaliação humana e de uma capacidade de determinar onde usar a IA de maneira adequada.

“Atualmente, implementamos Inteligência Artificial (IA) no atendimento, o qual se mostra altamente eficaz. Isso beneficia especialmente nossos colaboradores que lidam diretamente com os clientes, aumentando produtividade e eficiência no serviço prestado. No entanto, é fundamental entender que a IA não é uma solução universal; sua aplicação requer uma cuidadosa avaliação e uma capacidade sólida de identificar onde pode ser melhor empregada. Além disso, o treinamento da IA é um desafio importante; sem profissionais capacitados para conduzi-lo, a eficiência da IA fica comprometida”, pontuou a executiva.

Bruno Penha, CDO da AlmavivA, trouxe para o debate a necessidade de uma jornada clara para o consumidor, reconhecendo que a regulamentação nesse campo ainda não é totalmente madura. O executivo pontuou a importância de construir uma jornada de forma transparente, respeitando a vontade do consumidor em compartilhar seus dados.

“A AlmavivA possui uma cultura muito forte de experiência do cliente. Diante do novo perfil de consumidor que busca agilidade, como podemos surpreendê-lo e atendê-lo adequadamente? Estudos indicam que a hiperpersonalização é a chave e a Inteligência Artificial entra em cena para potencializar essa transformação. Entretanto, enfrentamos uma falta de regulamentação madura para definir o que é certo ou errado. Construir uma jornada mais clara representa um desafio, especialmente no que diz respeito à decisão do consumidor sobre o compartilhamento de seus dados”.

Flávia Camargo, diretora de experiência em saúde do Hospital Israelita Albert Einstein, reconhece o delicado equilíbrio entre tecnologia e cuidado com a vida humana. A executiva colocou, durante o debate, princípios éticos como clareza, transparência e conformidade com regulamentos, especialmente na área da saúde.

“No setor regulado e delicado da saúde, lidamos com vidas e indivíduos buscando melhor cuidado. A tecnologia e a IA podem ajudar a enfrentar esses desafios. Para garantir transparência, clareza e cumprir os requisitos da LGPD na saúde, um código de ética é fundamental. Quando se trata de IA, é essencial assegurar conformidade com esses princípios. Nossa governança é bem estabelecida”.

O papel da regulamentação e da ética

O mediador do debate, Vitor Morais de Andrade, questionou até que ponto as empresas devem informar os consumidores sobre o uso de IA no atendimento. Nesse sentido, a AlmavivA tem buscado soluções que estejam em conformidade com os princípios éticos e regulamentos. “A construção de uma jornada fluida e aprimorada para a experiência do cliente são prioridades. Ao elaborar projetos de tecnologia, é essencial garantir a conscientização quanto ao manejo de dados. Temos comitês de segurança e ética na definição de soluções, baseando-se em análises realizadas pelo grupo. A integração harmoniosa entre o humano e o digital é essencial para o sucesso”, pontuou Bruno Penha.

Suzzy Cipriano afirmou que o consumidor deve ter o poder de escolha e ser informado sobre o uso de IA no atendimento. “Vamos caminhar pela definição do próprio cliente. O cliente tem que ter o poder de escolha, o poder ser informado ou não, a escolha é dele. É fundamental ter um pós contato de diagnóstico para compreender suas necessidades. Descobrir quais benefícios foram gerados ou quais problemas levaram à insatisfação do cliente com o atendimento”.

Flávia Camargo enfatizou a escala de intervenção humana na análise de sentimentos, reconhecendo o papel fundamental do toque humano no atendimento. “Temos 10 anos de experiência em telemedicina, durante os quais adquirimos conhecimento progressivamente. A experiência na telemedicina é um recurso amplamente utilizado, com múltiplas aplicações. Uma das abordagens que estamos adotando é a integração dos pacientes, buscando ouvir suas vozes de forma mais eficaz”.

Durante o debate, ficou claro que a questão ética sobre informar os consumidores sobre o uso de IA no atendimento é complexa e multidimensional. Embora a transparência seja essencial, também é importante equilibrar a eficiência operacional com a proteção dos direitos do consumidor. As empresas estão buscando soluções que garantam uma jornada transparente e ética, respeitando a vontade e as necessidades individuais dos consumidores.