As estratégias com agentes de IA estão moldando o CX. Muito além de desafios técnicos e operacionais, governança, segurança e supervisão humana são essenciais nessa jornada.
Numa conversa com Yuri Hollerbach, diretor da PwC Brasil, o especialista apontou as principais estratégias que podem trazer a excelência para o uso e adoção dessa tecnologia para empresas de todos os tamanhos e segmentos.
Desafios técnicos e operacionais com agentes de IA
Segundo Yuri Hollerbach, os principais desafios técnicos e operacionais na integração de agentes de IA com sistemas legados e fluxos de trabalho existentes incluem: as integrações, a interoperabilidade, a compatibilidade de dados, a existência de base histórica de dados confiáveis e adaptações de infraestrutura. “Sistemas legados muitas vezes têm formato de dados ou protocolos que não são facilmente compatíveis com tecnologias de IA modernas, como as dos agentes de IA, exigindo adaptações significativas.”
Outro desafio é a resistência à mudança cultural e operacional. Fluxos de trabalho estabelecidos há muito tempo necessitam de redesenho e treinamento para que os agentes de IA sejam eficazmente incorporados. “O tempo necessário para essa transformação organizacional pode variar de alguns meses a alguns anos, dependendo da complexidade dos sistemas existentes e da maturidade digital da organização”, diz Yuri.
Outro aspecto importante para Yuri, é considerar que pode haver impacto para clientes e fornecedores. “É preciso compreender que a abordagem de implementação difere das tradicionais na medida em que se deve capacitar a IA, avaliar e estudar prompts, e passar por uma etapa de avaliação de comportamento da IA a fim de tentar se antecipar a alucinações ou vieses.”
Segurança e privacidade
A eficácia dos mecanismos atuais de governança, segurança e privacidade na gestão de agentes de IA ainda é um campo “em desenvolvimento”, afirma Yuri. Para o especialista, muitos frameworks existentes de governança de TI estão sendo adaptados para incorporar considerações de IA. Mas, ainda há lacunas significativas na abordagem autônoma dos agentes.
“Segurança e privacidade são desafios críticos, especialmente em relação à proteção de dados sensíveis e à conformidade com regulamentações como GDPR. Empresas precisam implementar protocolos rigorosos de segurança cibernética e desenvolver políticas claras de governança para garantir que os agentes atuem de acordo com as normas internas e regulamentares”, aponta.
Yuri destaca como complemento a esse tópico a pesquisa “Gerenciando os riscos da IA Generativa”, lançada pela PwC. O levantamento aborda os diferentes mecanismos de governança da IA. “Há de se avaliar eventuais impactos e ações de mitigação quanto a aspectos regulatórios e éticos. Se um agente performar errado, qual a consequência, como atuar?”, alerta.
Supervisão humana
Yuri entende que a supervisão humana deve ser estruturada de forma a envolver equipes multidisciplinares que atuam na validação de decisões críticas feitas por agentes de IA. Isso pode incluir a realização de auditorias regulares, a revisão de decisões automatizadas e a aplicação de políticas de transparência e explicabilidade.
“A responsabilidade de um time de ‘Agentes de IA’ deve recair sobre líderes de áreas específicas de TI e IA, bem como gestores de processos de negócios, cada um garantindo em suas disciplinas que os agentes operem conforme esperado e sem vieses indesejados”, ressalta.
Yuri salienta que, a área de TI, Dados e Digital são fundamentais para a governança de agentes de IA, mas não se pode deixar de lado as áreas de negócio envolvidas. “A abordagem de implementação de IA é diferente da abordagem clássica de implementação de tecnologias. Há questões conhecidas em IA como alucinações e vieses. Uma implementação deve ter ações para mitigá-los. Assim como no acompanhamento da operação. Portanto, na implementação há papéis também de supervisão”, pontua.
Adoção de agentes de IA em 7 passos
Aqui estão sete aspectos para uma implementação de agentes de IA com segurança e eficiência, na visão de Yuri Hollerbach, da PWC:
- Identificação e mapeamento de necessidades e objetivos, garantindo que a integração de IA enderece desafios específicos.
- A identificação de benefícios e riscos, e a priorização de iniciativas são fundamentais. Também o suporte de especialistas na implementação de agentes IA, considerando que há aspectos significativamente diferentes na abordagem em relação à implementação de outras soluções em tecnologia
- Avaliação das áreas de risco e impacto, tratando questões de segurança e compliance desde o início.
- Seleção e adaptação do modelo ideal de IA, levando em conta capacidades técnicas e alinhamento estratégico.
- Implementação de robustos sistemas de monitoramento e análise de ROI para validar o valor prático dos agentes.
- Fomento de uma cultura corporativa aberta à inovação, que permita a aceitação e integração eficaz da tecnologia.
- Na implementação, há a questão da capacitação da IA para mitigar vieses e pré-identificar a tendência de eventuais alucinações.
O futuro com os “Cérebros Digitais Cognitivos”
Ainda sobre essa jornada com agentes de IA e IAs generativas, vale mencionar também o relatório mais recente da Accenture, Technology Vision 2025: AI, A Declaration of Autonomy. O documento destaca a rápida evolução da IA rumo à autonomia crescente, marcada pela emergência dos chamados “Cognitive Digital Brains” (Cérebros Digitais Cognitivos), que operam em diversos níveis da sociedade.
A análise central do relatório é que, embora a IA ofereça possibilidades quase ilimitadas para inovação e crescimento, a confiança é o fator limitante e crucial para seu uso e difusão dentro das organizações. A máxima autonomia da IA será permitida na medida em que as empresas confiarem nesses sistemas.
O relatório aponta quatro tendências principais relacionadas a isso:
- Binary Big Bang (explosão binária), que se refere à revolução no desenvolvimento de software;
- Your Face in the Future, relacionada à identidade e presença da marca;
- When LLMs Get Their Bodies, sobre a integração dos modelos de linguagem em robótica;
- The New Learning Loop, que destaca o ciclo virtuoso entre humanos e máquinas em aprendizado contínuo – este último sendo determinante para o futuro com IAs.
Em resumo, as análises corroboram que a confiança em IA é estratégica para as organizações – assim como a capacidade humana em direcionar sua aplicação e uso. Para que os benefícios da IA – inclusive com agentes de IA – sejam plenamente realizados, é essencial que as lideranças passem a construir governança clara com IA.
