Na era do Agent Experience, com agentes de IA acessando, compreendendo e operando em ambientes digitais para atingir objetivos definidos pelo usuário, a tecnologia está colocando à prova o quanto as empresas estão capacitadas não apenas para operar sistemas inteligentes para CX, mas para lidar com a segurança de uma nova camada de relacionamento com clientes.
O Gartner já aponta que a ascensão de agentes de IA traz novos desafios para a gestão de identidade e acesso, principalmente em credenciais automáticas e autenticação de agentes não humanos. Isso porque essa camada agêntica revela novas superfícies de ataque, com ferramentas low-code/no-code e agentes não gerenciados.
E não se trata de um alerta teórico. Segundo o Relatório de Custo de Violação de Dados da IBM, os ciberataques potencializados por IA cresceram 72% em 2025 em comparação ao ano anterior, com varreduras automatizadas chegando a 36 mil tentativas por segundo.
O risco da identidade não humana
Nesse cenário, toda nova tecnologia traz novos desafios em cibersegurança. O Google Cloud Cybersecurity Forecast 2026, por exemplo, já projeta aumento relevante de ataques de prompt injection direcionados a sistemas de IA corporativos.
A técnica de ataque manipula o comportamento de um modelo de IA (ou de um agente baseado nele) e insere instruções maliciosas dentro do conteúdo que ele processa. Some a isso um comportamento crescente do uso de agentes de IA, que abrem caminho para uma extorsão digital sem precedentes.
Para quem lida com experiência do consumidor, o risco é eminente, já que o cliente de amanhã pode ser um agente de IA malicioso agindo em nome de uma pessoa.
Esse modus operandi, no entanto, é acompanhada de perto pelos grandes players do mercado de tecnologia, que já desenvolvem novos critérios e soluções em busca de uma maior segurança na era do Agent Experience.
Antecipar-se aos riscos sem frear o desenvolvimento
Luis Liguori, líder de arquitetura de soluções da AWS no Brasil, explica que é seguro permitir que um agente de fronteira tome decisões de forma autônoma, desde que essa autonomia seja projetada sob controles, padrões claros e mecanismos de supervisão adequados.
Um exemplo concreto é o AWS Security Agent, que aborda um dos maiores desafios das equipes de segurança: antecipar-se aos riscos sem frear a velocidade do desenvolvimento.
Diferentemente das ferramentas tradicionais que oferecem recomendações genéricas ou testes de segurança lentos e reativos, este agente integra a segurança de forma contínua ao longo de todo o ciclo de vida do desenvolvimento de software.
“Ele atua como um especialista em segurança que acompanha a equipe desde o início, revisa documentos de design, analisa mudanças no código e valida automaticamente que os padrões de segurança definidos pela própria organização são cumpridos. O agente se concentra nas vulnerabilidades que realmente impactam o negócio e entrega recomendações concretas, incluindo código de remediação”, explica Luis.
Essas capacidades são respaldadas por múltiplas camadas de proteção: o agente opera em domínios verificados pela organização, utiliza controles para prevenir sobrecarga, emprega criptografia avançada para todos os dados e mantém isolamento estrito entre diferentes contas e projetos.
“Todos os seus achados são validados antes de serem reportados, e qualquer tentativa de acesso fora dos limites estabelecidos interrompe automaticamente sua operação”, frisa Luis.
Ou seja, os controles permitem que as avaliações avançadas de segurança, que tradicionalmente eram processos manuais, lentos e caros, se transformem em uma capacidade automatizada e sob demanda.
Nesse ponto, Luis afirma que a segurança pode crescer no mesmo ritmo que o desenvolvimento de software, permitindo avançar com maior agilidade sem perder o controle, reduzindo custos e a exposição a riscos.
“Em um exemplo mais específico, os mecanismos de proteção, que chamamos de guardrails, filtram não apenas o que a IA diz, mas o que ela tenta fazer. Se o agente tentar executar uma ação que viole a política da marca (como um reembolso acima do permitido), o sistema bloqueia a execução antes dela chegar ao sistema financeiro”, completa Luis.
Um claro avanço de como processos de segurança em agentes de IA estão sendo observados e estruturados, mesmo diante de um cenário assustador de ciberataques.
Segurança: nem toda decisão deve ser totalmente automatizada
Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para América Latina, traz uma observação perspicaz sobre a questão da cibersegurança em Agent Experience. Ele aponta que a governança e a arquitetura de experiência precisam evoluir para um modelo mais sistêmico e orientado a regras. E diz que o primeiro passo é estabelecer uma camada clara de governança de decisões.
“Isso significa definir políticas explícitas sobre o que os agentes podem ou não fazer, em quais contextos e com quais níveis de autonomia. Vale pontuar que nem toda decisão deve ser totalmente automatizada. É importante prever níveis de supervisão e pontos de intervenção humana, especialmente em casos sensíveis”, explica.
Uma arquitetura que sustente consistência em escala também é necessáia. “Isso passa por centralizar a lógica de negócio, por exemplo, via APIs e serviços, para que diferentes agentes, mesmo atuando em paralelo, sigam os mesmos critérios, regras e fontes de dados. É isso que evita divergências na experiência e protege a coerência da marca”, detalha.
Marcio entende que segurança também precisa ser pensada desde o início, ou seja, já na forma como os agentes e sistemas são desenhados.
“Ao criar um agente ou uma integração, a empresa já define quais dados ele pode acessar, quais ações pode executar e em quais situações. Essas permissões não ficam ‘abertas’ para ajuste posterior. Elas já passam a fazer parte da própria arquitetura”, define.
Como exemplo, Marcio cita um agente responsável por atendimento, que pode consultar pedidos e atualizar dados cadastrais, mas não deve ter permissão para aprovar crédito ou realizar transações financeiras.
Outro ponto te atenção é o alinhamento com valores locais, já que os agentes precisam operar considerando as regras e expectativas de cada mercado. “Esse tipo de limite precisa estar definido desde a concepção a fim de evitar riscos em escala, especialmente quando vários agentes operam ao mesmo tempo”, conclui Marcio.
Diante do crescimento acelerado de agentes de IA e de ataques direcionados a sistemas de IA, as empresas que tratarem a segurança como parte da construção de arquitetura de IA, e não como um ajuste posterior, estarão mais preparadas para explorar todo o potencial dessa nova era de Agent Experience para o CX.
