O ChatGPT se popularizou em menos de um ano, e já foi aceito ambiente profissional por desempenhar diversas funções, desde atendimento ao cliente até influenciar na tomada de decisões. No entanto, surge uma questão crítica que merece atenção: até que ponto podemos confiar nessas plataformas para lidar com dados corporativos sensíveis?

Diversas pesquisas recentes indicam um aumento na confiança das pessoas em relação a essas inteligências artificiais. De acordo com dados do Google, as pesquisas por “gerador de texto” cresceram 820% nas pesquisas no início deste ano em comparação com o ano anterior. Não à toa, os dados da pesquisa da Semrush revelam que os brasileiros estão entre os usuários mais ativos do ChatGPT, ficando atrás dos EUA, Alemanha, França e Índia. Esse interesse mostra que o quanto os brasileiros são adeptos à novas tecnologias, especialmente aquelas relacionadas à inteligência artificial.

Os especialistas da Kaspersky, empresa de cibersegurança, conduziram uma análise abrangente e identificaram quatro riscos principais associados à utilização do ChatGPT nas organizações.

Vazamento de dados ou hacking do lado do fornecedor

Mesmo grandes empresas de tecnologia não estão isentas de serem alvo de ataques hackers ou de sofrerem com vazamentos de dados acidentais. Em março deste ano, a Open IA retirou o ChatGPT do ar, isso porque, usuários informando acesso não autorizado tiveram acesso a mensagens antigas de outros usuários da plataforma sem autorização.

Vazamento de dados por meio dos chatbots

A utilização de conversas com chatbots para treinar modelos futuros, especialmente os Modelos de Linguagem de Grande Escala (LLMs), apresenta desafios de “memorização não intencional”. Isso ocorre quando o modelo retém informações, como números de telefone, sem contribuir para sua qualidade, mas colocando em risco a privacidade dos usuários.

Cliente malicioso

Em regiões onde serviços oficiais, como o ChatGPT, são bloqueados, surge uma preocupação: Os usuários, nesses casos, podem optar por alternativas não oficiais, como programas, sites ou bots de mensagens, correndo o risco de baixar  malwares disfarçados de clientes ou aplicativos fictícios

Pirataria de contas

Os criminosos podem entrar nas contas dos funcionários, acessando os seus dados através de ataques de phishing ou de preenchimento de credenciais.

Padrões de segurança e privacidade mais rígidos

A pesquisa da Kaspersky incluiu uma variedade de chatbots, como ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard e Genius App da Alloy Studios. Um dos principais destaques da análise revelou que no setor B2B há padrões de segurança e privacidade mais rígidos, devido aos riscos maiores associados à exposição de informações empresariais.

Anna Larkina, especialista em segurança e privacidade da Kaspersky defende que as organizações devem endurecer as regras “Depois de examinarmos os potenciais riscos associados à utilização de chatbots baseados em LLM para fins profissionais, descobrimos que o risco de vazamento de dados sensíveis é maior quando os funcionários utilizam contas pessoais no trabalho, sendo uma prioridade máxima para as empresas. Por um lado, os funcionários precisam entender que dados são confidenciais ou pessoais, ou são informações comerciais sensíveis, e por isso não devem ser fornecidos a um chatbot. Por outro lado, a empresa deve definir regras claras para a utilização desses serviços, se é que são permitidos”.

Para continuar a usar os chatbots de maneira segura, especialistas da Kaspersky recomendam:

Utilize senhas fortes, únicas e complexas para cada uma das suas contas e evite informações fáceis de se adivinhar, como datas de aniversário ou nomes.

Tenha cuidado com e-mails, mensagens ou chamadas não solicitadas que peçam informações pessoais. Verifique a identidade do remetente antes de compartilhar quaisquer dados sensíveis.

Os colaboradores das empresas devem manter-se informados sobre as últimas ameaças online e as melhores práticas para se manterem seguros.

Atualize regularmente o seu sistema operativo, aplicativos e programas antivírus. Estas atualizações contêm frequentemente patches de segurança.

Tenha cuidado com o compartilhamento de informações pessoais nas redes sociais. Forneça-as apenas quando for absolutamente necessário.

Verifique novamente o URL dos sites que visita, especialmente antes de usar seus dados de acesso ou de efetuar compras.

Para evitar que os funcionários consultem de forma independente chatbots não confiáveis para fins de trabalho, ofereça uma solução de segurança com análise de serviços na nuvem.