Privacidade e governança de dados na era da IA generativa
- Por Jade Lourenção
- 5 min leitura
A adoção acelerada de Inteligência Artificial generativa (GenAI) no último ano, para além dos ganhos operacionais e produtivos, trouxe uma preocupação em relação a riscos como segurança, resultados imprecisos, alucinações e usos incorretos. De acordo com uma pesquisa da McKinsey, a imprecisão tem sido o principal ponto de atenção, sendo considerada uma questão relevante por 63% das empresas. Ao todo, 44% das participantes da pesquisa já enfrentaram algum tipo de problema relacionado à tecnologia.
Nesse cenário, a privacidade e a governança de dados tornam-se fatores essenciais para o uso de GenAI. Como afirma Harold Schultz, Chief AI Officer da MakeOne, “os principais elementos para escalar o uso da IA com responsabilidade incluem políticas claras de governança; ferramentas robustas de monitoramento e auditoria; e uma cultura organizacional centrada na ética e na transparência”.
As iniciativas de proteção devem ser tomadas de acordo com o perfil de cada empresa. “Para isso, no mundo da GenAI, é preciso entender quem é a empresa. As Model Users contratam serviços de IA; as Model Turner adaptam modelos já existentes para suas bases de dados, o que chamamos de Model-as-a-Service, que é o caso da MakeOne; e as Model Builders constroem os modelos de IA. Se a empresa não é um Model Builder, que é a maioria dos casos – dado que é cada vez mais caro e exigente criar modelos, naturalmente, – já está ‘amarrada’ à privacidade e à governança de dados que os fornecedores estão dispondo”, explica Schultz.
Harold Schultz, Chief AI Officer da MakeOne
Isso significa que as ações internas de privacidade e governança precisam estar alinhadas à solução contratada. A MakeOne, por exemplo, tem adotado uma abordagem proativa para proteger a privacidade de dados através de uma parceria com a Databricks, que permite centralizar a governança e garantir que todos os acessos e manipulações sejam rastreados e auditados. Além disso, técnicas de anonimização e criptografia protegem informações sensíveis e são apoiadas por políticas rigorosas de consentimento e uso de dados.
“A gestão de riscos na MakeOne é um processo contínuo e integrado em todas as etapas de desenvolvimento e implementação de soluções de IA. Utilizamos ferramentas de monitoramento avançadas, auditorias regulares e avaliações de impacto para identificar e mitigar riscos proativamente. Os princípios éticos são fundamentais nesse processo, pois orientam nossas práticas e decisões, garantindo que priorizamos a privacidade e a transparência em todas as nossas iniciativas. Realizamos treinamentos contínuos para nossa equipe sobre práticas responsáveis de IA e conformidade regulatória”, afirma Harold.
PUBLICIDADE
PUBLICIDADE
Alucinação ou criatividade?
Os modelos de GenAI são tão amplos que podem criar algo completamente novo. Sem análise e pensamento crítico, isso pode incorrer em erros, como a tão temida imprecisão. Harold conta que, para resolver essa questão, a MakeOne aposta no uso do RAG (Retrieval-Augmented Generation).
“Imagine que você está escrevendo uma redação sobre um tema complicado. Em vez de tentar lembrar de tudo sozinho, você tem um livro (ou várias fontes confiáveis) do seu lado o qual você pode consultar sempre que precisar. É isso que o RAG faz: ele usa uma base de dados confiável para complementar e verificar as informações geradas pelo modelo de IA, garantindo respostas mais precisas e relevantes”, explica.
Além disso, técnicas de Knowledge Graph estão sendo testadas para estruturar e conectar informações de maneira lógica – algo semelhante a um extenso mapa mental. A integração do Knowledge Graph e do RAG, chamada de GraphRAG, já é vista como o futuro da GenAI de alta acuracidade, afinal, deve melhorar a precisão e a transparência dos resultados gerados.
Outro conceito que começou a ser testado pela MakeOne é o T-Shaped AI, a partir do qual a IA aprende à medida que precisa do conteúdo, ou seja, os conhecimentos profundos em áreas específicas são adquiridos conforme a necessidade, ao mesmo tempo em que se mantém um entendimento amplo de diversos tópicos. Entre os principais ganhos está o aumento da eficiência e da relevância das respostas.
“Estamos muito otimistas quanto ao potencial dessas técnicas. Fiquem atentos, pois é uma área muito promissora e cheia de possibilidades interessantes”, alerta o Chief AI Officer da MakeOne, o qual destaca, ainda, as principais tendências para a privacidade e a governança de dados no uso da GenAI: aumento da regulamentação, desenvolvimento de tecnologias de IA explicável e adoção de frameworks de governança de dados mais rigorosos.
Recomendadas
+ CONTEÚDO DA REVISTA
Rua Ceará, 62 – CEP 01243-010 – Higienópolis – São Paulo – 11 3125 2244
