Os perigos da Inteligência Artificial (IA) e da Inteligência Artificial Generativa (IA-Gen) nas relações de consumo incluem a manipulação de dados e a falta de transparência nos processos de tomada de decisões. Mas não só: a coleta e análise de informações pessoais podem levar a um uso indevido, onde as empresas utilizam perfis de consumidores para segmentar anúncios de forma invasiva, prejudicando a privacidade dos indivíduos.
O advogado e economista Renato Opice Blum é especialista em Direito Digital. Ele também é professor de várias instituições de ensino e chairman no Opice Blum Advogados. Em uma palestra no 36º Encontro Estadual de Defesa do Consumidor, do Procon-SP, Renato ressaltou que as pessoas já estão utilizando a IA e a IA-Gen, e, com certeza, a intensidade de uso só aumentará. Isso significa, por consequência, que elas passarão a confiar cada vez mais nas respostas geradas.
Confiança em IA e IA-Gen: os efeitos
No entanto, segundo ele, o cenário demanda cautela. Isso porque essa confiança crescente cria um terreno fértil para desinformação e decisões baseadas em dados imprecisos ou enviesados. A dependência excessiva das respostas automatizadas pode levar os consumidores a desprezar o pensamento crítico. Por consequência, cada vez mais pessoas aceitaram informações sem a devida verificação, o que, por sua vez, pode impactar negativamente suas decisões de compra.
Outro ponto interessante abordado por Renato Opice Blum é a precificação dinâmica. Trata-se do ajuste de preços em tempo real, com base na demanda, no comportamento do consumidor e em fatores de mercado. “Vocês têm percebido que as plataformas de redes sociais estão cada vez mais oferecendo espaços e integrações para compras? O mesmo acontecerá com a IA”, disse.
Alucinações de IA-Gen
Alucinações são fenômenos que ocorrem quando sistemas de IA geram informações ou respostas que não têm base na realidade ou nas informações disponíveis. Esses eventos podem ocorrer devido a diversas razões, como a qualidade e a quantidade dos dados utilizados para treinar o modelo, a complexidade do algoritmo e até mesmo a maneira como as consultas são formuladas pelos usuários.
As alucinações podem se manifestar em diferentes contextos, incluindo a geração de texto, a tradução de linguagem e a análise de imagem. Só para exemplificar, em modelos de geração de texto, uma IA pode criar afirmações factuais que nunca aconteceram ou atribuir citações incorretas a fontes. Na análise de imagem, pode ocorrer a identificação de objetos que não estão presentes ou a confusão entre categorias distintas.
Esse fenômeno, na visão de Renato Opice Blum, levanta questões importantes sobre a confiabilidade dos sistemas baseados em IA. “Profissionais e usuários devem estar conscientes de que, apesar de a tecnologia ter avançado significativamente, ela não é infalível. A validação e a verificação das informações geradas por IA tornam-se, assim, etapas cruciais para garantir a precisão e a utilidade dos dados apresentados.”
Quem é mais inteligente: a IA ou o humano?
Dando continuidade à palestra “Inovação, Tecnologia e Inteligência Artificial nas Relações de Consumo”, Renato Opice Blum pergunta se a IA é mais inteligente que os humanos. E a resposta é: “Não, a inteligência é exclusivamente humana. Contudo, a IA possui um conteúdo muito mais robusto por conta do armazenamento dos dados. E quando aplicamos a IA de forma genuína, a generativa, aí é que não sabemos o que pode ocorrer. Normalmente, a resposta é coerente, mas e quando não é? O problema é que não sabemos quando isso vai acontecer”.
Em seu parecer, a comparação entre a IA e a inteligência humana é complexa e multifacetada. Enquanto a IA pode processar informações em velocidades impressionantes e analisar grandes volumes de dados com eficiência, a inteligência humana é caracterizada por capacidades como criatividade, empatia e um senso de moralidade. Em suma, na avaliação do advogado, a IA opera por meio de algoritmos e aprendizado de máquina, permitindo que ela identifique padrões e faça previsões, mas carece da capacidade de compreender contextos sociais e emocionais da mesma forma que um ser humano.
Manu AI
Em termos de IA-Gen, um dos avanços mais recentes é o Manus AI, um agente autônomo criado pela startup chinesa Monica. Lançado no início de março, o Manus AI tem gerado grande entusiasmo e promete revolucionar a forma como interagimos com a Inteligência Artificial. A empresa ganhou destaque ao apresentar o primeiro agente de IA geral do mundo, capaz de tomar decisões e executar tarefas de forma autônoma, necessitando de muito menos comandos em comparação com chatbots como ChatGPT e DeepSeek.
Diferentemente dos assistentes de IA tradicionais, que requerem instruções passo a passo, o Manus AI possui a habilidade de planejar, executar e entregar resultados de maneira independente para diversas atividades. Essa autonomia facilita fluxos de trabalho complexos, automatizando tarefas que normalmente seriam realizadas por humanos e otimizando significativamente a tomada de decisões e a produção.
Entre seus principais diferenciais, destaca-se a habilidade de realizar tarefas complexas de forma autônoma, como redigir relatórios, analisar dados e gerar conteúdos. Um aspecto importante é que o Manus AI continua a processar as atividades na nuvem mesmo quando o usuário se desconecta, o que eleva a produtividade e a experiência do usuário. Além disso, o agente possui capacidades multimodais, sendo capaz de processar e gerar diferentes tipos de dados, incluindo texto, imagens e código. Essa versatilidade permite seu uso em áreas como desenvolvimento de software, criação de conteúdo e pesquisa.
CDC e IA
Quando o ChatGPT se tornou mais popular, no início de 2024, um mês ou dois após ganhar destaque, o órgão regulador de proteção de dados na Itália suspendeu o uso da IA no país. Por que isso aconteceu? Porque a política de privacidade, ou a política de proteção de dados, não estava adequada ao GDPR, que é a legislação europeia. Ao questionar se as ferramentas Manus AI, GPT, Gemini, Cloud, entre outras, estão em conformidade com a lei brasileira, Renato Opice Blum é enfático: “A resposta é que 95% delas nem têm presença no Brasil”.
A ausência física das plataformas no Brasil levanta questões sérias sobre a responsabilidade legal e a proteção dos dados dos usuários brasileiros. Isso suscita também demandas importantes sobre a responsabilidade das empresas de tecnologia em garantir que suas ferramentas estejam em conformidade com as legislações locais, como a Lei Geral de Proteção de Dados (LGPD) no Brasil.
“O fato de os brasileiros estarem utilizando essas ferramentas sem que haja uma adequação legal gera um ambiente de incerteza”, pontua o especialista.
Transparência e IA
Há um ano, a Assembleia Geral das Nações Unidas, por unanimidade, aprovou a primeira resolução global sobre IA para incentivar a proteção de dados pessoais e monitorar a IA quanto a riscos e salvaguardar os direitos humanos. O Brasil é signatário dessa resolução. “Essa iniciativa pode ser positiva, mas levanta a dúvida de como lidar com países sem regulamentação. A IA tem um papel central na personalização das informações que recebemos, mas os consumidores precisam estar cientes de que interagem com sistemas sem emoções, o que impacta a forma como são oferecidos produtos e serviços”, alertou Renato Opice Blum.
Nesse aspecto, a transparência, segundo ele, torna-se essencial, especialmente em relação aos critérios usados para fornecer opções ao consumidor.
Outros insights da palestra:
- O avanço da IA e da IA-Gen demanda uma reflexão sobre a responsabilidade das empresas em adotar práticas que priorizem a ética no uso da IA. A implementação de códigos de conduta e treinamentos sobre melhores práticas é uma etapa crucial. Em suma, as organizações devem não apenas cumprir a legislação vigente, mas também promover um compromisso proativo com a privacidade e a proteção dos dados dos consumidores.
- A educação dos usuários em relação ao uso da IA e seus impactos pode contribuir significativamente para uma sociedade mais informada. A promoção de campanhas de conscientização ajudará os consumidores a serem mais críticos em relação às informações que recebem e às interações que realizam com sistemas automatizados.
- Outro ponto importante é a necessidade de um diálogo constante entre os setores público e privado. Em síntese, a colaboração entre esses segmentos pode impulsionar a criação de leis e políticas que não apenas regulamentem a IA, mas também incentivem inovações que respeitem os direitos dos consumidores. Nesse ínterim, o sucesso desta jornada depende da união de esforços para construir um ecossistema onde a tecnologia opere em benefício da sociedade, promovendo a inclusão, a segurança e a confiança no ambiente digital.
Por fim, Renato Opice Blum destacou o artigo 6º mais o anexo III do Projeto de Lei nº 2.338, que trata dos sistemas de IA de alto risco. Veja o que mudará quando a matéria for sancionada:
