Algoritmos e Inteligência Artificial (IA) já não são apenas ferramentas de recomendação. E, sim, soluções que moldam o que consumimos e julgamos ser relevante. Mas, até que ponto essa influência ultrapassa a linha da persuasão para se tornar manipulação?
Em entrevista à Consumidor Moderno, Ronaldo Lemos, advogado, pesquisador e cientista-chefe do Instituto de Tecnologia e Sociedade (ITS Rio), analisa os limites jurídicos e éticos do uso de algoritmos e da IA no consumo, assim como os desafios para garantir transparência em um cenário cada vez mais automatizado.
Ele explica desde a dificuldade do consumidor em compreender como suas escolhas são moldadas pelos sistemas de recomendação, passando pela necessidade de regulação que proteja a autonomia individual, até a responsabilidade das empresas quando a IA induz decisões prejudiciais. Trata-se de um olhar crítico sobre como a tecnologia redefine a relação entre marcas e consumidores e coloca à prova conceitos fundamentais de ética, proteção e liberdade de escolha. Confira!
Vulnerabilidades cognitivas
Consumidor Moderno: Do ponto de vista jurídico e ético, até que ponto o uso de algoritmos para influenciar decisões de consumo pode ser considerado manipulação?
Ronaldo Lemos: O uso de algoritmos para influenciar decisões de consumo vira manipulação quando ultrapassa o limite da transparência e da autonomia do consumidor. Juridicamente, práticas que exploram vulnerabilidades cognitivas ou emocionais já são vedadas pelo Código de Defesa do Consumidor e pela Lei Geral de Proteção de Dados (LGPD). Esse é o mesmo fundamento para vetar a propaganda enganosa.
Eticamente, a linha divisória está na capacidade de escolha, feita de forma livre e consciente. Se o algoritmo afeta esse julgamento do consumidor de forma objetiva, isso começa a se tornar uma questão jurídica também.
CM: A transparência algorítmica é uma utopia ou uma necessidade urgente?
Hoje, o consumidor praticamente não dispõe de ferramentas efetivas para compreender como suas escolhas são moldadas pelos sistemas de recomendação. Não há normas que tornem esses sistemas auditáveis, por exemplo. Inclusive é cada vez mais difícil saber se um determinado ranking de recomendações é neutro ou se é produto patrocinado.
Por exemplo, nos buscadores, está ficando cada vez mais difícil entender o que é um resultado “orgânico” de um resultado patrocinado, que pagou para estar no topo da pesquisa. Com a IA, isso vai ficar ainda mais difícil. Muita gente pede dicas de produtos para a IA. Mas, qual o critério que será usado para fazer a recomendação? Uma análise orgânica e objetiva? Ou em algum momento será possível fazer um “placement” de produto na IA também? Essa questão tende a ficar cada vez mais complexa.
IA para empoderar o consumidor
CM: Que tipo de regulação, no Brasil ou no mundo, poderia garantir que a IA seja usada para empoderar e não para condicionar o consumidor?
Há vários caminhos regulatórios. O Digital Services Act na Europa, por exemplo, exige auditorias periódicas, explicações sobre o funcionamento dos algoritmos e obrigações explícitas quanto à proteção do consumidor. No Brasil, a norma central permanece sendo o Código de Defesa do Consumidor.
Já a LGPD, ela é muito importante, mas não trata diretamente de Inteligência Artificial. Ainda que garanta direitos em alguns casos de explicabilidade, e estabeleça alguns direitos importantes relacionados à não-discriminação e algum grau de controle humano sobre decisões automatizadas.
CM: Os algoritmos reproduzem (e às vezes amplificam) vieses humanos. O que as empresas precisam fazer para evitar que isso afete negativamente o consumo e a sociedade?
Para mitigar vieses, o caminho é sempre testar e supervisionar o produto de forma permanente. Realizar auditorias regulares e empregar ferramentas técnicas capazes de detectar e corrigir distorções. É um desafio parecido com a cibersegurança. Um sistema só é realmente seguro quando ele é submetido com frequência a testes de stress para verificar suas vulnerabilidades e limites. Vale também dizer que um sistema bem calibrado pode funcionar como um redutor de vieses que muitas vezes a análise humana também apresenta.
Responsabilidade da IA
CM: Em última instância, quem deve ser responsável pela IA quando a tecnologia induz uma decisão prejudicial ao consumidor: a empresa, o programador, o sistema?
Atualmente, há diferentes regimes internacionais para definir a responsabilidade por danos causados por IA. A União Europeia, por exemplo, estabeleceu regimes mais severos, especialmente para sistemas considerados de alto risco, conforme o AI Act e a Product Liability Directive. Nos Estados Unidos, ainda prevalecem regimes setoriais, baseados em leis estaduais ou específicas sobre produto, privacidade ou discriminação.
No Brasil, a questão ainda não foi plenamente decidida. Vigora atualmente o regime do Código de Defesa do Consumidor, que já prevê responsabilidade objetiva das empresas, independentemente de culpa, quando houver dano ao consumidor. Mas, o Projeto de Lei 2338/2023, que regula o uso de IA no País, não definiu ainda de forma final o regime de responsabilidade aplicável. Mantendo, assim, aberto o debate sobre se adotará responsabilidade objetiva integral, ou um modelo híbrido, dependendo do nível de risco associado ao sistema.
O papel dos desenvolvedores ou programadores permanece ainda incerto. Mas, como regra geral, é condicionado à comprovação de negligência ou falha evidente no desenvolvimento do sistema.
