Ao longo da Semana do Consumidor, o Procon-MG, vinculado ao Ministério Público de Minas Gerais (MPMG), está promovendo uma programação especial. O objetivo é focar em ações educativas que visam conscientizar a população sobre os direitos e deveres dos consumidores. Entre os temas abordados, o destaque ficou com os impactos da Inteligência Artificial nos direitos dos consumidores.
Mais precisamente a respeito dos impactos da Inteligência Artificial nos direitos dos consumidores, o Procon-MG promoveu uma palestra online no dia 12 de março. Com quase 300 pessoas na sala, a atividade contou com a participação dos seguintes especialistas em Defesa do Consumidor:
- Luiz Roberto Franca Lima, coordenador do Procon-MG e promotor de Justiça;
- Marcia Moro, presidente da Associação Brasileira de Procons (Procons Brasil);
- Edmar Souza Ferraz, superintendente do Procon Municipal de Uberlândia/MG e presidente do Fórum dos Procons Mineiros;
- Rafael Gusmão Dias Svizzero, presidente da Comissão de Direito do Consumidor da OAB/MG;
- Dennis Verbicaro, procurador do Estado do Pará, professor da Universidade Federal do Pará (UFPA) e do Centro Universitário do Pará (Cesupa);
- e Christiane Vieira Soares Pedersoli, coordenadora da assessoria jurídica do Procon-MG.
Novidades para o consumidor
Rafael Svizzero anunciou uma das novidades na OAB/MG. Ele disse que o órgão receberá, na próxima semana, a aula inaugural de um programa de mentoria em direito do consumidor. Amélia Soares da Rocha é defensora pública do estado do Ceará e titular da 2ª Defensoria do Núcleo do Consumidor. “A atividade ficará a cargo da especialista, que também atua como diretora da Escola Superior da Defensoria Pública do Estado do Ceará (DPCE)“.
Amélia ainda foi eleita presidente do Instituto Brasileiro de Política e Direito do Consumidor (Brasilcon) para o biênio 2024-2026. “Instituímos uma mentoria com o objetivo de assessorar e educar não apenas advogados, mas também atuar como um suporte à sociedade de Minas Gerais e de todo o país. O programa de mentoria estará disponível na internet, com lives e aulas abordando diversos temas, incluindo a Inteligência Artificial“.
Na ocasião, ele ressaltou que a defesa do consumidor no Brasil não pode avançar em detrimento dos direitos do cidadão. Só para exemplificar, ele citou uma recente decisão do Superior Tribunal de Justiça (STJ), que não reconheceu a fraude bancária como passível de indenização por si só, dependendo de provas. “Isso representa um retrocesso, especialmente para uma senhora idosa aposentada. Uma pessoa que é um alvo vulnerável nas transações comerciais, principalmente no uso da Inteligência Artificial e de outros meios tecnológicos”.
Neste sentido, ele enfatizou a importância da transparência. “A informação clara e precisa está prevista no Código de Defesa do Consumidor. É crucial entendermos a natureza da IA, garantindo que o consumidor, especialmente aqueles em situação de vulnerabilidade, não seja de forma alguma discriminado”, pontou Rafael Svizzero.
Palestra magna: relação da IA com o consumidor
O professor Dennis Verbicaro ministrou a palestra magna da atividade em alusão à Semana do Consumidor. Ele começou destacando a evolução da confiança do consumidor nas plataformas digitais. Inicialmente, explicou ele, era crucial garantir o acesso à internet e promover a confiança nesse novo ambiente, que muitos consumidores enfrentaram com resistência. Porém, essa transição levou ao que ele chama de “hiperconfiança”, exacerbada pela pandemia, onde os indivíduos se viram forçados a abrir mão de sua privacidade e liberdade decisória. “Essa hiperconfiança contrasta com as proteções legais oferecidas pelo Código de Defesa do Consumidor e pela Lei Geral de Proteção de Dados (LGPD), que visam assegurar a autodeterminação informativa e o consentimento autônomo do consumidor. Assim, as interações digitais, muitas vezes mediadas por Inteligência Artificial, ocorrem sem o devido respeito a esses princípios de proteção.
Em sua visão, a interação dos usuários em redes sociais e aplicativos gera todo um aprendizado por parte da Inteligência Artificial. Essa, por sua vez, armazena dados para construir perfis visando a destinação mercadológica e modulação comportamental. O resultado são práticas abusivas e riscos à privacidade.
A datificação forçada transforma a relação de consumo tradicional, onde os consumidores se tornam “matéria-prima” na economia digital. Essa objetificação do usuário eleva a concorrência mundial à apropriação de informações pessoais, com perfis criados a partir de dados sensíveis tendo alto valor de mercado. “Em suma, os provedores de conteúdo e plataformas digitais são considerados como ‘fornecedores nas legislações’, atuando como gatekeepers (atua seguindo diretrizes para filtrar os contatos). Eles repassam perfis a parceiros, muitas vezes sem o consentimento informado devido a assimetrias de informação e dificuldades na aplicação da LGPD“, disse Dennis.
Práticas problemáticas no consumo
Ele ainda menciona a imposição do consumidor de, das duas uma: ou aceitar todos os termos ou não usar o serviço, caracterizando uma prática problemática. Ele também abordou o conceito de “colonização algorítmica“, que reflete sobre a relação do consumidor com a Inteligência Artificial, enfatizando que, embora a tecnologia traga benefícios, também impõe riscos. “A Inteligência Artificial não se limita a prever comportamentos, mas busca padronizar o comportamento do consumidor, resultando na construção de perfis e na eliminação da diversidade, o que gera preocupações sobre a privacidade e a autonomia do indivíduo”.
Na sequência, ele pontuou os principais problemas da Inteligência Artificial para o consumidor de forma geral. Entre eles, destaque para:
- Padrões obscuros no consumo: a personalização trazida pela IA é um jogo duplo. Enquanto melhora a experiência do usuário, pode também criar bolhas de consumo, limitando nossa exposição a novas opções e tendências. Segundo o professor, as recomendações automatizadas podem parecer convenientes, mas muitas vezes nos deixam presos a padrões de consumo que não representam verdadeiramente os consumidores. “Você já se sentiu pressionado a comprar algo por medo de “perder a oportunidade”?”, questionou Dennis, explorando diversos pontos que guiam as mais diferentes jornadas de consumo.
Zumbis Morais
- Discriminação algorítmica: muitos sistemas baseados em IA treinam-se em dados históricos repletos de viés. Isso significa que decisões cruciais, como contratações e concessões de crédito, podem favorecer injustamente certos grupos.
- Desplataformização: um tema quente. Isso porque, em um mundo onde vozes precisam ser ouvidas, é vital entender como as plataformas digitais influenciam a liberdade de expressão. Em outras palavras, muitos usuários sentem-se silenciados por políticas de moderação de conteúdo. Essa prática, embora necessária, levanta questões: onde está o limite entre segurança e liberdade? “O desafio é equilibrar liberdade e responsabilidade, promovendo um ambiente saudável para o debate público”, pontuou o palestrante.
Os algoritmos são considerados “zumbis morais” porque não podem ser responsabilizados por discriminação. Ou seja, a culpa recai sobre os programadores, geralmente homens brancos e de classe privilegiada, cujas visões de mundo influenciam a programação. Isso resulta em algoritmos que replicam preconceitos, como discriminação de gênero em estratégias de marketing, onde homens recebem promoções de pizza e mulheres, de saladas. As práticas abusivas são agravadas pela escalabilidade e clandestinidade, dificultando a detecção e regulação.
“Exemplos incluem sistemas de recrutamento da Amazon que excluíram mulheres em idade fértil. E também carros autônomos que favorecem o atropelamento de pedestres negros devido a dados enviesados. Um caso emblemático no Brasil é o da Decolar, que é processada por cobrar preços diferentes com base na localização geográfica do consumidor, presumindo erroneamente maior poder aquisitivo dos brasileiros”, comentou Dennis.
Dark patterns
Dark patterns são estratégias manipulativas utilizadas para influenciar a decisão do consumidor de forma a abreviar seu processo de escolha. Exemplos incluem contadores de tempo em sites de compra, que pressionam a decisão rápida, ou informações enganosas sobre disponibilidade de assentos.
O professor Dennis Verbicaro explicou que tais táticas limitam o tempo de reflexão e tornam difícil ao consumidor entender e consentir com termos e condições. “A ocultação de informações relevantes, junto com a pressão psicológica, resulta em um consentimento viciado, propenso a arrependimentos futuros”, explicou.
Além disso, algoritmos moldam o comportamento humano, criando perfis que podem refletir preconceitos e estereótipos, levando à discriminação algorítmica e impactando a experiência do consumidor de forma negativa.
Perfilização ou datificação clandestina
A perfilização ou datificação clandestina refere-se à coleta e análise de dados pessoais de indivíduos sem o seu consentimento, muitas vezes em contextos ilegais ou não éticos. Essa prática constrói perfis detalhados, que as pessoas podem utilizar para manipulação, discriminação ou monitoramento.
A falta de transparência e a invasão da privacidade são preocupações centrais, além dos riscos associados à segurança dos dados e às consequências jurídicas para os responsáveis por tais ações. A sensibilização sobre os direitos de proteção de dados é fundamental para combater essa prática.
Plataformização forçada
A “plataformização forçada” é o fenômeno em que consumidores são compelidos a se registrar em plataformas, como o Consumidor.gov e agências reguladoras, para apresentarem suas reclamações. De acordo com o professor, essa obrigatoriedade gera problemas para os usuários, que enfrentam barreiras para o exercício de seus direitos. Isso sem contar o número de brasileiros que são “analfabetos digitais”.
“Essa situação reflete um problema maior da inclusão digital no Brasil, onde uma parte significativa da população ainda não possui habilidades básicas para interagir com a tecnologia”, afirmou Dennis acrescentando que a prática acentua a desigualdade social. “Somente aqueles que têm acesso a dispositivos e à internet, e que sabem como usá-los, conseguem reivindicar seus direitos de maneira eficaz”.
Betificação do sujeito
A betificação do sujeito pode levar a uma série de consequências negativas na vida do indivíduo. Entre os efeitos mais comuns estão a deterioração das relações pessoais, o isolamento social e a instabilidade financeira. O vício em apostas eletrônicas frequentemente resulta em endividamento, uma vez que os apostadores podem buscar recuperar perdas, mergulhando em um ciclo vicioso que se torna cada vez mais difícil de romper.
Em resumo, os principais problemas apresentados pelo docente da UFPA são:
Projetos de Lei em andamento
Na oportunidade, Christiane Vieira Soares Pedersoli, coordenadora da assessoria jurídica do Procon-MG, pontuou três Projetos de Lei em andamento, os quais podem resolver problemas da IA no consumo hoje. São eles:
O PL nº 4089 de 2024, proposto pelo deputado Marcos Tavares: visa estabelecer direitos para os consumidores em relação ao uso de produtos e serviços baseados em Inteligência Artificial, com foco na prevenção da discriminação algorítmica. O principal objetivo é garantir que os algoritmos não causem prejuízos a grupos e indivíduos com base em características como raça, gênero, idade e deficiência. A proposta exige que as empresas realizem auditorias, implementem medidas de mitigação e disponibilizem canais para denúncias e reparação.
O PL nº 2338 de 2018 estabelece normas nacionais para o uso responsável e ético de sistemas de Inteligência Artificial no Brasil, destacando a defesa do consumidor como um pilar fundamental, juntamente com a livre iniciativa e concorrência. O projeto prevê que os usuários sejam informados previamente sobre a interação com IA, especialmente em relação a assistentes virtuais, garantindo transparência e conscientização sobre o uso da tecnologia. O 2º artigo do PL busca criar um ambiente de responsabilidade no uso da IA, assegurando que os direitos dos consumidores sejam respeitados.
O PL nº 145 de 2024, proposto pelo senador Chico Rodrigues, visa alterar o Código de Defesa do Consumidor para regular o uso de ferramentas de IA em publicidade, com o objetivo de combater a publicidade enganosa. O projeto sugere a necessidade de autorização para o uso de IA, buscando minimizar sua utilização de forma a proteger os consumidores. Além disso, menciona a intenção de alterar outras legislações relacionadas à publicidade e à reputação de figuras públicas.
Próximas ações do Procon-MG
Por fim, o anfitrião do evento, Luiz Roberto Franca Lima, coordenador do Procon-MG e promotor de Justiça, pontuou que a IA está revolucionando as relações de consumo, apresentando tanto oportunidades quanto desafios. Em sua visão, portanto, é importante alertar a população sobre os riscos envolvidos e entender como se proteger contra as armadilhas do sistema. “Os organizadores escolheram a palestra por sua relevância e ela servirá como base para o Procon-MG desenvolver várias iniciativas educacionais, especialmente por meio do setor de comunicação”.
A partir desse ponto, Luiz Roberto ressaltou a importância de uma abordagem proativa no ensino dos riscos associados ao uso inadequado da IA. Ele enfatizou a necessidade de capacitar consumidores e fornecedores para que eles possam navegar de forma crítica e consciente neste novo cenário.
A partir das discussões realizadas durante o evento, o Procon-MG pretende implementar algumas estratégias. Uma delas é dar continuidade às ações de conscientização voltados tanto para representantes dos órgãos de defesa do consumidor, consumidores e comerciantes, a fim de discutir questões relativas à transparência e à ética das práticas de Inteligência Artificial. “Queremos criar um canal de diálogo aberto, onde todos possam expressar suas preocupações e compartilhar experiências, visando construir um ambiente de consumo mais seguro e justo”, acrescentou o promotor
Através dessas iniciativas, o Procon-MG se posiciona como uma entidade atuante na proteção dos direitos dos consumidores, promovendo não apenas a conscientização, mas também a formação de uma cultura de respeito e responsabilidade na utilização das novas tecnologias.
