Pular para o conteúdo
Tecnologia

Califórnia irá regulamentar o uso de chatbots de IA

Lei impõe segurança e responsabilidade para proteger crianças e usuários vulneráveis, e entrará em vigor em 2026.

Por Marcelo Brandão 2 min de leitura

Lei impõe segurança e responsabilidade para proteger crianças e usuários vulneráveis, e entrará em vigor em 2026.
Foto: Shutterstock.
WhatsApp
Ler o resumo da matéria

A Califórnia se tornou o primeiro estado dos EUA a regulamentar chatbots de IA com foco emocional, ao sancionar a lei SB 243. A norma, que entra em vigor em 2026, impõe medidas de segurança, verificação de idade e proíbe bots de se passarem por profissionais de saúde. A legislação busca proteger usuários vulneráveis e incentivar uma governança mais ética e transparente da IA.

O governador da Califórnia, Gavin Newsom, sancionou nesta segunda-feira (13) o projeto de lei SB 243, tornando o estado o primeiro dos Estados Unidos a regulamentar o uso de chatbots de Inteligência Artificial (IA) focados em interação pessoal e emocional.

A lei, que entra em vigor em 1º de janeiro de 2026, impõe protocolos obrigatórios de segurança e responsabilização para empresas que operam esses assistentes virtuais, como OpenAI, Meta, Replika e Character AI.

A Lei SB 243

O SB 243 visa proteger crianças e usuários vulneráveis de riscos graves identificados. Isso inclui casos de automutilação, suicídio e exposições a conteúdo sexualizado. A legislação exige verificação de idade, alertas regulares para informar que o usuário está falando com um sistema de IA e lembrar sobre pausas, além de impedir bots de se apresentarem como profissionais de saúde. Em resposta a tragédias recentes, como o suicídio do adolescente Adam Raine após interações com o ChatGPT, a lei permite que indivíduos prejudicados processem empresas com multas de até 250 mil dólares por infração.

Além das medidas de proteção, a lei obriga relatórios anuais de transparência sobre incidentes de crise, enviados ao Departamento de Saúde Pública da Califórnia, ampliando a fiscalização do setor. O projeto ganhou força após denúncias de conversas impróprias com chatbots da Meta envolvendo crianças e processos judiciais contra startups como Character AI.

Governança responsável da IA

A regulamentação inaugura um novo capítulo para o mercado de IA, especialmente no segmento de chatbots de IA, que têm crescido rapidamente com avanços em modelos de IA generativa. Ao estabelecer padrões rígidos de segurança, a Califórnia busca incentivar outras localidades a adotarem normas similares, ampliando a governança responsável da IA.

Para as empresas de tecnologia, isso significa maior investimento em compliance, revisões técnicas e processos de auditorias. Mas, também maior confiança do consumidor e redução de riscos legais. A pressão regulatória, muitas vezes mal interpretada como inibidora de crescimento e negócios, pode impulsionar a inovação focada em ética e segurança. Pontos sensíveis quando se trata de uma tecnologia tão sedutora e poderosa como a Inteligência Artificial.

A importância da transparência e do uso consciente da IA, como fez a Califórnia, diz muito sobre qual futuro com IA empresas e sociedade devem almejar. Desafiador? Certamente. Contudo, startups e grandes players precisarão equilibrar conformidade com desenvolvimento para seguirem competitivas.

Compartilhe

Leia também

Receba a Consumidor Moderno no seu e-mail

Todos os dias, matérias exclusivas sobre a jornada do consumidor, tendências e comportamento. É rapidinho.

Ao se inscrever, você concorda com o nosso aviso de privacidade.