O governador da Califórnia, Gavin Newsom, sancionou nesta segunda-feira (13) o projeto de lei SB 243, tornando o estado o primeiro dos Estados Unidos a regulamentar o uso de chatbots de Inteligência Artificial (IA) focados em interação pessoal e emocional.
A lei, que entra em vigor em 1º de janeiro de 2026, impõe protocolos obrigatórios de segurança e responsabilização para empresas que operam esses assistentes virtuais, como OpenAI, Meta, Replika e Character AI.
A Lei SB 243
O SB 243 visa proteger crianças e usuários vulneráveis de riscos graves identificados. Isso inclui casos de automutilação, suicídio e exposições a conteúdo sexualizado. A legislação exige verificação de idade, alertas regulares para informar que o usuário está falando com um sistema de IA e lembrar sobre pausas, além de impedir bots de se apresentarem como profissionais de saúde. Em resposta a tragédias recentes, como o suicídio do adolescente Adam Raine após interações com o ChatGPT, a lei permite que indivíduos prejudicados processem empresas com multas de até 250 mil dólares por infração.
Além das medidas de proteção, a lei obriga relatórios anuais de transparência sobre incidentes de crise, enviados ao Departamento de Saúde Pública da Califórnia, ampliando a fiscalização do setor. O projeto ganhou força após denúncias de conversas impróprias com chatbots da Meta envolvendo crianças e processos judiciais contra startups como Character AI.
Governança responsável da IA
A regulamentação inaugura um novo capítulo para o mercado de IA, especialmente no segmento de chatbots de IA, que têm crescido rapidamente com avanços em modelos de IA generativa. Ao estabelecer padrões rígidos de segurança, a Califórnia busca incentivar outras localidades a adotarem normas similares, ampliando a governança responsável da IA.
Para as empresas de tecnologia, isso significa maior investimento em compliance, revisões técnicas e processos de auditorias. Mas, também maior confiança do consumidor e redução de riscos legais. A pressão regulatória, muitas vezes mal interpretada como inibidora de crescimento e negócios, pode impulsionar a inovação focada em ética e segurança. Pontos sensíveis quando se trata de uma tecnologia tão sedutora e poderosa como a Inteligência Artificial.
A importância da transparência e do uso consciente da IA, como fez a Califórnia, diz muito sobre qual futuro com IA empresas e sociedade devem almejar. Desafiador? Certamente. Contudo, startups e grandes players precisarão equilibrar conformidade com desenvolvimento para seguirem competitivas.
