A Anthropic pediu à Califórnia que dê aos tribunais do estado o poder de suspender um modelo de inteligência artificial, em carta ao governador Gavin Newsom revelada na terça-feira pelo site POLITICO.
Pela proposta da empresa, se o attorney general (o procurador-geral do estado) identificar "risco de curto prazo de dano catastrófico", ele poderá pedir a um juiz que determine a parada do modelo — seja na oferta ao público, seja no uso interno da própria empresa, seja no desenvolvimento.
É mais do que qualquer uma das grandes desenvolvedoras defendeu publicamente até agora, e mais do que a OpenAI, que respondeu ao mesmo decreto uma semana antes e propôs obrigações de monitoramento em vez de um veto estatal.
O que Newsom pediu
As cartas respondem ao decreto que Newsom assinou em 18 de setembro de 2026, que manda a Government Operations Agency (a agência de operações do governo estadual) acelerar a aplicação de duas leis de IA, a SB 813 e a AB 1405, e encarrega especialistas de fora de propor mudanças na legislação do estado.
O texto esboça três ideias que as empresas foram chamadas a comentar: uma organização independente de verificação trabalhando dentro dos laboratórios de IA de fronteira, auditando políticas de segurança e relatórios de risco; um "kill switch" — botão de desligamento — para modelos de fronteira, cuja eficácia essa mesma organização checaria com regularidade; e uma definição mais ampla de incidente crítico de segurança, que passe a incluir casos de perda de controle.
Em 23 de setembro o governo estadual anunciou os quatro especialistas encarregados das recomendações: Jason Goldman, do Center for Shared AI Prosperity e ex-chefe digital da Casa Branca; Gillian Hadfield, da Universidade Johns Hopkins; Alondra Nelson, do Institute for Advanced Study e ex-diretora interina do escritório de ciência e tecnologia da Casa Branca; e Rob Reich, da Universidade Stanford.
Os limites de um botão
A Anthropic disse ao governador que toda empresa de IA de fronteira deveria ser capaz de desligar rapidamente os modelos que oferece a clientes ou usa internamente. Mas alertou que uma lei construída só em torno do desligamento "poderia dar uma falsa sensação de segurança", e que tirar um modelo do ar "só faz sentido em situações extremas".
A parte mais pesada da proposta são os auditores. A Anthropic quer avaliadores externos trabalhando dentro das empresas de fronteira, com acesso equivalente ao da própria equipe interna de avaliação de risco — excetuados alguns dados sensíveis de clientes — e autorizados a levar ao procurador-geral os riscos que encontrarem. As grandes desenvolvedoras publicariam relatórios de risco a cada seis meses, no mínimo.
Para manter esses auditores independentes de quem eles fiscalizam, a Anthropic propõe que os laboratórios paguem a um fundo administrado pelo estado, em vez de pagar diretamente aos avaliadores. O estado classificaria os auditores e poderia exigir o uso de pelo menos um avaliador bem avaliado, ou distribuí-los por sorteio ou rotação.
Onde a OpenAI para
A carta da OpenAI, datada de 20 de outubro e assinada por Chan Park, chefe de política e parcerias da empresa para Estados Unidos e Canadá, prefere falar em "controles de desligamento" em vez de "kill switch", sob o argumento de que parar um sistema de IA pode exigir vários controles coordenados, e não uma alavanca só.
A empresa pede que o Legislativo altere a SB 53 para exigir controles de desligamento eficazes e o dever de usá-los quando as condições forem inseguras e nenhuma intervenção menor resolver, com a responsabilidade distribuída ao longo da cadeia: "As responsabilidades devem se estender a provedores de inferência, implementadores finais e usuários", diz a carta, na proporção do que cada um controla.
Na fiscalização, a OpenAI propõe auditorias anuais e independentes de conformidade, espelhadas em uma lei de Illinois, a SB 315, além de revisões de "safety cases" por avaliadores qualificados com acesso delimitado e seguro — desenho mais estreito que os avaliadores residentes defendidos pela Anthropic. Argumenta que "padrões comuns para IA de fronteira e métodos padronizados de avaliação ainda não existem", e que o pagamento feito por um laboratório não cria, por si só, conflito de interesse, desde que haja regras sobre isso.
A empresa também traça um limite sobre quem decide: o estado, e não avaliadores terceirizados, deve fixar padrões e julgar quais riscos o público tem de aceitar. E diz preferir "um arcabouço federal de avaliação independente", pedindo que a Califórnia se alinhe aos padrões federais conforme eles apareçam.
As duas empresas apoiam a ampliação da notificação de incidentes prevista no decreto. A OpenAI estenderia a definição de incidente crítico de segurança da SB 53 a casos de perda de controle que causem dano econômico mensurável ou atrapalhem sistemas de terceiros, inclusive durante o desenvolvimento e a avaliação.
Nada disso é lei ainda. As recomendações vão ao governador, e o Legislativo da Califórnia deve retomar o tema da regulação de IA quando voltar do recesso, em cerca de um mês.
Com informações do POLITICO, publicadas pelo Yahoo News, da carta da OpenAI ao governador e do gabinete do governador Gavin Newsom.
