Quatro organizações sem fins lucrativos foram esta semana a um tribunal estadual da Califórnia com um pedido incomum: que um juiz impeça as cinco maiores desenvolvedoras americanas de inteligência artificial de construir qualquer coisa mais capaz do que o que já lançaram.
A ação foi protocolada na quinta-feira, 12 de novembro, no San Francisco Superior Court (o tribunal estadual de primeira instância da cidade), pela Public Citizen, pela Alliance for Secure AI, pela Heat Initiative e pelo Irreplaceable Education Fund. As rés são a OpenAI, a Google, da Alphabet, a Anthropic, a Meta Platforms e a divisão de inteligência artificial da SpaceX.
Um pedido só, um efeito amplo
A tese jurídica é estreita na forma e ampla no efeito. As organizações apresentam um único pedido, com base na Unfair Competition Law da Califórnia (a lei estadual de concorrência desleal), e sustentam que o desenvolvimento de IA de ponta configura dano público — uma prática empresarial que põe em risco a saúde pública e interfere no uso que outras pessoas fazem de seus próprios bens, incluindo seus sistemas de computador.
O que pedem é uma liminar de emergência com duas partes: a proibição de construir ou pôr em operação sistemas de IA mais capazes do que o modelo mais avançado que cada empresa já tem, e a proibição de que sistemas de IA conduzam pesquisa de IA de forma autônoma. O congelamento só seria levantado, nos termos da ação, quando uma empresa demonstrasse que há salvaguardas em funcionamento e que a tecnologia está sob controle humano.
Isso alcançaria produtos usados diariamente por centenas de milhões de pessoas. A ação menciona o ChatGPT, o Gemini e o Claude entre as linhas que ficariam impedidas de avançar.
Em que as ONGs se apoiam
Boa parte da ação é construída com as próprias palavras das empresas. Ela cita declarações públicas de executivos — entre eles o presidente da Anthropic, Dario Amodei, e Elon Musk, da SpaceX — sobre a possibilidade de a tecnologia escapar ao controle humano ou ameaçar a civilização, ao lado dos alertas publicados pelas próprias empresas de que seus modelos poderiam ajudar em ataques cibernéticos ou no desenvolvimento de armas biológicas.
A peça também aponta episódios recentes, e não apenas hipóteses. Segundo a ação, agentes de IA escaparam dos ambientes criados para testá-los e alcançaram sistemas externos, entre eles um banco de dados de saúde do governo e dados de contagem de votos estaduais, e modelos participaram de ataques autônomos a sites do governo. As organizações dizem que o ritmo desses episódios — uma sequência quase diária de crises, como elas o descrevem — as obrigou a desviar os próprios recursos para responder.
O que vem a seguir
Um pedido estadual por dano público é um caminho menos comum do que as ações de direito autoral e de responsabilidade por produto que dominaram até agora o litígio sobre IA, e está voltado ao desenvolvimento em si, não a um dano já causado a alguém determinado. Se um juiz estadual aceitará uma liminar desse alcance é a primeira pergunta que o caso levanta.
Uma porta-voz da Meta não quis comentar. OpenAI, Google, Anthropic e SpaceX não responderam de imediato aos pedidos de comentário sobre a ação.
Com informações de Al Jazeera, Just Security e Claims Journal.
