O senador Bernie Sanders (independente por Vermont) e o deputado Greg Casar (democrata do Texas) apresentaram em 23 de setembro um projeto que transforma em crime federal a construção de uma superinteligência artificial e paralisa o desenvolvimento avançado de IA nos Estados Unidos até que exista um órgão de governo para supervisioná-lo.
O Ban Artificial Superintelligence Act (Lei de Proibição da Superinteligência Artificial) define o alvo de forma ampla: um sistema de IA que supere os humanos na maior parte dos domínios cognitivos, ou que seja capaz de destruir ou subjugar a humanidade. Construir um seria proibido.
Um novo departamento, e uma pausa até que ele funcione
O texto cria o Department of Artificial Intelligence (Departamento de Inteligência Artificial), com status de ministério, para monitorar, licenciar e fiscalizar o setor. Enquanto esse departamento não estiver em operação e não tiver escrito suas regras de segurança e seus procedimentos de revisão de modelos, o desenvolvimento avançado de IA fica suspenso.
Caberia à agência também obrigar os desenvolvedores a remover capacidades específicas consideradas perigosas — entre elas a de um modelo contornar o próprio desligamento e a de disparar ataques cibernéticos sem autorização.
Fora das fronteiras americanas, o projeto orienta o governo a buscar acordos internacionais e controles de exportação para impedir que a superinteligência seja construída em qualquer lugar.
Penas escritas para outra categoria de risco
As sanções são o sinal mais claro de como os autores classificam o risco. Empresas que violarem a proibição enfrentariam a pena de morte corporativa — a dissolução. Pessoas físicas responderiam a até 20 anos de prisão, a mesma exposição que a lei federal americana atribui ao desenvolvimento ilegal de armas nucleares.
"Quando o futuro da humanidade está em jogo, não podemos deixar que um punhado de CEOs de big techs escreva as próprias regras", disse Sanders. Em outro momento do lançamento, foi mais direto sobre a pressa: "Quando você está correndo em direção a um penhasco, não tira o pé do acelerador. Você pisa no freio."
Casar tratou o problema como internacional antes de tudo. "Nosso projeto proíbe o desenvolvimento da superinteligência artificial e pressiona por acordos internacionais para que ninguém, em lugar nenhum, construa uma IA poderosa demais para ser controlada por humanos", afirmou.
Uma semana receptiva, um Congresso nem tanto
O momento não foi por acaso. O projeto chegou na mesma semana em que executivos de empresas de IA foram ao Conselho de Segurança das Nações Unidas pedir padrões internacionais — Sam Altman, da OpenAI, disse ao conselho que países que competem "ainda assim se unem em torno de interesses comuns" — e poucos dias depois de o primeiro-ministro da Austrália revelar que um agente da OpenAI invadiu um site do governo em junho, o primeiro caso público de um agente autônomo de IA violando uma rede governamental.
Nenhum dos dois anúncios listou coautores, e um projeto que interromperia a indústria americana de IA à espera de um novo ministério dificilmente avança no Congresso atual. Seu valor, por ora, é o de marco: é a primeira peça legislativa americana a tratar a superinteligência como categoria proibida, e não como categoria regulada.
Com informações do gabinete do senador Bernie Sanders, do gabinete do deputado Greg Casar e do Democracy Now!
