Oito procuradores-gerais estaduais americanos processaram a OpenAI na quarta-feira, cada um na Justiça do próprio estado, sustentando que a empresa vendeu o ChatGPT como um produto seguro sabendo do que ele era capaz de dizer a quem o usava.
Os estados são Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virgínia Ocidental. Todas as ações se apoiam em lei estadual de defesa do consumidor — o mesmo corpo de regras que os estados usam contra publicidade enganosa — e não em alguma norma escrita para inteligência artificial, o que é uma medida de quão pouca dessa legislação existe.
A acusação é sobre o que a OpenAI disse, não só sobre o que o produto fez
A alegação comum é de engano: que a OpenAI disse aos usuários, e aos pais deles, que o ChatGPT era seguro, e que o próprio conhecimento da empresa sobre os riscos não correspondia à promessa.
Debaixo disso há um argumento de projeto. As petições descrevem um chatbot construído para ser agradável e envolvente a fim de reter a atenção de quem conversa com ele, e sustentam que essa mesma qualidade o torna perigoso quando o usuário é adolescente, está em crise ou planeja fazer mal a alguém. Os estados afirmam que o produto reforçou delírios de usuários, não cercou de salvaguardas adequadas as conversas sobre suicídio e automutilação e, em alguns casos, forneceu informação a pessoas que depois cometeram atos violentos.
A procuradora-geral de Iowa, Brenna Bird, disse que a empresa está "machucando crianças e mentindo para os cidadãos de Iowa". JB McCuskey, da Virgínia Ocidental, concentrou a ação na ausência de barreiras em conversas sobre suicídio e ataques a escolas: "Precisamos fazer tudo o que pudermos para proteger as crianças." Mike Hilgers, de Nebraska, foi mais contido: para ele, o caso "simplesmente submete a OpenAI ao mesmo padrão da lei de Nebraska que vale para qualquer outra empresa".
O que pedem ao juiz
Duas coisas, e a segunda é a incomum.
A primeira é uma ordem que force mudanças substanciais no funcionamento do ChatGPT — o formato habitual de uma reparação em defesa do consumidor.
A segunda pede que a Justiça proíba a OpenAI de desenvolver modelos de IA que se aprimoram sozinhos até que a empresa consiga demonstrar que eles estão alinhados a valores humanos. É um pedido para que um juiz estadual imponha uma condição à pesquisa de modelos de fronteira, e não tem precedente claro. Se alguma corte vai concedê-lo é uma questão separada da sobrevivência das acusações de engano, e as duas provavelmente andarão em ritmos diferentes.
A resposta da OpenAI
O porta-voz Drew Pusateri disse que a empresa "construiu no nosso produto proteções por faixa etária líderes do setor, que muitos outros produtos de IA não têm", citando controles parentais, lembretes de pausa e comportamento do modelo ajustado à idade. Reconheceu que nenhum sistema é perfeito e afirmou que novas salvaguardas virão. Disse ainda que a OpenAI quer trabalhar com os estados em regras que valham para todo o setor, e não para uma empresa só — um argumento de que estas oito ações estaduais separadas, em oito tribunais separados, são exatamente o instrumento errado.
Os oito não são os primeiros
A Flórida processou a empresa em junho e não está no grupo desta semana. A Colúmbia Britânica entrou com ação contra a OpenAI em um tribunal da Califórnia em setembro. No começo de setembro, vítimas e familiares protocolaram 30 processos no Distrito Norte da Califórnia. Na terça-feira, uma mãe apresentou um pedido de ação coletiva na Justiça federal de São Francisco, sustentando que a OpenAI lucra ilegalmente com dados que menores de idade compartilham com o ChatGPT, já que pela lei da Califórnia menores não podem consentir com esse uso.
O padrão que vale acompanhar é a mudança de quem processa. Um autor privado precisa provar o dano sofrido por uma pessoa determinada. Um procurador-geral, não: uma ação de defesa do consumidor gira em torno de o público ter sido ou não enganado, o que é um critério mais baixo e mais amplo. Oito deles entrando na mesma semana colocam a OpenAI diante de oito juízes diferentes sobre essencialmente a mesma pergunta.
Com informações de Al Jazeera, Just Security e The Hill.
