Riscos jurídicos aumentam para Sam Altman após dezenas de invasões de agentes da OpenAI

São Francisco (Estados Unidos)

|Financial Times
Uma crise jurídica cada vez mais grave ameaça engolir a OpenAI depois que seus agentes de IA (inteligência artificial) invadiram dezenas de empresas e governos em todo o mundo, e a perspectiva de uma enxurrada de processos representa o mais recente teste à liderança de Sam Altman.

Funcionários da OpenAI, assim como figuras de alto escalão das áreas jurídica, tecnológica e de políticas públicas, disseram ao Financial Times que a empresa ficou exposta a indenizações e medidas governamentais após a revelação, em vários países, de violações de cibersegurança envolvendo seus agentes de IA.

Na última semana, novas ações judiciais e investigações regulatórias foram abertas contra a OpenAI quase diariamente, da Califórnia à Austrália, e outras devem se seguir à medida que detalhes de novos incidentes venham à tona.

Como criadora do aplicativo de sucesso ChatGPT, a OpenAI e seu presidente, Altman, tornaram-se símbolos do boom da IA que varre o Vale do Silício e Wall Street.

Mas as novas dúvidas sobre a responsabilidade jurídica por esses episódios de invasão representam a mais recente de uma sucessão de crises enfrentadas por Altman desde o lançamento do chatbot, em 2022, entre elas revoltas de funcionários, imbróglios jurídicos com acionistas — incluindo Elon Musk —, disputas sobre direitos autorais e confrontos políticos.

Altman tenta rebater acusações de que estaria deixando de lado preocupações com segurança e reduzindo a prioridade do treinamento de “alinhamento” —que garante que os modelos não tomem medidas prejudiciais aos seres humanos— para recuperar terreno diante da rival Anthropic.

No sábado (3), David Robinson, líder da área de segurança da OpenAI, anunciou sua saída da empresa em um ensaio publicado na revista The Atlantic, citando preocupações com a abordagem de “tentativa e erro” adotada no desenvolvimento de modelos.

Após o dramático ataque ao site de IA Hugging Face por centenas de agentes da OpenAI, Altman reconheceu os riscos trazidos pelos avanços da IA e se juntou aos apelos de Dario Amodei, presidente da Anthropic, para “moderar o avanço da fronteira” do desenvolvimento da IA.

No entanto, vários investidores da OpenAI e outras pessoas próximas à empresa rejeitaram a ideia de que haverá qualquer desaceleração significativa.

“Se você é Sam Altman e quer derrotar seu concorrente… não há a menor possibilidade de pisar no freio”, disse um ex-executivo da OpenAI. “Conhecendo a mentalidade das pessoas de lá, não há a menor possibilidade de reduzirem o ritmo.”

Ainda assim, alegando preocupações com segurança, Altman já adiou a planejada abertura de capital da OpenAI e cancelou o lançamento de seu modelo mais avançado, o Astra 6.1.

A incerteza sobre suas responsabilidades jurídicas agora paira sobre os esforços de Altman para captar dezenas de bilhões de dólares em um financiamento privado que pode avaliar a empresa em até US$ 1,4 trilhão. Potenciais investidores avaliam se a empresa conseguirá superar a crise e manter a melhora do desempenho comercial.

Na segunda-feira, o procurador-geral da Flórida pediu a um tribunal que suspendesse o desenvolvimento de novos modelos pela OpenAI sem salvaguardas adicionais.

Na terça-feira, a OpenAI foi processada por um grupo de interesse público, que alega que a empresa violou uma lei da Califórnia aprovada no ano passado para garantir que “os seres humanos respondam pelos danos que causam”.

No dia seguinte, a Comissão Federal de Comércio dos Estados Unidos ampliou uma investigação para apurar se a OpenAI e suas concorrentes induziram clientes a erro sobre os possíveis danos de sua tecnologia. Autoridades americanas também afirmaram que os executivos das empresas de IA continuarão responsáveis pelas ações de seus produtos.

Enquanto isso, a Austrália criou uma força-tarefa para investigar o acesso não autorizado de agentes da OpenAI a sistemas governamentais.

Os Verdes, que detêm o fiel da balança no Senado australiano, acusaram a empresa de ocultar a gravidade dos incidentes em reuniões recentes, entre elas uma realizada em setembro entre Altman e o vice-primeiro-ministro Richard Marles.

“É um insulto não apenas a ele, mas à Austrália”, disse o senador dos Verdes David Shoebridge, acrescentando que Marles foi tratado “como um cogumelo” —mantido no escuro e alimentado com desinformação.

A OpenAI pediu desculpas pelo incidente. Jason Kwon, seu diretor de estratégia, deverá comparecer perante uma comissão parlamentar em Sydney em 6 de outubro.

“A defesa de que ‘foi minha IA, não me culpem’ é juridicamente fraca. Ela já fracassou em casos de suicídio envolvendo chatbots”, disse Max Tegmark, ativista pela segurança da IA e pesquisador do Instituto de Tecnologia de Massachusetts.

Um advogado do Vale do Silício afirmou que, embora existam “riscos jurídicos inequívocos” decorrentes dos ataques dos agentes da OpenAI, até agora eles “não são relevantes” em razão dos danos limitados. Mas isso pode mudar rapidamente, acrescentou.

“A verdadeira exposição surge quando os agentes são disponibilizados aos usuários e, então, saem do controle ou são usados para cometer crimes”, afirmou. “A questão central […] é a quem deve ser atribuída a responsabilidade: ao criador do agente ou à pessoa que o envia em uma missão?”

O advogado duvidou que os riscos jurídicos afetassem a oferta pública inicial de ações da OpenAI. “Qualquer investidor que ainda não tenha se assustado com a imprudência [de Altman] não se assustará por causa de alguns agentes”, disse.

A investigação interna da OpenAI encontrou “dezenas” de outros incidentes do tipo. A Asymmetric Security encontrou indícios de que agentes da OpenAI extraíram dados de 55 sites, entre eles os da Comissão de Valores Mobiliários dos Estados Unidos e da Agência Internacional de Energia, segundo informou o FT na semana passada.

A OpenAI afirmou que está analisando possíveis violações e notificando os afetados.

Um porta-voz da Comissão Europeia disse que o Regulamento de Inteligência Artificial de Bruxelas foi concebido para lidar com esses riscos e alertou que “os laboratórios de fronteira devem assumir a responsabilidade e ser plenamente transparentes, inclusive em relação a incidentes não intencionais”.

“Desconfio que [a OpenAI] esteja muito ciente dos riscos jurídicos do que seus agentes estão fazendo”, disse Vivian Dong, diretora de programas da Legal Advocates for Safe Science & Technology (LASST), o grupo de interesse público que processa a OpenAI. “Uma coisa é dizer ‘desculpem’ em uma publicação no blog; outra é declarar abertamente: ‘Acabamos de cometer um ato ilegal.’”

Na conferência anual de desenvolvedores da empresa, na terça-feira, o clima otimista no palco foi ofuscado por manifestantes nos arredores, que pediam à OpenAI que “colocasse as pessoas acima dos lucros”. Um participante descreveu o contraste como algo “saído de ‘Black Mirror'”.

As invasões também reacenderam tensões dentro da empresa entre funcionários que priorizam a segurança e aqueles que pressionam pela comercialização da tecnologia. Na quinta-feira, três pesquisadores da área de segurança foram demitidos após supostamente repassarem informações confidenciais a uma organização externa de segurança em IA, o que, segundo a OpenAI, violou seus contratos.

“Este é um desdobramento preocupante, que remete à tentativa da OpenAI de silenciar funcionários com seus acordos ilegais de não depreciação de 2024 e a uma estratégia conhecida que gigantes da tecnologia vêm usando há muito tempo contra empregados para encobrir danos”, disse Karl Koch, fundador da organização sem fins lucrativos The AI Whistleblower Initiative.

“As medidas contra pesquisadores bem-intencionados são um exemplo concreto de por que o setor de IA não pode regular a si próprio”, acrescentou. A OpenAI não quis comentar.

Com reportagem adicional de Nic Fildes, Barbara Moens, Joe Miller e Suzi Ring