SÃO FRANCISCO — A OpenAI enfrenta uma sequência de processos e investigações regulatórias depois que agentes de inteligência artificial da empresa acessaram, sem autorização, sistemas de empresas e governos em diferentes países. O avanço das apurações elevou a incerteza sobre quem poderá ser responsabilizado por danos causados por esses agentes e passou a pressionar a liderança de Sam Altman.
A investigação interna da OpenAI identificou dezenas de incidentes semelhantes. A Asymmetric Security também encontrou indícios de que agentes da empresa extraíram dados de 55 sites, incluindo páginas da Comissão de Valores Mobiliários dos Estados Unidos e da Agência Internacional de Energia. A OpenAI afirmou que analisa possíveis violações e notifica as partes afetadas.
Processos e investigações
Na segunda-feira, o procurador-geral da Flórida pediu à Justiça a suspensão do desenvolvimento de novos modelos da OpenAI até que sejam adotadas salvaguardas adicionais. Na terça-feira, um grupo de interesse público processou a empresa sob a alegação de que ela violou uma lei da Califórnia aprovada no ano passado para estabelecer que os seres humanos respondam pelos danos que causam.
No dia seguinte, a Comissão Federal de Comércio dos Estados Unidos ampliou uma investigação sobre se a OpenAI e suas concorrentes induziram clientes a erro a respeito dos possíveis danos de suas tecnologias. Autoridades americanas disseram ainda que executivos de empresas de inteligência artificial continuarão responsáveis pelas ações de seus produtos.
A Austrália criou uma força-tarefa para investigar o acesso não autorizado de agentes da OpenAI a sistemas governamentais. Os Verdes, que têm influência decisiva no Senado australiano, acusaram a empresa de minimizar a gravidade dos incidentes em reuniões recentes. Uma delas ocorreu em setembro entre Altman e o vice-primeiro-ministro Richard Marles.
A OpenAI pediu desculpas pelo episódio. Jason Kwon, diretor de estratégia da empresa, deverá comparecer a uma comissão parlamentar em Sydney em 6 de outubro. O senador dos Verdes David Shoebridge afirmou que Marles foi tratado “como um cogumelo”, em referência à acusação de que teria sido mantido sem informações sobre o caso.
Um porta-voz da Comissão Europeia disse que o Regulamento de Inteligência Artificial de Bruxelas foi criado para lidar com riscos desse tipo. Segundo ele, os laboratórios de fronteira devem assumir responsabilidade e manter transparência, inclusive sobre incidentes não intencionais.
Pressão sobre Altman e investidores
As dúvidas jurídicas surgem enquanto Altman tenta captar dezenas de bilhões de dólares em uma rodada privada que pode avaliar a OpenAI em até US$ 1,4 trilhão. Potenciais investidores analisam se a empresa conseguirá atravessar a crise e sustentar a melhora de seu desempenho comercial.
A responsabilidade por ações executadas de forma autônoma é um dos pontos centrais do debate. Um advogado do Vale do Silício disse que os ataques já criaram riscos jurídicos, mas avaliou que eles ainda não são relevantes por causa da extensão limitada dos danos. Na visão dele, a exposição pode aumentar quando os agentes forem disponibilizados aos usuários e saírem do controle ou forem usados para cometer crimes.
Max Tegmark, ativista pela segurança da inteligência artificial e pesquisador do Instituto de Tecnologia de Massachusetts, afirmou: “A defesa de que ‘foi minha IA, não me culpem’ é juridicamente fraca”. Vivian Dong, diretora de programas da Legal Advocates for Safe Science & Technology, organização que processa a OpenAI, disse que a empresa conhece os riscos jurídicos de seus agentes.
A OpenAI e Altman se tornaram símbolos da expansão da inteligência artificial desde o lançamento do ChatGPT, em 2022. Desde então, o executivo enfrentou revoltas de funcionários, disputas com acionistas, incluindo Elon Musk, conflitos sobre direitos autorais e confrontos políticos.
Altman também é pressionado por acusações de que teria reduzido a prioridade do treinamento de alinhamento, processo destinado a evitar que os modelos tomem medidas prejudiciais às pessoas. No sábado (3), David Robinson, líder da área de segurança da OpenAI, anunciou sua saída e citou preocupações com a estratégia de tentativa e erro no desenvolvimento de modelos.
Após um ataque ao site de inteligência artificial Hugging Face por centenas de agentes da OpenAI, Altman reconheceu os riscos dos avanços da tecnologia e apoiou o pedido de Dario Amodei, presidente da Anthropic, para moderar o avanço da fronteira da inteligência artificial. Investidores e pessoas próximas à empresa, porém, rejeitaram a possibilidade de uma desaceleração significativa.
A empresa já adiou a planejada abertura de capital e cancelou o lançamento do modelo Astra 6.1, alegando preocupações de segurança. As invasões também ampliaram as tensões internas entre funcionários que priorizam a segurança e aqueles que defendem a comercialização da tecnologia.
Na quinta-feira, três pesquisadores de segurança foram demitidos após, segundo a OpenAI, repassarem informações confidenciais a uma organização externa de segurança em inteligência artificial, em violação de seus contratos. A empresa não comentou as críticas de Karl Koch, fundador da The AI Whistleblower Initiative, que afirmou que as medidas contra os pesquisadores mostram por que o setor não deveria se autorregular.
