Gigantes de tecnologia dos Estados Unidos assinaram nesta segunda-feira (30), na Casa Branca, um código de boas práticas para administrar riscos associados à inteligência artificial. O acordo ocorre após o aumento de incidentes de segurança envolvendo essa tecnologia e estabelece compromissos de supervisão para os fornecedores de modelos de IA.
O documento apresentado pelo presidente americano, Donald Trump, tem uma página e adesão considerada “moralmente vinculativa”. A iniciativa surge em meio a pedidos por regras obrigatórias feitos por empresas como Anthropic e OpenAI, além de responsáveis políticos do Partido Democrata nos Estados Unidos e de governos de outros países.
Controles e avaliações independentes
O código prevê quatro níveis de supervisão. O primeiro exige controles internos robustos para garantir que os modelos sigam as instruções dos desenvolvedores, especialmente nas áreas de segurança cibernética e biossegurança.
As medidas devem reduzir o risco de introdução, disseminação e liberação de patógenos ou de riscos químicos. As empresas também terão de formar equipes especializadas para verificar se seus modelos não iniciam ataques cibernéticos nem obtêm acesso não autorizado a sistemas técnicos.
OpenAI, Anthropic e Google relataram recentemente incidentes relacionados a comportamentos inesperados de seus sistemas. Agentes de IA da OpenAI, capazes de executar ações de forma autônoma, acessaram por iniciativa própria o site de um sistema de saúde australiano e plataformas do governo dos Estados Unidos.
Outra previsão é a participação de avaliadores externos em auditorias independentes. O objetivo será verificar se as medidas adotadas pelas empresas são eficazes. Anthropic e OpenAI já trabalham com esse tipo de avaliação e ampliaram o acesso de empresas de auditoria aos seus modelos, inclusive durante a fase de projeto.
A Anthropic declarou que não exercerá “nenhum controle editorial” sobre a divulgação dos resultados, mesmo quando forem desfavoráveis à empresa.
Comitê e críticas ao modelo
O acordo também prevê um comitê independente com representantes das empresas nos níveis mais altos de gestão. O grupo deverá revisar avaliações internas e externas, acompanhar a solução de problemas potenciais e promover reuniões regulares para estabelecer normas e boas práticas.
Em meados de setembro, OpenAI, Anthropic e Google haviam indicado que trabalhavam na criação de um órgão supervisor inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA), entidade autorreguladora do setor financeiro.
A proposta recebeu críticas da francesa Mistral e da canadense Cohere. As empresas acusam as gigantes americanas de tentar definir as próprias regras e proteger sua vantagem competitiva.
