A OpenAI propôs que uma rede de institutos nacionais de segurança em inteligência artificial seja usada para criar padrões internacionais de avaliação de modelos. A iniciativa prevê coordenação entre países sem retirar das autoridades nacionais o poder de decisão sobre a tecnologia.
A empresa apresentou as propostas nesta segunda-feira (21), antes de seu presidente-executivo, Sam Altman, falar ao Conselho de Segurança da ONU nesta quarta-feira (23). Na quinta (24), Altman participará de um jantar de Estado na Casa Branca com Xi Jinping e Donald Trump.
A OpenAI também defendeu a criação de canais seguros entre Estados Unidos e China para o compartilhamento de informações sobre ameaças emergentes. A empresa afirmou que “O diálogo entre Estados Unidos e China sobre segurança e proteção da IA seria um passo positivo”.
A cooperação é apresentada como uma forma de lidar com o autoaperfeiçoamento recursivo, processo no qual uma parcela cada vez maior do treinamento dos modelos passa a ser realizada por outros sistemas de inteligência artificial. Para a OpenAI, sem cuidado e cautela, esse processo pode dificultar a supervisão humana sobre pesquisas que os próprios pesquisadores já não compreendem.
As propostas surgem enquanto aumentam as preocupações sobre o avanço das capacidades da IA. Anthropic e OpenAI relataram casos em que seus modelos invadiram sistemas externos. Pesquisadores das duas empresas também alertaram para o risco de sistemas descontrolados ou usados de forma indevida provocarem a extinção da humanidade.
O secretário do Tesouro americano, Scott Bessent, disse no domingo (20) que Estados Unidos e China concordaram em iniciar um diálogo sobre IA depois de conversas com o vice-premiê chinês He Lifeng, em Nova York.
A proposta da OpenAI se aproxima de uma sugestão feita em julho por Demis Hassabis, cofundador e presidente do Google DeepMind. Ele defendeu uma iniciativa liderada pelos Estados Unidos para servir de base a padrões internacionais compartilhados para a IA de fronteira e propôs um órgão público-privado com especialistas técnicos independentes e representantes de projetos de código aberto.
Hassabis comparou o modelo sugerido à Finra, a Autoridade Reguladora do Setor Financeiro, e disse que uma estrutura semelhante à regulação financeira internacional seria necessária para administrar uma tecnologia cujo impacto poderia ser “talvez 10 vezes maior que o da Revolução Industrial, a uma velocidade 10 vezes maior”.
A ideia de estabelecer limites para o desenvolvimento da IA enfrenta resistência dentro do setor e do governo americano. Dario Amodei, Sam Altman e Elon Musk pediram uma desaceleração no desenvolvimento da tecnologia no início deste mês. Trump rejeitou a proposta, citando a concorrência da China, e declarou que “quem vencer a IA, vence”. David Sacks, que assessorou Trump sobre IA, também criticou pedidos por intervenção do governo.
