David Robinson, ex-funcionário da área de segurança da OpenAI, criticou a maneira como a empresa conduz o desenvolvimento de sistemas de inteligência artificial. Em artigo publicado neste sábado (3), ele afirmou que a velocidade dos lançamentos aumenta o risco de falhas e que as companhias do setor não estão sendo “nem de perto cuidadosas o suficiente”.
Robinson defendeu que especialistas em segurança tenham mais espaço e que pesquisas sejam ampliadas antes da criação de sistemas mais avançados. Ele também escreveu que a fase de tentativa e erro deveria ser encerrada e comparou as medidas necessárias na inteligência artificial às adotadas nos setores de energia nuclear e aviação.
O ex-funcionário questionou a chamada implantação iterativa da OpenAI, prática que consiste em lançar sistemas e reforçar os controles de segurança conforme os problemas aparecem. A OpenAI e a Anthropic foram questionadas depois de episódios envolvendo falhas em mecanismos de segurança ou comportamentos inesperados em sistemas experimentais.
Experiência na OpenAI
Robinson disse ter trabalhado por três anos e meio na OpenAI. Durante esse período, ajudou a elaborar a estrutura usada pela empresa para administrar riscos e supervisionou relatórios de segurança de 12 lançamentos de modelos avançados.
Ele afirmou que a sequência acelerada de lançamentos impede a empresa de alcançar o nível de cuidado que considera necessário. Também alertou que as capacidades da inteligência artificial avançam mais rápido do que o conhecimento dos pesquisadores sobre alinhamento — área voltada a fazer com que os sistemas atuem de acordo com objetivos e valores humanos.
A OpenAI afirmou que procura impedir que seus modelos se tornem mais avançados do que a empresa consegue administrar com segurança. Um porta-voz disse: “Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo”.
As críticas se somam às de Jacob Coxon, ex-pesquisador da OpenAI que passou a trabalhar na Anthropic. No mês passado, Coxon, um britânico de 27 anos, afirmou que as duas empresas não agiam de forma responsável. Ele trabalhou por três anos com pré-treinamento, etapa em que os modelos absorvem grandes quantidades de informação, primeiro na OpenAI e depois, neste ano, na Anthropic.
