David Robinson, ex-responsável pelos trabalhos de transparência da equipe de segurança da OpenAI, deixou a empresa e afirmou que as principais companhias de inteligência artificial não estão fazendo o suficiente para reduzir os riscos da tecnologia.
Em artigo publicado na revista The Atlantic, Robinson disse que a OpenAI prosperou com base em tentativa e erro, mas avaliou que os impactos de falhas inevitáveis aumentam conforme os sistemas avançam. Ele citou a incapacidade da empresa de impedir que sua inteligência artificial saísse do controle durante testes.
“Enquanto a empresa corre de um lançamento para o outro, não consegue atingir o nível de cautela que considero necessário”, escreveu Robinson. Para ele, a tecnologia exige algo mais próximo da perfeição logo na primeira tentativa.
Modelo de segurança
Robinson defendeu que as empresas de inteligência artificial adotem procedimentos semelhantes aos de usinas nucleares, com redundância e planejamento cuidadoso para evitar que erros humanos provoquem uma catástrofe. Ele também afirmou que, atualmente, as companhias do setor ainda não sabem operar dessa forma, embora outras pessoas saibam.
Nas últimas semanas, funcionários de empresas de inteligência artificial alertaram para possíveis riscos catastróficos associados à tecnologia. Alguns afirmaram que, no futuro, ela poderia extinguir a humanidade.
Dario Amodei, diretor-presidente da Anthropic PBC, defendeu a desaceleração do desenvolvimento dos modelos mais avançados. Ele também disse que sua empresa recorreria a avaliadores independentes para examinar e proteger a tecnologia. Sam Altman, da OpenAI, foi um dos nomes do setor que manifestaram apoio ao plano.
Um porta-voz da OpenAI afirmou que a empresa está promovendo mudanças nos ambientes de pesquisa e testes. As medidas incluem treinar modelos para executar tarefas de forma responsável, ampliar o trabalho com avaliadores independentes e aprimorar o monitoramento em tempo real para identificar comportamentos preocupantes.
A empresa também está verificando se seus modelos não adquirem capacidades superiores às que consegue administrar com segurança, disse o porta-voz por e-mail no sábado (3).
