Shane Legg, cofundador do Google DeepMind e atual cientista-chefe de AGI do laboratório, afirmou que o avanço das capacidades de inteligência artificial não pode superar o desenvolvimento de mecanismos de segurança. Para ele, a velocidade atual da tecnologia exige que as duas frentes avancem juntas.
“Não podemos permitir que as capacidades fiquem à frente da segurança”, disse Legg. Ele avaliou que a proposta de Dario Amodei, presidente-executivo da Anthropic, de desacelerar — sem suspender — o lançamento de modelos de fronteira por causa dos riscos de segurança merece consideração. Legg afirmou, porém, que ainda é necessário avaliar como essa medida funcionaria na prática.
Debate sobre inteligência artificial geral
As declarações foram feitas durante o lançamento do DeepMind Institute, iniciativa criada para estudar as implicações da AGI, sigla em inglês para inteligência artificial geral. O Google DeepMind define o conceito como um sistema com todas as capacidades cognitivas do cérebro humano.
Legg considera prematuro afirmar que a AGI já foi desenvolvida, apesar de declarações recentes de executivos da Nvidia e da OpenAI. Ele rejeitou a avaliação de Greg Brockman, presidente da OpenAI, de que o lançamento do GPT-6 Astra colocaria a tecnologia na era da AGI. Jensen Huang, presidente-executivo da Nvidia, também disse que a AGI havia chegado ao se referir ao Astra.
Segundo Legg, nem está claro se o modelo atende à própria definição adotada pela OpenAI: realizar a maior parte do trabalho cognitivo economicamente valioso. Ele reconheceu os avanços do sistema, mas disse que o Astra ainda não alcançou esse patamar.
Legg mantém sua previsão de que existe 50% de chance de uma AGI mínima ser alcançada até 2028. O termo AGI foi criado com a participação dele.
Instituto amplia discussão sobre AGI
O DeepMind Institute pretende tornar a pesquisa técnica da empresa acessível a um público mais amplo e ampliar o debate sobre a AGI. Além de Legg, a direção inclui Demis Hassabis e James Manyika, vice-presidente sênior do Google. Hassabis deixou no mês passado o cargo de presidente-executivo do laboratório de inteligência artificial controlado pelo Google para assumir a presidência. Mustafa Suleyman, terceiro cofundador, é atualmente um alto executivo da Microsoft.
A organização abordará temas como ciência, educação, sociedade, políticas públicas, filosofia e bem-estar humano. Parte dos ensaios será escrita por funcionários do Google, enquanto especialistas externos também poderão contribuir.
Inicialmente, o instituto publicou três ensaios sobre segurança da IA, política econômica e princípios para um novo utopismo. Um deles, assinado pelos pesquisadores da DeepMind Rohin Shah e Anca Dragan, criticou o lançamento do GPT-6 Astra e apontou queda na transparência dos modelos de raciocínio de cadeia de pensamento.
Os autores afirmaram que a competição pode diminuir os incentivos à transparência, mas avaliaram que a regulamentação pode ajudar. Também disseram ser possível desenvolver modelos mais robustos se uma estrutura de transparência for incorporada ao projeto.
Manyika afirmou que a única corrida de IA da qual o Google quer participar é “a corrida para fazer isso da maneira certa”.
