SAN FRANCISCO — O presidente-executivo da OpenAI, Sam Altman, afirmou que o público deveria confiar mais nas empresas de inteligência artificial (IA) para conduzir o desenvolvimento da tecnologia. A declaração foi feita na terça-feira (15/9), durante uma conferência da Salesforce, em meio ao aumento das preocupações sobre os riscos associados ao avanço da IA.
Altman disse que reconhece motivos para temer a tecnologia, especialmente pela velocidade com que as ferramentas vêm evoluindo. "Acho que o mundo tem razão em ter medo disso", afirmou.
O executivo também defendeu que as empresas do setor sejam capazes de estabelecer seus próprios controles. Segundo ele, a OpenAI e outras companhias devem manter a segurança e o alinhamento da IA com valores humanos à frente da expansão de suas capacidades. Caso não consigam fazer isso, afirmou, deverão reduzir o ritmo de desenvolvimento ou interrompê-lo.
Pressão por regras
As declarações ocorreram após a repercussão de textos publicados por pesquisadores da Anthropic, empresa responsável pelo Claude. Evan Hubinger, cientista da companhia, escreveu que, sem controle, a IA poderia matar todos os seres humanos até o fim da década. Jacob Coxon, outro pesquisador ligado à Anthropic, também publicou um texto e deixou a empresa.
O presidente-executivo da Anthropic, Dario Amodei, passou a defender uma redução no ritmo de desenvolvimento e pediu que os governos regulamentassem o setor. A posição recebeu apoio de Altman, de Demis Hassabis, cofundador da DeepMind, do Google, e de Elon Musk, proprietário da rede social X e do assistente Grok.
Outros executivos também passaram a defender controles estabelecidos pelas próprias empresas. Jensen Huang, presidente-executivo da Nvidia, afirmou que deveria caber às companhias decidir quando lançar novas versões dos sistemas, sem interferência externa. Para ele, a segurança é uma questão de engenharia e uma empresa deveria adiar um produto se seu comando não estivesse confiante em seu funcionamento.
Huang também rejeitou a necessidade de novas leis ou regulamentações e disse que não deveria haver oposição entre velocidade de inovação e segurança. A Nvidia fabrica chips usados em aplicações de IA e teve forte aumento nos lucros com a demanda por esses componentes.
Críticas à autorregulação
Políticos americanos fizeram ressalvas à possibilidade de as empresas definirem sozinhas as regras do setor. Em Washington D.C., o senador independente Bernie Sanders afirmou que decisões sobre a IA vêm sendo tomadas por um grupo pequeno de pessoas muito ricas. Entre os nomes citados por ele estão Musk, Mark Zuckerberg, presidente-executivo da Meta, e Jeff Bezos, fundador da Amazon.
Steve Bannon, ex-assessor de Donald Trump e estrategista da Casa Branca durante o primeiro mandato do ex-presidente, também questionou a capacidade de autorregulação das empresas de tecnologia.
Zuckerberg escreveu na rede social X que os laboratórios de IA têm condições e incentivos para adotar medidas próprias de segurança. Ele afirmou que empresas que não priorizarem o alinhamento de seus sistemas poderão ficar para trás e enfrentar responsabilização caso seus modelos provoquem danos.
Dentro do próprio setor, Jack Clark, cofundador e executivo da Anthropic, disse na segunda-feira (14/9) que deixar a IA sem regulamentação significaria assumir riscos muito altos. Patrick Hillman, diretor de operações da Logical Intelligence, afirmou que há pouca confiança em que as empresas de tecnologia atuem em favor do interesse público.
Discussão sobre padrões
OpenAI e Anthropic informaram que começaram a trabalhar em um possível acordo de segurança para todo o setor. Durante a conferência, Amodei disse que a Anthropic dialoga com outras empresas sobre compromissos relacionados a padrões mais rigorosos e mecanismos adicionais de verificação.
Na semana passada, Chris Lehane, executivo da OpenAI, afirmou que a empresa discutia com outros laboratórios — entre eles Anthropic e Google DeepMind — uma iniciativa voluntária para estabelecer padrões para sistemas avançados de IA, com ou sem participação dos governos.
Altman também incentivou empresários a usar ferramentas de IA no trabalho, mas afirmou que a tecnologia será necessária para proteger empresas de possíveis ataques cibernéticos facilitados por esses mesmos sistemas.
