Empresas de inteligência artificial assumiram um compromisso conjunto para adotar controles internos e auditorias independentes destinados a reforçar a segurança de seus sistemas. O acordo foi firmado em uma reunião com Trump e divulgado em um documento chamado Acordo da Casa Branca sobre Superinteligência.
O texto estabelece quatro medidas para companhias que treinam e implementam modelos de fronteira, considerados os sistemas de inteligência artificial mais avançados. As empresas deverão acompanhar as capacidades e o comportamento dos modelos durante o treinamento e o uso, com monitoramento de riscos em áreas como cibersegurança, biossegurança e ameaças químicas.
Também está prevista a criação de uma equipe interna para verificar se os mecanismos de controle, monitoramento e identificação de problemas funcionam como esperado. Esse grupo deverá garantir a correção de eventuais falhas.
As companhias ainda terão de contratar um auditor ou avaliador externo para analisar os controles e os mecanismos de monitoramento. Cada empresa deverá designar, além disso, um comitê independente ligado ao conselho de administração. O grupo receberá relatórios das equipes internas e dos avaliadores externos e acompanhará a correção dos problemas identificados.
Possibilidade de novas regras
O acordo prevê reuniões regulares entre as empresas participantes para a definição de padrões e boas práticas de segurança. O documento também admite que as medidas sejam transformadas em leis ou regulamentos no futuro.
Trump afirmou que as empresas vão se autorregular e disse que elas “querem fazer o que é certo”. O presidente também declarou que os executivos assinaram um acordo “moralmente vinculante” e que considera criar um comitê com dez pessoas para supervisionar o setor.
Na reunião desta terça-feira, Trump disse a jornalistas na Casa Branca que percebe disposição das empresas para estabelecer mecanismos próprios de controle. O encontro ocorreu em meio à pressão sobre o governo para lidar com riscos associados ao avanço da inteligência artificial.
Invasões relacionadas à tecnologia levaram pesquisadores a alertar que a inteligência artificial poderia matar seres humanos em menos de uma década. Os episódios também ampliaram pedidos de ação sobre o tema entre parlamentares democratas e republicanos.
