NOVA YORK E LONDRES — Reguladores bancários dos Estados Unidos e da Europa estão ampliando a fiscalização sobre o uso de inteligência artificial pelos bancos, diante do risco de ataques cibernéticos e de sistemas autônomos operarem fora de controle. As autoridades também avaliam possíveis impactos sobre a estabilidade financeira global.
Nos Estados Unidos, o Fed, o OCC e a FDIC passaram a questionar instituições de diferentes portes sobre a adoção de modelos avançados de IA. As consultas abordam o uso de tecnologias desenvolvidas na China, a aplicação de agentes de inteligência artificial na defesa cibernética e os mecanismos para controlar sistemas com maior autonomia.
As autoridades querem saber quais limites os bancos impõem aos agentes, como suas ações são acompanhadas e aprovadas e se as decisões podem ser rastreadas e auditadas. Também perguntam que barreiras impedem os sistemas de ultrapassar suas funções, se pessoas continuam participando de decisões relevantes e como os programas autônomos podem ser desligados.
As consultas são feitas por escrito e em conversas com bancos de grande, médio e pequeno porte. Por enquanto, os reguladores estão reunindo informações e não definiram exigências prescritivas para as instituições.
Recuperação de sistemas entra no foco europeu
Na Europa, o Banco da Inglaterra e o BCE pressionam os bancos a reforçar os planos de recuperação após incidentes. A preocupação é que a evolução rápida da IA provoque danos e perturbações nos mercados financeiros antes do previsto.
No Reino Unido, os maiores bancos estão sendo incentivados a avaliar planos de recuperação bare metal. Essas estruturas ficam separadas da tecnologia principal e podem ser ativadas caso os sistemas operacionais primários sejam comprometidos. A construção e a manutenção desse tipo de ambiente têm custo elevado, e as autoridades britânicas pretendem trabalhar em conjunto com o setor, sem criar novas exigências neste momento.
Em julho, o BCE definiu o fim de outubro como prazo para os bancos apresentarem planos contra ameaças cibernéticas ampliadas pela IA. As medidas incluem melhorias nos sistemas de backup e recuperação. O conselho da instituição também destacou a necessidade de urgência, sem alarmismo, na resposta aos riscos.
Os supervisores britânicos pedem ainda que os bancos usem modelos avançados para localizar vulnerabilidades e acelerar a aplicação de correções de segurança. Na zona do euro, as instituições são orientadas a mapear o uso de IA em suas operações e nos serviços de fornecedores terceirizados. O objetivo é identificar dependências relevantes e garantir que os sistemas possam ser desligados e reiniciados de forma controlada.
Alertas sobre ataques e agentes autônomos
A discussão ganhou força após alertas da indústria e de órgãos multilaterais. A CrowdStrike afirmou que uma pessoa na China provavelmente usou um agente de IA desenvolvido no país e o Claude Code, da Anthropic, em um ataque contra bancos sul-coreanos. Agentes desenvolvidos pela OpenAI também foram associados a uma invasão contra a plataforma Hugging Face.
Pesquisadores da Anthropic alertaram que sistemas mais poderosos podem escapar do controle humano e representar uma ameaça existencial. O FMI pediu que as autoridades ampliem sua capacidade de defesa cibernética e afirmou que um ataque de grandes proporções contra um serviço essencial ou uma instituição financeira poderia abalar a confiança.
Os bancos, enquanto isso, disputam espaço na adoção da chamada IA agêntica, capaz de executar tarefas com supervisão humana mínima. Entre os desafios estão as falhas de tecnologia da informação detectadas pelo Mythos, ferramenta da Anthropic.
“A adoção da IA frequentemente avança mais rápido do que a capacidade de implementar os controles necessários”, disse Michael Woodbridge, sócio da área de segurança cibernética da Grant Thornton em Londres.
Jamie Dimon, presidente-executivo do JPMorgan, pediu que líderes empresariais participem de um grupo setorial nos Estados Unidos dedicado a enfrentar os riscos da IA. Um executivo sênior de um grande banco europeu afirmou que o setor também teme danos relevantes aos bancos e aos mercados financeiros nos próximos seis meses.
