Em resumo
- Autoridades dos EUA alertaram os principais bancos sobre riscos de cibersegurança relacionados ao modelo de IA Mythos da Anthropic, relata a Bloomberg.
- O sistema pode supostamente identificar e explorar vulnerabilidades em sistemas operativos e navegadores.
- A Anthropic limitou o acesso ao modelo enquanto avalia potenciais riscos de segurança.
O Secretário do Tesouro dos EUA, Scott Bessent, e o Presidente da Reserva Federal, Jerome Powell, convocaram supostamente uma reunião com os CEOs de bancos de Wall Street no início desta semana para alertar sobre riscos de cibersegurança relacionados a um novo modelo de inteligência artificial da Anthropic.
De acordo com um relatório da Bloomberg, a reunião incluiu executivos do Citigroup, Bank of America, Wells Fargo, Morgan Stanley e Goldman Sachs. As autoridades discutiram o novo modelo de IA Mythos da Anthropic, que recentemente tem gerado grande preocupação devido às suas aparentes capacidades avançadas de cibersegurança.
As autoridades convocaram a reunião para garantir que os bancos compreendem os riscos apresentados por sistemas capazes de identificar e explorar vulnerabilidades de software em sistemas operativos e navegadores web, e para incentivar as instituições a reforçar as defesas contra potenciais ciberataques assistidos por IA direcionados à infraestrutura financeira.
Investigadores de segurança alertaram que ferramentas capazes de descobrir automaticamente vulnerabilidades podem acelerar tanto o trabalho defensivo de segurança como a pirataria maliciosa, se mal utilizadas.
O modelo Mythos da Anthropic surgiu pela primeira vez online em março, após materiais preliminares sobre o sistema terem sido divulgados online, revelando o que a empresa descreveu como o seu modelo de IA mais capaz até à data. Nos testes, o sistema terá encontrado milhares de vulnerabilidades de software anteriormente desconhecidas, incluindo falhas de dia zero em sistemas operativos e navegadores web principais.
Investigadores da Anthropic afirmaram num relatório no início desta semana que as capacidades de descoberta de vulnerabilidades do Mythos Preview não foram intencionalmente treinadas, mas surgiram de melhorias mais amplas na codificação, raciocínio e autonomia do modelo.
"As mesmas melhorias que tornam o modelo substancialmente mais eficaz na correção de vulnerabilidades também o tornam substancialmente mais eficaz na exploração das mesmas", escreveu a empresa.
Devido a essas capacidades, a Anthropic restringiu o acesso a um pequeno grupo de organizações de cibersegurança.
"Dada a força das suas capacidades, estamos a ser deliberados sobre como o lançamos", disse a Anthropic num comunicado. "Como é prática padrão em toda a indústria, estamos a trabalhar com um pequeno grupo de clientes de acesso antecipado para testar o modelo. Consideramos este modelo uma mudança significativa e o mais capaz que construímos até à data."
Para abordar esse risco, a Anthropic está a testar o Mythos através do Project Glasswing, uma colaboração com grandes empresas de tecnologia e cibersegurança que utiliza o modelo para identificar e corrigir vulnerabilidades em software crítico antes que os atacantes possam explorá-las.
"O Project Glasswing é um ponto de partida. Nenhuma organização pode resolver estes problemas de cibersegurança sozinha", disse a empresa num comunicado. "Os desenvolvedores de IA de fronteira, outras empresas de software, investigadores de segurança, mantenedores de código aberto e governos de todo o mundo têm papéis essenciais a desempenhar."
A Anthropic não respondeu imediatamente ao pedido de comentário da Decrypt.
Newsletter Daily Debrief
Comece todos os dias com as principais notícias neste momento, além de recursos originais, um podcast, vídeos e muito mais.
Fonte: https://decrypt.co/363927/powell-bessent-warn-banks-security-anthropic-mythos-ai
