IA da Anthropic encontra milhares de falhas e é mantida em segredo
IA da Anthropic encontra milhares de falhas de segurança e é mantida em segredo. Projeto Glasswing une gigantes da tecnologia para proteger a internet.
A inteligência artificial está se tornando uma ferramenta poderosa não apenas para criar, mas também para proteger. A Anthropic, uma das líderes em pesquisa de IA, desenvolveu um modelo de IA incrivelmente capaz que, em vez de ser lançado ao público, foi mantido em sigilo. O motivo? O modelo, chamado Claude Mythos Preview, demonstrou uma habilidade surpreendente ao identificar milhares de vulnerabilidades de cibersegurança em sistemas operacionais e navegadores web amplamente utilizados. Em vez de explorar essas falhas, a Anthropic optou por uma abordagem responsável: compartilhar suas descobertas com as organizações encarregadas de manter a internet segura, em uma iniciativa batizada de Projeto Glasswing.
Um modelo com capacidades inesperadas
O Claude Mythos Preview não foi projetado especificamente para cibersegurança. Suas impressionantes habilidades de detecção de falhas surgiram como um subproduto do aprimoramento geral em raciocínio, código e autonomia. Essa mesma capacidade que permite ao modelo identificar e sugerir correções para vulnerabilidades também o torna apto a explorá-las. A Anthropic observou que o modelo se tornou tão eficiente que superou os benchmarks de segurança existentes, saturando os testes convencionais. Isso levou a empresa a redirecionar o foco para a identificação de vulnerabilidades de dia zero (zero-day), falhas inéditas e desconhecidas até mesmo pelos desenvolvedores originais do software.
Projeto Glasswing: colaboração para a segurança digital
A decisão da Anthropic de não lançar o modelo abertamente, mas sim colaborar com a comunidade de segurança, é um marco importante. O Projeto Glasswing envolve parceiros de peso como Amazon Web Services, Apple, Google, Microsoft e Linux Foundation, além de mais de 40 outras organizações que desenvolvem e mantêm infraestruturas de software críticas. A Anthropic está investindo significativamente no projeto, comprometendo até US$ 100 milhões em créditos de uso para o Mythos Preview e US$ 4 milhões em doações diretas para organizações de segurança de código aberto. Essa abordagem colaborativa visa fortalecer a segurança digital de forma proativa, utilizando a IA para antecipar e neutralizar ameaças antes que elas possam ser exploradas por agentes mal-intencionados.
O que isso significa na pratica
Na prática, o Projeto Glasswing representa uma mudança de paradigma na forma como a inteligência artificial é utilizada para combater ameaças cibernéticas. Em vez de esperar que as vulnerabilidades sejam descobertas e exploradas, a Anthropic está usando seu modelo de IA de ponta para encontrá-las proativamente. Isso significa que empresas e usuários finais podem se beneficiar de sistemas mais seguros, pois as falhas são identificadas e corrigidas em estágios muito iniciais. A colaboração com grandes players da tecnologia garante que essas correções sejam implementadas rapidamente em sistemas operacionais, navegadores e outras infraestruturas essenciais. A iniciativa demonstra que a IA pode ser uma aliada poderosa na defesa contra ataques cibernéticos, protegendo a infraestrutura digital global de forma mais eficaz e rápida.
A abordagem da Anthropic, focada na segurança e na colaboração responsável, demonstra um compromisso com o uso ético da IA. Ao manter o modelo Claude Mythos Preview privado e direcioná-lo para a identificação e mitigação de vulnerabilidades, a empresa contribui para um ecossistema digital mais resiliente. O futuro da cibersegurança provavelmente envolverá cada vez mais a inteligência artificial, e iniciativas como o Projeto Glasswing pavimentam o caminho para um ambiente online mais seguro para todos.
