Cuidado: Malware Disfarçado de Modelos da OpenAI no Hugging Face
Um repositório malicioso no Hugging Face disfarçou-se como uma versão da OpenAI, resultando em milhares de downloads de malware. Entenda os riscos e como se proteger.
Recentemente, um repositório malicioso na plataforma Hugging Face se disfarçou como uma versão da OpenAI, entregando malware que rouba informações a máquinas Windows. A pesquisa realizada pela empresa de segurança em IA HiddenLayer revelou que o repositório, que imitava o Privacy Filter da OpenAI, teve cerca de 244.000 downloads antes de ser removido. Esse número impressionante pode ter sido artificialmente inflacionado pelos atacantes para dar a impressão de popularidade, o que levanta questões sobre a extensão do impacto desse ataque.
Como o Ataque Foi Realizado
O repositório fraudulento, intitulado Open-OSS/privacy-filter, replicou quase que exatamente o cartão do modelo original da OpenAI. Os criminosos cibernéticos incluíram um arquivo malicioso chamado loader.py, que baixava e executava um software de roubo de credenciais nos dispositivos Windows. O fato de que esse repositório chegou ao topo da lista de tendências do Hugging Face, acumulando 667 curtidas em menos de 18 horas, é preocupante, pois pode indicar que os dados foram manipulados pelos atacantes.
Riscos para a Cadeia de Fornecimento de Software
A situação evidencia um risco crescente nas plataformas de modelos de IA, onde desenvolvedores e cientistas de dados podem clonar modelos diretamente em ambientes corporativos. Esses ambientes têm acesso a código-fonte, credenciais de nuvem e sistemas internos, tornando um repositório comprometido uma ameaça significativa. Anteriormente, pesquisadores já haviam alertado sobre a possibilidade de códigos maliciosos estarem ocultos dentro de arquivos de modelos de IA ou scripts de configuração relacionados em repositórios públicos, como o Hugging Face.
O que isso significa na prática
Para profissionais que utilizam IA em suas rotinas, o incidente destaca a importância de verificar a autenticidade de modelos e repositórios antes de integrá-los em suas ferramentas. A prática de baixar modelos de fontes não verificadas pode resultar em comprometimento de dados e sistemas, além de perda de confiança nas ferramentas de IA. Medidas de segurança, como a implementação de scanners de código e auditorias de segurança, tornam-se essenciais para evitar infecções por malware.
A pesquisa da HiddenLayer indica que as plataformas públicas de modelos de IA podem representar riscos reais na cadeia de fornecimento de software.
Em resumo, a segurança em IA deve ser uma prioridade para todos os envolvidos no desenvolvimento e na utilização dessas tecnologias. O futuro da IA depende não apenas da inovação, mas também da proteção contra ameaças que possam comprometer a integridade dos sistemas e a privacidade dos usuários.
