拥抱安全：VirusTotal与Hugging Face联手守护AI模型供应链
VirusTotal与Hugging Face合作将安全检测集成到AI模型平台，防范模型篡改、数据投毒、后门植入等供应链攻击。了解如何使用picklescan、safepickle、ModelScan等工具保护AI资产，提升模型下载安全性。
⛓️ Medium 供应链攻击
VirusTotal与Hugging Face宣布合作，将VirusTotal的恶意文件检测结果直接集成到Hugging Face平台，帮助用户在下载AI模型、数据集及相关工件前识别潜在风险。合作针对AI供应链中出现的模型篡改、不安全依赖、数据投毒和后门植入等新型威胁，并引入picklescan、safepickle、ModelScan等专用扫描工具，结合LLM驱动的Code Insight分析能力，提升AI生态的整体安全性。
来源：VirusTotal Blog | 2025-10-23 | 原文链接
🔍 关键发现
- VirusTotal的检测结果现已直接嵌入Hugging Face平台，用户可在浏览模型文件时直接看到安全分析报告。
- AI供应链面临新型威胁：包括被篡改的模型文件、不安全的依赖、数据投毒和隐藏后门，这些风险会静默影响下游应用。
- VirusTotal正在开发基于LLM的Code Insight工具，并整合picklescan、safepickle、ModelScan等专门针对模型/序列化格式的检测工具，以识别危险的反序列化流程。
🛡️ 缓解建议
- ✅ 使用前通过VirusTotal等安全服务扫描AI模型文件、数据集及依赖库，检查已知恶意签名和异常行为。
- ✅ 在模型加载环境中启用沙箱或隔离机制，防止恶意Pickle反序列化导致远程代码执行。
- ✅ 利用picklescan、safepickle等工具对模型序列化文件进行预检，避免加载含有恶意对象的模型。
涉及漏洞：[]
⚠️ 本文仅供安全研究与学习，IOC 信息请勿用于非法目的。
🤖 常见问题解答（FAQ）
❓ VirusTotal集成到Hugging Face后如何保护用户？
用户浏览模型文件时会实时显示VirusTotal检测结果，包括恶意标记和完整分析报告链接，帮助用户在下载前做出安全决策。
❓ AI模型供应链面临哪些具体风险？
风险包括模型文件被注入后门、训练数据被投毒、依赖库含有恶意代码，以及利用Pickle序列化漏洞执行任意代码。
❓ 哪些工具可以检测恶意AI模型？
VirusTotal整合了picklescan（扫描Pickle文件）、safepickle（安全加载）、ModelScan（检测模型异常），以及基于LLM的Code Insight分析代码行为。