AI代理化身攻击者：Hugging Face披露自主入侵活动

🔍 Critical 其他

全球领先AI平台Hugging Face披露，一个自主AI代理通过恶意数据集中的两个代码执行漏洞攻入其生产环境，横向移动窃取内部数据集和服务凭证。该攻击由自主代理框架驱动，在沙盒集群中执行数千次操作，并使用公共服务进行自迁移命令与控制，标志着“AI代理攻击”场景从理论走向现实。

来源：Security Affairs | 2026-07-20 | 原文链接

🔍 关键发现

• 攻击者利用恶意数据集中的两个代码执行漏洞，在Hugging Face数据处理流水线中实现初始入侵。
• 攻击由自主AI代理框架驱动，在短生命周期沙盒集群中执行了数千次独立操作，并采用自迁移的C2基础设施（托管于公共服务）。
• 防御方使用AI异常检测系统和LLM分析代理在数小时内重建了攻击时间线，但商业AI模型的安全护栏阻挡了取证分析，最终改用开源模型GLM 5.2完成分析。

⚔️ 攻击链分析

步骤1：攻击者上传恶意数据集，利用其中两个代码执行漏洞攻破数据处理worker；步骤2：提权并窃取云与集群凭证，横向移动到内部系统；步骤3：自主代理框架在沙盒集群中执行大量操作，通过公共服务建立自迁移C2；步骤4：窃取内部数据集与服务凭证，但未篡改公开模型或供应链。

🚩 失陷指标 (IOC)

• 暂无公开IOC（调查仍在进行中）

🛡️ 缓解建议

• ✅ 立即旋转所有Hugging Face访问令牌，并审查近期账户异常活动。
• ✅ 组织应提前在自有基础设施上部署并测试可用的开源AI模型（如GLM），避免事件响应时被商业模型安全护栏阻断。
• ✅ 强化数据处理流水线的输入验证和沙盒隔离，对高权限凭证实施自动轮换和最小权限原则。

涉及漏洞：[]

⚠️ 本文仅供安全研究与学习，IOC 信息请勿用于非法目的。