随着大规模语言模型(LLM)植入后门攻击的现实化，AI供应链安全已成为核心课题。越来越多的组织不加区分地使用开源模型，开启了模型本身成为攻击向量的时代。本文将整理从后门模型检测到供应链防御策略的各种方法。
微软最近公开了大规模后门语言模型检测研究。核心是扫描隐藏在模型权重中的恶意行为模式的技术。实际上已经发现，某些模型被操纵成在输入特定触发词时产生与正常情况完全不同的输出。攻击者将看起来正常的后门模型上传到Hugging Face等模型中心。如果下载并应用于服务，则会自动发生数据泄露、恶意代码生成和错误信息传播。
供应链攻击不仅限于模型篡改。根据Techzine报道，一种名为LLMjacking的新型攻击正在大规模蔓延。这种方式是通过窃取云环境中的LLM API密钥来生成数万个恶意请求。受害企业将承担巨额API费用。Sombra的2026年安全威胁分析将提示注入、RAG污染和影子AI列为三大威胁。组织未经正式批准而使用的影子AI尤其危险。安全团队可能根本不知道正在处理内部数据的LLM的存在。
防御策略的核心有三个。首先，验证模型来源。仅使用签名的模型，并务必确认校验和。其次，进行行为分析检测。持续监控模型输出，以发现异常模式。第三，加强API访问控制。必须自动化密钥轮换和使用量异常检测。
AI供应链安全不再是选择。开源模型生态系统越发展，攻击面就越广。像对待代码一样对待模型，并将其集成到安全管道中是必不可少的。2026年有望成为AI安全作为独立领域确立的元年。
FAQ
Q: LLM后门模型是如何运作的？
A: 恶意模式被插入到模型权重中，以便在特定触发输入时生成与正常情况不同的输出。在一般使用中，它运行正常，因此难以检测。
Q: 什么是LLMjacking？
A: 这是一种窃取云环境中的LLM API密钥并发送大量恶意请求的攻击。受害组织会产生巨额费用，并且被盗的API会被滥用于生成网络钓鱼内容等。
Q: 为了AI供应链安全，首先应该做什么？
A: 验证正在使用的模型的来源和完整性是重中之重。必须将确认官方分发渠道、校验和验证和模型签名验证作为基本流程引入。