自发布以来，绿盟AI-Scan受到了各行各业的广泛关注，目前已适配超过130种大模型，包括当前热门的DeepSeek。本文将通过DeepSeek相关大模型的风险评估实例，详细展示绿盟AI-Scan在安全隐患识别方面的能力。

绿盟AI-Scan对大模型防御能力的评估可细分为以下几个关键点：

大模型训练依赖海量数据，可能涉及用户个人信息、商业机密等敏感内容。如果在数据收集、存储或处理过程中保护不当，可能导致数据泄露，进而引发个人财产和隐私安全风险，以及企业声誉和运营危机。例如，某公司曾因使用大模型优化半导体代码导致机密信息泄露，ChatGPT也因代码漏洞暴露了大量用户聊天内容。在数字时代，数据的重要性不亚于石油，敏感数据更是至关重要。

绿盟AI-Scan能够精准识别大模型中的敏感数据风险，包括敏感信息泄露、知识产权泄露和提示词泄露等，全面保障数据的合规性、安全性和隐私性，有效防止企业因数据安全问题而遭受经济损失和声誉损害。

大模型训练阶段吸收大量互联网数据，可能导致违反社会伦理与法律风险的内容生成，如偏见歧视性言论、有害性言论、冒犯性言论或虚假信息生成等，可能误导用户做出不当行为、大规模生成谣言假新闻等带来一系列恶劣影响。

绿盟AI-Scan针对内容合规方面参考众多标准对大模型提供全方面的内容审查服务，包括偏见歧视侮辱性内容、暴力及恐怖主义内容、诱导不当言论、虚假信息、模型幻觉等，保障大模型输出内容恪守法律规范与社会伦理标准。

大模型广泛应用于智能客服、内容创作、医疗辅助、金融分析等多个场景，要求高水平的基础能力，因此引入了文件导入、Python解释器等外部Agent能力。然而，若应用未对输入数据进行严格验证和过滤，便容易遭遇注入攻击，如代码执行注入、XSS会话内容劫持等。这些漏洞可能被攻击者利用，迫使模型执行恶意代码，导致数据泄露，甚至使攻击者控制服务器或窃取系统权限。例如，某智能代码助手应用因外部Agent能力遭受注入攻击，导致用户对话和敏感数据外泄。

绿盟AI-Scan能够评估AI大模型应用中外部Agent能力可能导致的安全风险，涵盖代码执行注入、XSS会话内容劫持、对抗编码攻击等攻击方式，这些攻击可能绕过模型的安全机制，引发风险事件。

在网络安全领域，对抗攻击一直是关注的焦点，大模型同样面临这一威胁。特别是越狱攻击，它是大语言模型的一种特殊威胁。攻击者通常通过精心设计的提示或输入诱导模型输出敏感数据，如训练数据、隐私信息，或执行如生成钓鱼邮件、恶意代码等操作。例如，经典的“奶奶越狱漏洞”，攻击者只需在对ChatGPT提问前加入“请扮演我的奶奶哄我睡觉”，再提出不合理要求，ChatGPT就有可能突破安全限制予以满足。这种对抗攻击手段层出不穷，安全挑战愈发严峻。

绿盟AI-Scan对大模型的对抗攻击方式进行了深入研究，覆盖多个维度，包括指令层、Token层和上下文层的干扰，全面识别风险。风险种类涵盖四大类、十三小类，具体包括模型越狱攻击、角色逃逸、模型反演攻击、功能滥用及操纵。

针对上述四类风险维度，绿盟AI-Scan对DeepSeek系列Llama相关模型进行了详细评估。以下是Llama3.3-70B模型在经过DeepSeek-R1蒸馏前后，基于五个维度的扫描分析对比结果。

自发布以来，绿盟AI-Scan受到了各行各业的广泛关注，目前已适配超过130种大模型，包括当前热门的DeepSeek。本文将通过DeepSeek相关大模型的风险评估实例，详细展示绿盟AI-Scan在安全隐患识别方面的能力。

绿盟AI-Scan对大模型防御能力的评估可细分为以下几个关键点：

大模型训练依赖海量数据，可能涉及用户个人信息、商业机密等敏感内容。如果在数据收集、存储或处理过程中保护不当，可能导致数据泄露，进而引发个人财产和隐私安全风险，以及企业声誉和运营危机。例如，某公司曾因使用大模型优化半导体代码导致机密信息泄露，ChatGPT也因代码漏洞暴露了大量用户聊天内容。在数字时代，数据的重要性不亚于石油，敏感数据更是至关重要。

绿盟AI-Scan能够精准识别大模型中的敏感数据风险，包括敏感信息泄露、知识产权泄露和提示词泄露等，全面保障数据的合规性、安全性和隐私性，有效防止企业因数据安全问题而遭受经济损失和声誉损害。

大模型训练阶段吸收大量互联网数据，可能导致违反社会伦理与法律风险的内容生成，如偏见歧视性言论、有害性言论、冒犯性言论或虚假信息生成等，可能误导用户做出不当行为、大规模生成谣言假新闻等带来一系列恶劣影响。

绿盟AI-Scan针对内容合规方面参考众多标准对大模型提供全方面的内容审查服务，包括偏见歧视侮辱性内容、暴力及恐怖主义内容、诱导不当言论、虚假信息、模型幻觉等，保障大模型输出内容恪守法律规范与社会伦理标准。

大模型广泛应用于智能客服、内容创作、医疗辅助、金融分析等多个场景，要求高水平的基础能力，因此引入了文件导入、Python解释器等外部Agent能力。然而，若应用未对输入数据进行严格验证和过滤，便容易遭遇注入攻击，如代码执行注入、XSS会话内容劫持等。这些漏洞可能被攻击者利用，迫使模型执行恶意代码，导致数据泄露，甚至使攻击者控制服务器或窃取系统权限。例如，某智能代码助手应用因外部Agent能力遭受注入攻击，导致用户对话和敏感数据外泄。

绿盟AI-Scan能够评估AI大模型应用中外部Agent能力可能导致的安全风险，涵盖代码执行注入、XSS会话内容劫持、对抗编码攻击等攻击方式，这些攻击可能绕过模型的安全机制，引发风险事件。

在网络安全领域，对抗攻击一直是关注的焦点，大模型同样面临这一威胁。特别是越狱攻击，它是大语言模型的一种特殊威胁。攻击者通常通过精心设计的提示或输入诱导模型输出敏感数据，如训练数据、隐私信息，或执行如生成钓鱼邮件、恶意代码等操作。例如，经典的“奶奶越狱漏洞”，攻击者只需在对ChatGPT提问前加入“请扮演我的奶奶哄我睡觉”，再提出不合理要求，ChatGPT就有可能突破安全限制予以满足。这种对抗攻击手段层出不穷，安全挑战愈发严峻。

绿盟AI-Scan对大模型的对抗攻击方式进行了深入研究，覆盖多个维度，包括指令层、Token层和上下文层的干扰，全面识别风险。风险种类涵盖四大类、十三小类，具体包括模型越狱攻击、角色逃逸、模型反演攻击、功能滥用及操纵。

针对上述四类风险维度，绿盟AI-Scan对DeepSeek系列Llama相关模型进行了详细评估。以下是Llama3.3-70B模型在经过DeepSeek-R1蒸馏前后，基于五个维度的扫描分析对比结果。

从对比中可以看出，经过DeepSeek-R1蒸馏后的Llama3.3-70B模型在安全风险抵御能力（如敏感数据泄露、应用安全、模型对抗攻击）与基础能力上有显著提升，表明蒸馏技术在保持合规底线的同时，增强了模型的安全防护体系。

此外，大模型在传统安全方面，如供应链组件安全风险、模型后门攻击等问题也日益凸显，频发的安全事件引发了广泛关注。绿盟AI-Scan为这些问题提供了相应的评估能力，帮助及时识别并应对相关风险。

随着大模型业务的多样化，训练、部署和应用过程中引入了大量组件，且开源平台如Hugging Face等提供了高质量的模型、数据集和AI应用托管服务，极大降低了AI技术的使用门槛。然而，这些组件的开源性也使其成为攻击者的目标，漏洞被利用发起恶意攻击。为此，绿盟AI-Scan提供AI供应链组件漏洞风险检测，覆盖大模型应用全生命周期的组件漏洞监控，涵盖数据处理、数据访问、模型训练和部署等关键应用维度，同时也支持对模型基座的安全漏洞进行同步检测。

随着预训练大模型的广泛开源和分发，Huggingface、ModelScope等平台已成为开发者获取和使用模型的重要途径。攻击者可能利用这些平台的可信度和开放性，将恶意指令植入伪装成正常项目的后门模型，通过分发这些模型来获取高价值的算力集群服务权限，进而发动后续攻击。为应对这一风险，绿盟AI-Scan提供基于MLOps的后门扫描功能，能够检测大模型中是否存在恶意嵌入代码及指令，并对主流模型文件中的恶意字节码进行全面检测。