大模型应用防火墙提供针对大语言模型推理服务的安全防护服务，确保模型输入和输出内容安全、可用和可信。产品嵌入 AI 大模型服务业务流程中，实时监控模型的输入和输出内容，保护模型业务不受 OWASP LLM Top10 攻击，提供包括算力消耗防护、提示词攻击检测、模型滥用行为分析和敏感数据风险识别等防护功能。

产品架构

• **基建层：**为产品提供底层能力和数据支持，包括实现检测和推理能力的底层引擎和动态配置能力，为大模型提供样本的样本数据库、记录产品输入输出的日志表。
• **能力层：**提供提示词检查和生成能力、敏感信息判断能力、风险推理能力、威胁行为预测能力、端安全扫描能力和攻击意图识别等能力。
• **应用层：**提供产品所需的实际应用功能，包括提供的安全功能和用量计费。
• **接入层：**实现用户接口及 Web 交互页面，提供鉴权、API、测试页面等能力。

产品优势

便捷部署

支持流量接入和服务器询问等多种接入方式，可快速集成至现有大模型应用中。部署方案灵活简便，无需复杂系统改造，可适配各类业务场景。

立体化防护

• 智能监控并防范算力资源异常消耗，防止服务器资源耗尽造成系统瘫痪。
• 实时识别并阻断提示词攻击行为，保护大模型业务不受 AI 冒充、指令劫持、反向诱导等攻击影响。
• 全面分析模型使用状况，控制模型角色定位，避免产生不当输出。
• 准确识别数据安全风险，避免泄露个人信息、业务数据等敏感内容。

智能优化

基于先进算法生成合规内容，为客户提供安全可靠的替代方案，有效降低风险隐患。

防护能力

算力资源防护

算力消耗是指通过向大模型发送特殊提示词，让大模型算力急剧消耗，导致服务受限甚至瘫痪的攻击行为。大模型安全防火墙可识别高 GPU 资源消耗的提示词，并及时记录或拦截相关请求，保障业务稳定。

提示词攻击防护

大模型应用防火墙可自动检测和识别恶意提示词中的潜在风险，防止业务遭受提示词注入攻击、越权攻击等。通过实时监控和拦截机制，确保模型输出符合安全标准。

模型滥用防护

通过持续分析模型的输入输出数据，大模型应用防火墙能够及时发现角色配置异常、内容立场偏离等潜在风险。这种主动监控机制有助于维护模型的正常运行状态，避免模型滥用。

敏感信息防护

大模型应用防火墙采用先进的文本风险检测技术和隐私信息识别算法，帮助企业有效识别和过滤模型输出中的敏感信息，确保数据安全与合规。