Cisco AI Defense:AI 运行时防护

为生产环境中的 AI 应用保驾护航

自动配置防护措施,有针对性地解决各模型的漏洞。

卓越的 AI 应用防护能力

AI Runtime 会根据 AI 模型和应用验证识别出的各模型特定的漏洞,自动配置与之精准匹配的防护措施,然后通过这些防护措施实时保护生产环境中的应用,使其免受攻击和恶意响应的侵害。

AI Runtime GUI

拦截恶意输入

随着连接的数据越来越多,针对 AI 系统的攻击变得愈发频繁和复杂。AI Runtime 会检查所有输入,及时自动拦截恶意负载,防止其造成破坏。常见的攻击手段包括提示词注入、提示词提取、拒绝服务 (DoS) 和命令执行等。该组件还会拦截个人身份信息 (PII) 等敏感数据,防止其进入模型。

保障模型输出内容的安全

无论是恶意行为还是无心之过,都有可能导致 AI 模型生成不当的响应内容。AI Runtime 会扫描模型的输出内容,确保其中不含敏感信息、幻觉或其他有害内容。任何不符合企业标准的响应内容都将遭到拦截,包括来自模型微调过程或用于检索增强生成 (RAG) 的关联数据库中的敏感数据。

自定义策略,满足不同需求

AI 模型应用广泛,不同行业、不同使用案例对安全防护措施的要求也各不相同。AI Runtime 内置数百项现成的防护策略,并支持根据 AI 验证识别出的各模型漏洞进行自定义。您还可以根据企业标准进一步定制规则,比如设定对露骨语言的容忍度或定义敏感信息。

放心部署 AI 应用

网络级可视性与策略执行

凭借对网络流量的全面可视性与可控性,思科能够利用多个策略执行点,精准检测并拦截恶意及异常 AI 流量。

通用于各类模型与应用的安全防护

AI Runtime 可为聊天机器人、检索增强生成 (RAG) 应用以及 AI 代理等各种生成式 AI 应用提供周全保护,并为各种专有、商业和开源 AI 应用提供原生支持。

为关键应用提供极速防护

AI Runtime 服务兼具低延迟、高可用与高带宽三大优势,即使是要求最严苛的企业应用,也能从容应对。

助力企业打造卓越的 AI 安全体系

借助 AI Defense,轻松遵循各项 AI 安全标准,包括面向大语言模型 (LLM) 应用的 OWASP Top 10。如需详细了解各类 AI 风险及其与 MITRE、NIST 和 OWASP 等标准之间的对应关系,请参阅我们的 AI 安全分类。

测试为应用提供支持的模型

基础模型

无论是经过微调,还是专门构建,基础模型都是当今大多数 AI 应用的核心。了解保障模型安全无虞所面临的挑战。

RAG 应用

检索增强生成 (RAG) 正迅速成为一种为大语言模型 (LLM) 应用增添丰富情景信息的标准方法。了解 RAG 所带来的具体安全风险。

AI 聊天机器人和代理

聊天机器人是当前大热的 LLM 应用,与此同时,能够代表用户执行操作的自主代理也正崭露头角。了解 AI 聊天机器人和代理所带来的安全风险。


更多资源

AI 安全分类

全面了解生成式 AI 所面临的威胁形势,掌握相关定义、缓解措施和标准分类。

AI 安全研究和威胁智能

查看有关 AI 攻击手法的最新研究和分析成果,并了解这些成果如何助力我们完善检测机制。

AI 安全参考架构

面向 LLM 应用开发团队的安全设计模式与实践。

思科的负责任 AI 原则

思科致力于为 AI 及其他新兴技术提供安全保障。

企业 AI 安全的理想之选

弥合 AI 安全短板,为企业 AI 转型之路扫清障碍,获得覆盖整个环境的周全防护。