Robust Intelligence

Robust Intelligence

Robust Intelligence 是一个企业级人工智能安全平台,帮助组织验证模型并保护生产中的AI应用。思科于2024年10月收购了该公司,其技术现已驱动 Cisco AI Defense 和 Cisco Foundation AI。

该平台开创了算法红队测试,并被思科描述为业内首个AI防火墙。它涵盖企业AI风险的两个方面:在部署前发现漏洞,以及在运行时阻止提示注入、拒绝服务和数据泄露等攻击。

安全措施在网络层面执行,无需在应用代码中加入代理或库,这让AI团队能够更快地推进,而无需将安全交由单独的工具链管理。Cisco AI Defense 还会对分布式云环境中的AI工作负载、模型和连接的数据源进行清点。

该平台为安全团队、机器学习工程师和部署第三方或定制AI应用的企业设计,确保这些应用符合NIST、MITRE ATLAS和OWASP LLM Top 10等标准。

主要功能:
  1. 算法红队在几秒钟内而非几天内标记模型漏洞

  2. 嵌入网络的运行时保护阻止实时的提示注入和有害输出

  3. 发现跨多云环境中的AI应用、模型、数据和用户

  4. 揭示影子AI使用情况并制定策略以控制员工访问

  5. 通过单一集成映射到NIST、MITRE ATLAS和OWASP LLM十大风险

  6. Explorer版允许开发者免费进行红队测试并在几分钟内获得报告

Pros:
  1. 率先开发算法红队测试和早期AI防火墙概念,如今已融入Cisco AI Defense。

  2. 网络级别执行将安全性从应用代码中解耦,无需额外代理。

  3. 一个平台涵盖部署前验证和实时运行时保护。

  4. 免费Explorer版为开发者提供一种低门槛的方式,在购买企业版访问权限前测试AI应用。

Cons:
  1. 完整平台需要企业级的 Cisco 销售参与,而非自助注册。

  2. 原 robustintelligence.com 域名已无法访问;产品信息现存于 Cisco 网站。

  3. 网络层保护对已经使用或正在采用 Cisco 安全套件的组织最为有价值。

常见问题:

Robust Intelligence 仍然是独立产品吗?

不是。Cisco 于 2024 年 10 月收购了 Robust Intelligence。该技术现已集成到 Cisco AI Defense 和 Cisco Foundation AI 中,产品详情和演示可在 Cisco 官网查看。

什么是 Cisco AI Defense Explorer Edition?

Explorer Edition 是一款免费产品,允许 AI 开发者在投入完整企业平台之前对其应用进行红队测试。Robust Intelligence 用户可以在几分钟内运行测试并收到详细的安全报告。

Robust Intelligence 是否在运行时保护 AI 应用?

是的。Cisco AI Defense 包含 AI 运行时保护,采用网络嵌入式护栏,能够实时阻止对抗性攻击、提示注入、模型拒绝服务和数据泄露,且无需在代码中添加代理。

Robust Intelligence 支持哪些安全标准?

集成了 Robust Intelligence 技术的 Cisco AI Defense 通过单一集成帮助组织符合 NIST、MITRE ATLAS 和 OWASP LLM 十大安全标准。

企业如何获取完整的 Robust Intelligence 平台?

企业版 Cisco AI Defense 平台通过 Cisco 销售。组织可在 Cisco AI Defense 产品页面申请演示,以评估验证、运行时保护、云可见性和访问控制功能。

Robust Intelligence 能否发现我环境中已运行的 AI 资产?

能。AI 云可见性功能会自动盘点分布式环境中的 AI 模型和连接的数据源,帮助安全团队了解使用情况并评估风险。

定价:

付费

标签:

AI Security
Machine Learning
AI Validation
AI Protection
Enterprise AI Solutions
Algorithmic Red Teaming
LLM Security
Cisco AI Defense

使用的技术:

React
Chakra UI
Ant Design
jQuery
Cloudflare
Sentry
GraphQL
Python
Ruby
Emotion

评论:

Give your opinion on Robust Intelligence :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

最佳免费 Robust Intelligence 替代方案(和付费)

By Rishit