Command Palette

Search for a command to run...

4 个月前

HySafe-AI:AI系统混合安全架构分析框架:案例研究

Mandar Pitale Jelena Frtunikj Abhinaw Priyadershi Vasu Singh Maria Spence

HySafe-AI:AI系统混合安全架构分析框架:案例研究

摘要

人工智能(AI)已成为自动驾驶系统(ADS)和机器人技术等安全关键领域的核心组成部分。近年来,自主系统的架构正朝着端到端(E2E)单体架构发展,例如大型语言模型(LLMs)和视觉语言模型(VLMs)。本文回顾了不同的架构解决方案,并评估了常见的安全分析方法的有效性,如失效模式与效应分析(FMEA)和故障树分析(FTA)。我们展示了这些技术如何可以针对基础模型的复杂特性进行改进,特别是在它们形成和利用潜在表示的方式上。我们引入了HySAFE-AI,一种混合型AI系统安全架构分析框架,该框架适应传统方法以评估AI系统的安全性。最后,我们提出了未来工作的方向和建议,以指导未来AI安全标准的发展。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
HySafe-AI:AI系统混合安全架构分析框架:案例研究 | 论文 | HyperAI超神经