外观
新闻IEEE Spectrum Robotics1 个月前
Physical AI安全新范式：VLA后门攻击与系统漏洞链威胁机器人决策
本文由 AI 根据公开内容整理，可能有误，请以原文为准：Rethinking Robot Safety in the Age of AI（IEEE Spectrum Robotics）
核心内容
随着具身智能从物理防护转向数据完整性验证，NeurIPS 2025发布的BadVLA攻击针对Vision-Language-Action模型植入后门，使机器人在特定触发器下偏离动作轨迹；GoBA研究证实普通物体如咖啡杯可作为触发器，实现97%攻击成功率且不影响正常任务性能。这暴露了模型验证中对抗性条件下的安全盲区，表明通过测试的模型仍可能在运行时产生被篡改的行为。
系统层与运行时感知同样脆弱。2025年9月披露的UniPwn漏洞链利用硬编码密钥与认证绕过，可在60秒内对四足及人形机器人实施蠕虫式根级控制；ROS 2与DDS中间件漏洞允许未授权话题注入恶意命令或替换模型权重。NVIDIA Isaac Sim结合VicOne Radeis等仿真工具正被用于部署前验证对抗性视觉输入影响，以应对训练管线、基础设施及运行时感知的多层攻击面。
关键看点
- VLA后门攻击：BadVLA针对视觉语言动作模型植入条件触发器，导致机器人动作轨迹偏离，且在任务迁移与微调后仍保持有效性
- 高隐蔽触发机制：GoBA研究显示咖啡杯等普通物体可作触发器，攻击成功率达97%，且在干净输入下模型性能无衰减
- 系统级漏洞链：UniPwn利用硬编码密钥与认证绕过实现蓝牙蠕虫传播，60秒内获取四足及人形机器人根权限并注入命令
- 中间件信任危机：ROS 2与DDS系统漏洞允许未授权话题执行任意代码或替换AI模型权重，组件正常但指令流可信度丧失
工程与产业观察
具身智能安全需从物理合规升级为数据与模型鲁棒性验证。VLA后门与系统漏洞链表明，算法工程师必须在训练阶段引入对抗性测试，硬件研发应审计通信协议与中间件鉴权机制，产业方需建立覆盖仿真到部署的全链路安全验证标准，否则模型通过率不等于实际安全性。
来源
本页事实对应的公开页面，以原文为准。