外观
新闻IEEE Spectrum Robotics昨天
VicOne揭示机器人安全输入欺骗风险与对抗测试验证
本文由 AI 根据公开内容整理，可能有误，请以原文为准：Your Robot’s Safety Functions Already Work. What If the Input Lies?（IEEE Spectrum Robotics）
核心内容
VicOne LAB R7发布研究指出，机器人安全功能虽正常运行，但恶意或错误输入可导致危险行为。实验证明，视觉语言动作模型易受对抗样本干扰：海报文字被Gemma 4 E4B机器狗误作指令改变运动；Nemotron驱动的医院服务机器人在NVIDIA Jetson AGX Orin上被人耳不可闻音频篡改行为。这些案例表明，针对感知层的定向操纵可将低概率故障转化为可复现攻击，挑战了基于意外故障的传统安全评估假设。
在系统层安全验证中，研究人员通过ROS 2/DDS消息注入使本应静止的机器人强制移动，暴露通信协议安全隐患。同时，针对人形机器人平衡控制器依赖的陀螺仪，特定频率声波可扭曲姿态反馈导致错误补偿，类似声学攻击已在无人机上验证。自动驾驶领域研究亦证实单一物理对抗样本可同时欺骗相机与LiDAR融合感知，说明多传感器冗余若未经历对抗测试，其安全性保障能力将被高估。
关键看点
- VLA模型脆弱性：Gemma 4 E4B机器狗将海报文字误识别为控制指令，证实视觉语言动作模型易受环境文本对抗攻击
- 音频侧信道攻击：NVIDIA Jetson AGX Orin运行的Nemotron医院机器人被人耳不可闻音频篡改行为，任务逻辑未变但执行异常
- ROS2消息注入：通过DDS协议注入伪造消息，成功使处于安全控制模式下的机器人突破静止限制产生非预期移动
- 传感器共振欺骗：特定频率声波可干扰陀螺仪输出，导致人形机器人平衡控制器对不存在的倾斜进行错误补偿修正
工程与产业观察
该研究揭示了具身智能系统“功能安全”与“信息安全”的耦合风险。工程团队在设计冗余感知与安全回路时，必须引入对抗性测试验证传感器独立性与通信完整性，防止单一攻击向量同时击穿多重防护，推动安全标准从防故障向防恶意操纵演进。
来源
本页事实对应的公开页面，以原文为准。