外观
新闻ROS Discourse 官方社区3 天前
Webots验证TIAGo双驻留安全门：感知仅可停机不可复位
针对人机协作中概率模型失效风险，提出确定性Doer-Checker安全架构。在Webots中对TIAGo Base进行438周期仿真，验证感知触发急停后需经双重1.0s驻留及人工显式复位方可恢复，决策耗时p50为1.38ms且日志回放零偏差。
TIAGo Base本文由 AI 根据公开内容整理，可能有误，请以原文为准：Can a social reflex stop a robot but never restart it? Testing a dual-dwell safety gate (Webots)（ROS Discourse 官方社区）
核心内容
为解决医院等场景下概率AI模型幻觉导致机器人失控的风险，开发者构建了确定性安全底层架构并在Webots中对TIAGo Base进行测试。该架构核心契约规定感知模型仅有权撤销运动许可而无权恢复。在14秒连续仿真中，系统成功拦截了0.85置信度的 distress 信号注入，从触发CRITICAL状态到车轮指令归零严格控制在同一32ms控制周期内，验证了安全机制的实时响应能力。
系统采用Doer-Checker双通道模式：导航进程通过UDP提议2.00 rad/s速度但无执行器写权限；监督门以纯数学函数运行于32ms硬实时周期，独占电机控制权。恢复逻辑强制执行双重驻留：反射层HSR需1.0s滞后确认环境平静，随后安全门再执行1.0s内部驻留，最终依赖操作员显式重置。审计显示Gate决策计算p50耗时1.38ms、最大4.50ms，离线哈希链日志回放438个周期实现比特级精确复现。
关键看点
- 安全契约：确立感知模型单向权限原则，仅能剥夺移动许可而禁止自动授权恢复，防止AI幻觉引发70kg级本体失控风险
- 时序约束：实施反射层与安全门双重1.0s驻留机制，确保状态翻转后至少经历2秒稳定窗口，杜绝传感器抖动导致的控制震荡
- 实时性能：监督门纯函数决策在32ms周期内完成，p50计算耗时1.38ms，急停指令与CRITICAL状态变更在同一控制周期生效
- 可验证性：采用哈希链JSONL审计日志，离线重放工具verify_log.py对438个控制周期实现比特级零偏差复现，保障安全逻辑确定性
工程与产业观察
该架构为具身智能提供了将非确定性感知与确定性安全控制解耦的工程范式。通过纯函数监督门与双重驻留机制，有效规避了端到端模型在长尾场景下的安全风险。其哈希链审计与离线回放验证方法，为人机共融机器人的安全合规测试提供了可复现的技术参考，尤其适用于医疗康养等高敏感场景的本体控制策略设计。
来源
本页事实对应的公开页面，以原文为准。