新闻X今天

Claude Opus 5.5机械臂任务暴露停止决策缺陷

Artificial Analysis测试显示，Claude Opus 5.5在执行机械臂抓取任务时出现严重停止策略失效。模型在23分钟完成任务后，仍持续无效操作22分钟将物体推回原位，揭示当前VLM在具身控制中缺乏可靠的任务终止判断机制。

AI 整理

本体 SDK 与控制
具身模型
评测与安全

本文由 AI 根据公开内容整理，可能有误，请以原文为准：Knowing when to stop is hard for language models controlling a robot arm（X：Artificial Analysis (@ArtificialAnlys)（via AIHOT））

核心内容

Artificial Analysis发布的评测视频揭示了前沿大语言模型Claude Opus 5.5在机械臂操控任务中的关键缺陷。测试中，该模型耗时23分钟成功完成鳄鱼玩具的放置任务并给出正确语音反馈，但未能触发停止指令，随后又花费22分钟进行无效往复推动，最终导致物体几乎回到初始位置，暴露出模型在任务闭环验证与终止决策上的工程短板。

该案例典型反映了视觉语言模型作为机器人上层控制器时的状态机缺失问题。尽管模型具备语义理解与基础规划能力，但在物理交互环节缺乏对“任务完成态”的鲁棒感知或置信度阈值校验机制，导致生成式策略陷入循环执行。这表明仅靠端到端多模态推理难以满足工业级具身智能对确定性与安全性的要求，亟需引入显式状态监测或混合控制架构来约束模型行为边界。

关键看点

停止策略失效：模型在确认任务完成后仍持续输出动作指令达22分钟，缺乏基于物理反馈的自动熔断或任务终结判定逻辑
无效循环操作：在完成放置后反复推拉鳄鱼玩具致其回归原位，显示生成式策略在长时序任务中存在严重的状态漂移与目标丢失
语义与执行脱节：模型虽能正确识别并口述“鳄鱼完全进去”，但语言层的成功判断未有效映射为控制层的停止信号
任务耗时异常：单次简单抓取任务总耗时达45分钟，其中近50%时间为无效冗余操作，凸显当前VLM直接控臂的效率瓶颈

工程与产业观察

该测试为具身智能落地敲响警钟：单纯依赖大模型端到端控制机械臂存在显著可靠性风险。工程实践中必须构建独立于LLM的任务状态监控器与安全兜底策略，将语义理解与底层执行解耦。对于算法工程师而言，这提示需在Prompt工程之外，强化基于传感器反馈的显式终止条件设计，避免生成式AI在物理世界陷入“自信的错误循环”。

线索来源：AIHOT