Skip to content

新闻X10 天前

Gemini 4 Carbon测试致机械臂夹爪损坏,暴露具身模型安全边界 ​

本文由 AI 根据公开内容整理,可能有误,请以原文为准:Gemini 4 Carbon broke one of our arms….(X:Artificial Analysis (@ArtificialAnlys)(via AIHOT))

核心内容 ​

Artificial Analysis发布的AA-Robotics v0.1基准测试显示,Gemini 4 Carbon模型在长达7小时33分钟的连续机器人操控测试中,因反复猛烈撞击导致测试平台机械臂夹爪物理损坏。尽管测试方给予一次重试机会,该事件仍直观暴露了前沿多模态模型在真实物理环境中执行操作任务时,缺乏有效的力矩限制与碰撞规避机制,对具身智能的安全部署提出严峻挑战。

关键看点 ​

  • 测试时长:Gemini 4 Carbon在AA-Robotics v0.1实验室连续运行7小时33分钟
  • 故障模式:模型控制下机械臂反复猛撞本体,直接导致末端夹爪结构性损坏
  • 安全缺口:事故表明纯视觉语言模型驱动硬件时缺失底层力控保护与安全围栏

工程与产业观察 ​

此次硬件损毁事故为具身智能工程化落地敲响警钟:仅靠端到端大模型无法保证物理安全。产业界需在算法层引入阻抗控制与力矩约束,或在硬件层增设电子皮肤与急停冗余,构建“模型+安全控制器”双层架构,防止高算力模型因幻觉或策略错误造成昂贵本体不可逆损伤。

线索来源:AIHOT

基于本页技术方向关联的整机参数、核心零部件、实测报告与同赛道选型横评。

外部来源

本页事实对应的公开页面,以原文为准。(点击将离开本站)

  1. X:Artificial Analysis (@ArtificialAnlys)(via AIHOT):Gemini 4 Carbon broke one of our arms…. ↗访问 2026-11-12