新闻Ars Technica12 天前
DeepMind发布Gemini Robotics 2.5并开源ASIMOV安全基准
本文由 AI 根据公开内容整理,可能有误,请以原文为准:DeepMind reveals Gemini Robotics 2.5 and open safety benchmark "ASIMOV-jailbreak"(Ars Technica:AI(RSS)(via AIHOT))
核心内容
Google DeepMind正式发布新一代具身智能平台Gemini Robotics 2.5,同步宣布开源安全基准测试集ASIMOV-jailbreak。该举措针对机器人与人类协同作业场景,试图通过标准化的安全评估体系,验证大模型在物理交互环境下的指令遵循能力与防御恶意诱导的鲁棒性,推动行业从单纯追求任务成功率转向兼顾安全对齐。
ASIMOV-jailbreak作为专用安全基准,聚焦于检测机器人基础模型在面对对抗性提示词注入时的行为边界,填补了具身智能领域缺乏系统性越狱防御评测工具的空白。Gemini Robotics 2.5则强化了多模态感知与底层控制的语义对齐,支持在复杂动态环境中执行长序列任务,其架构设计强调将安全约束内嵌于策略生成环节,而非仅作为后置过滤模块。
关键看点
- Gemini Robotics 2.5:新一代具身平台强化多模态感知与控制语义对齐,支持人机协同场景下的长序列任务执行与安全约束内嵌。
- ASIMOV-jailbreak:开源安全基准专测机器人模型对抗提示词注入的鲁棒性,填补具身智能越狱防御评测工具空白。
- 安全对齐范式:将安全约束前置嵌入策略生成环节,推动具身智能研发从单一任务指标转向安全与性能并重。
工程与产业观察
ASIMOV-jailbreak的开源标志着具身智能安全评测进入标准化阶段,为算法工程师提供了可复现的越狱防御验证基线。Gemini Robotics 2.5的安全内嵌架构表明,工业级部署正从“功能优先”转向“安全原生”,这对构建可信人机协作系统及制定行业准入标准具有关键参考价值。
线索来源:AIHOT
外部来源
本页事实对应的公开页面,以原文为准。(点击将离开本站)