论文arXiv 2610.3614312 天前
程序级对抗自博弈框架验证机器人代码防御局限
本文由 AI 根据公开内容整理,可能有误,请以原文为准:Program-Level Adversarial Co-Adaptive Self-Play for Robotic Security(arXiv 2610.36143)
核心内容
针对编码智能体生成的机器人防御代码难以应对演化对手的问题,研究提出程序级对抗协同自适应自博弈框架。该框架允许智能体基于对手代码与任务反馈自动生成攻防策略,无需模型微调。两项八代迭代案例研究显示,虽然系统能产出具体软件响应,但这些防御措施仅能提供局部任务恢复,未能确立长期的系统鲁棒性,揭示了当前代码级自适应的安全边界。
技术实现上,框架通过环境特定接口支持外部程序集成,覆盖自动驾驶与SDK级人形机器人运动控制场景。在自动驾驶案例中,防御方引入了直接执行恢复机制;在人形机器人案例中,防御方修订了传入状态验证逻辑。所有适应过程与局限性均通过可执行工件与任务级证据显式呈现,为评估机器人在开放环境下的软件安全性提供了可观测的实证基准。
关键看点
- 免微调自博弈:框架支持编码智能体基于对手代码与任务反馈自主生成攻防程序,无需对底层模型进行额外微调
- 跨域接口适配:通过环境特定接口兼容外部程序,已验证自动驾驶及人形机器人SDK级运动控制两类防御场景
- 防御代码实例:八代迭代中产出自动驾驶直接执行恢复与人形机器人传入状态验证修订等具体可执行防御工件
- 鲁棒性局限:实验证实自动生成的防御代码仅能实现局部任务恢复,无法在对抗演化中建立持续的系统鲁棒性
工程与产业观察
该研究揭示了LLM驱动的机器人代码自愈在动态对抗环境中的本质瓶颈:虽能快速生成针对性补丁解决瞬时故障,但缺乏全局安全泛化能力。这提示具身智能安全工程不能仅依赖运行时自适应,仍需结合形式化验证与确定性安全护栏,以弥补生成式防御在长期鲁棒性上的缺失。
英文摘要 (Abstract)
Coding agents can adapt robotic software by revising executable programs, but successful responses to an evolving opponent may not remain effective. We present a framework for program-level adversarial co-adaptive self-play in which coding agents generate attacks and defenses from tested opponent code and mission feedback, without model fine-tuning. Environment-specific interfaces support external programs for autonomous driving and SDK-level defenses for humanoid locomotion. Two eight-generation case studies reveal concrete software responses: a driving defender introduces direct-actuation recovery, while a humanoid defender revises incoming-state validation. These responses provide local task recovery but do not establish sustained robustness. The framework makes such adaptation and limitations observable through executable artifacts and task-level evidence.
作者:Leo Benaharon, Chi Zhang, Wei Zheng, Weifan Zhang, Yifan Wei, Yong Sun
外部来源
本页事实对应的公开页面,以原文为准。(点击将离开本站)