外观
新闻MarkTechPost（RSS）（via AIHOT）4 天前
NVIDIA发布Nemotron 3.5 Bolt：4GB显存驱动机器人端侧语音交互
本文由 AI 根据公开内容整理，可能有误，请以原文为准：NVIDIA Releases Nemotron 3.5 Bolt E4B 4GB: An Open Small Language Model for Local Voice Agents, Game Characters and Robots（MarkTechPost（RSS）（via AIHOT））
核心内容
NVIDIA正式发布开源小语言模型Nemotron 3.5 Bolt E4B 4GB，专为本地语音助手、游戏NPC及机器人接口设计。该模型总参数8B、有效参数4B，基于Google Gemma 4 E4B架构，完全跳过SFT阶段，仅通过RLVR和RLHF进行后训练以保留对话质量。在NVIDIA内部测试的21项基准中，该模型在15项推理任务上领先，IHEval得分达84.8，显著优于Gemma 4 E4B（67.0）与Qwen3.5-4B（60.6），但在Tau2-Bench等长文本与复杂工具评测中落后于竞品。
工程部署方面，Q4_K_M量化版本在RTX 5070上首字延迟548ms、生成速率133.4 tokens/s；在Jetson AGX Orin与Orin Nano上分别实现24.0与15.5 tokens/s推理速度，显存占用稳定在4.2GB左右，为视觉与语音模型预留资源。模型原生支持异步多轮工具调用、conversational_mode短回复模式及可配置推理预算，并配备DFlash推测解码器使推理速度提升1.21倍。目前已在Reachy Mini机器人上完成Cosmos 3 Edge视觉+Bolt语音工具调用的联合部署验证，权重与训练配方均按OpenMDW-1.1协议开源。
关键看点
- 纯RL后训练：跳过SFT直接采用RLVR/RLHF微调Gemma 4 E4B，保持2:1非推理/推理样本比，避免工具调用能力损害对话流畅度与冗余度
- 端侧推理性能：Q4_K_M量化版在RTX 5070达133.4 tokens/s，Jetson Orin Nano为15.5 tokens/s，显存占用3.1-4.3GB，适配嵌入式机器人算力约束
- Agent原生特性：内置多轮异步工具调用指导、
conversational_mode标志位及运行时思考预算控制，支持64K上下文承载历史状态与工具定义 - 实机部署验证：在Reachy Mini机器人Jetson Orin Nano平台上与Cosmos 3 Edge视觉模型协同，承担语音回复生成与工具调度任务
工程与产业观察
Nemotron 3.5 Bolt证明了纯RL后训练小模型在机器人端侧Agent场景的可行性，其4GB显存占用与工具调用能力为Jetson等边缘平台提供了高性价比的交互中枢方案。尽管在复杂长程任务上仍有短板，但其开源的训练配方与量化校准数据为具身智能开发者优化本地VLA系统提供了关键基线参考。
线索来源：AIHOT
来源
本页事实对应的公开页面，以原文为准。