Skip to content

llama-cpp-K2-FAST2 ​

llama-cpp-K2-FAST2

VladHong 在 Hugging Face 发布的机器人模型。

模型VladHongllama-cpp-K2-FAST2

模型档案汇总架构、许可、适配机型与资料来源

llama-cpp-K2-FAST2

VladHong 在 Hugging Face 发布的机器人模型。

  • 具身模型
其他研究36B-A4B更新于 20 天前

概述

这个模型的核心架构、动作空间设计与真机部署定位。

该仓库是 MBZUAI-IFM 的 llama.cpp model/K2Horizon 分支的 K2-FAST2 fork,在 src/models/k2-horizon.cpp 中加入 51 行改动,为 k2-horizon 支持 sliding-window attention。配套的 FAST2 GGUF 可在模型元数据中嵌入窗口;没有窗口键时,行为与原 model/K2Horizon 保持 bit-identical。

在 RTX 2080 Ti 22 GB、61K context、同一 61,337-token prompt 和同一二进制的测试中,FAST2 使用 W=8192 时 decode 为 50.72 tok/s、prefill 为 1,482 tok/s,相比 vanilla APEX-Mini 分别为 3.1× 和 2.1×。窗口内 perplexity 与 full attention 数值相同;召回按设计限制在最后 W tokens,需要按工作负载选择窗口。

资料出处 Hugging Face VladHong/llama-cpp-K2-FAST2

关键参数与架构规格

参数量、网络主干、控制频率、显存需求及 Hugging Face Hub 统计。

Hub 下载量
1.4k
出处Hugging Face
Hub 点赞
0
出处Hugging Face
参数量
36B-A4B
网络架构
LeRobot / PyTorch Policy Network
动作空间表示
连续关节位置/末端位姿动作空间
支持数据格式
GGUF

暂未公开或待收录:微调显存需求 · 闭环控制频率

快速部署与许可说明

开源许可证、权重拉取命令、预训练数据集与关联文章。

代码许可证

apache-2.0

权重许可证

apache-2.0

权重下载与策略推理参考

# 1. 从 Hugging Face Hub 下载模型权重与配置
huggingface-cli download VladHong/llama-cpp-K2-FAST2 --local-dir ./checkpoints/vladhong-llama-cpp-k2-fast2

# 2. 使用 LeRobot / Transformers 加载策略开展真机或仿真闭环推理
python -m lerobot.scripts.eval --policy.path=VladHong/llama-cpp-K2-FAST2

关联机型

模型卡或论文声明在这些机器人上训练、微调或部署过;口径是作者声明,不是第三方复现。

没有已核实的适配记录。

同家族模型

同一家族里的热门模型。

来源

本页事实对应的公开页面,以原文为准。

  1. Hugging Face VladHong/llama-cpp-K2-FAST2访问 2026-10-21