# llama-cpp-K2-FAST2

> 权威词条地址：https://robotics.hellobike.com/models/vladhong-llama-cpp-k2-fast2
> 所属分类：models | 最近核验日期：2026-10-08 | 技术层级：L7

## 核心摘要

VladHong 在 Hugging Face 发布的机器人模型。

## 结构化工程参数

| 参数项 | 数值 / 配置 |
| :--- | :--- |
| `layers` | ["L7"] |
| `links` | [{"title": "Hugging Face", "url": "https://huggingface.co/VladHong/llama-cpp-K2-FAST2"}] |
| `updated` | 2026-10-08 |
| `family` | other |
| `params` | 36B-A4B |
| `architecture` | LeRobot / PyTorch Policy Network |
| `action_representation` | 连续关节位置/末端位姿动作空间 |
| `code_license` | apache-2.0 |
| `weights_license` | apache-2.0 |
| `data_formats` | ["GGUF"] |
| `status` | research |
| `hub_id` | VladHong/llama-cpp-K2-FAST2 |
| `hub_stats` | {"downloads": 1394, "likes": 0, "as_of": "2026-10-21"} |
| `overview_sources` | ["https://huggingface.co/VladHong/llama-cpp-K2-FAST2"] |

## 技术详解与生态说明

该仓库是 MBZUAI-IFM 的 llama.cpp `model/K2Horizon` 分支的 K2-FAST2 fork，在 `src/models/k2-horizon.cpp` 中加入 51 行改动，为 `k2-horizon` 支持 sliding-window attention。配套的 FAST2 GGUF 可在模型元数据中嵌入窗口；没有窗口键时，行为与原 `model/K2Horizon` 保持 bit-identical。

在 RTX 2080 Ti 22 GB、61K context、同一 61,337-token prompt 和同一二进制的测试中，FAST2 使用 W=8192 时 decode 为 50.72 tok/s、prefill 为 1,482 tok/s，相比 vanilla APEX-Mini 分别为 3.1× 和 2.1×。窗口内 perplexity 与 full attention 数值相同；召回按设计限制在最后 W tokens，需要按工作负载选择窗口。

## 原始核验来源 (Sources)

- [Hugging Face VladHong/llama-cpp-K2-FAST2](https://huggingface.co/VladHong/llama-cpp-K2-FAST2)