llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11709 新增 Kolibri-1(Aleph-Alpha)支持
b11709
AI 导读
llama.cpp 发布 b11709,新增对 Aleph-Alpha 的 Kolibri-1 支持。该模型是德语/英语双语 MoE 推理模型,78B 参数、每 token 激活 3.46B,共 50 层、384 个路由专家加 1 个共享专家,注意力以 513 窗口的 4 层滑动层与 1 层全层交替。
来源:llama.cpp Releases · github.com