transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 为 transformers 加入 GGUF 支持，用户可从 Hub 选取 GGUF 检查点，用 from_pretrained 传入 gguf_file 即可在本地生成，无需额外配置。
推荐理由：Hugging Face 官方说明 transformers 接入 GGUF 的加载方式与性能对比，可据此判断本地推理工作流的变化。
跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
Hugging Face 为 transformers 加入 GGUF 支持，用户可从 Hub 选取 GGUF 检查点，用 from_pretrained 传入 gguf_file 即可在本地生成，无需额外配置。
推荐理由：Hugging Face 官方说明 transformers 接入 GGUF 的加载方式与性能对比，可据此判断本地推理工作流的变化。