跳到正文
原文
Hugging Face Blog·AI 评分48

用 100 步 GRPO 微调 LFM2.5-350M 提升结构化输出能力

Fine-tuning a 350M Model for Better Structured Outputs in 100 GRPO Steps

AI 导读

一份公开的低成本方案用 TRL 的 GRPO 对 LFM2.5-350M 做微调,仅约 500 条样本、100 个训练步,在 IFStruct 基准上把通过率从 22.6% 提升到 29.7%,训练可在免费版 Colab 或 Kaggle GPU 上完成。评测通过 llama.cpp 在本地 MacBook 上运行,代码已开源在 GitHub。

来源:Hugging Face Blog · huggingface.co