Krafton在Hugging Face公开自研LLM Raon-1 mini预览版

Krafton于本月21日在Hugging Face公开自研大语言模型Raon-1 mini的预览版，采用MoE结构，总参数288亿、推理时仅激活约43亿，并搭配自研线性注意力RDA，支持最长262144 token上下文。Krafton称，该模型从设计到训练全程自研，并非修改或追加训练现有模型。 该预览版以Apache 2.0许可证公开。首次下载需登录并同意访问条件，访问审批自动完成；Krafton还限时免费提供无需搭建开发环境即可试用模型的在线playground。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。