Q Labs无反向传播训练实验提速约4000倍
热点事件持续更新
Q Labs无反向传播训练实验提速约4000倍
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Q Labs公布开源项目Noise的进展：其不使用反向传播的Dust算法在小型GPT模型上，达到目标损失值的时间从1.76小时缩短到1.6秒，约4000倍。Q Labs称，这一提速是在3770万参数的小型GPT模型、FineWeb数据1000万token最多训练一轮的条件下取得的；1.6秒是该条件下达到目标损失值的时间，不代表训练完整商用大模型所需的时间。 Q Labs表示，自10月22日起已结束上述1000万token的评测，将训练数据增至3000万token，在配备8块H100 GPU的单节点上比拼速度，并把目标损失值降至3.5。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 18:07
Q Labs 无反向传播训练实验十天内提速约 4000 倍，1.76 小时降至 1.6 秒报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AI Times KoreaQ Labs 无反向传播训练实验十天内提速约 4000 倍，1.76 小时降至 1.6 秒
Q Labs 公布开源项目 Noise 的进展：在不使用反向传播的 Dust 算法上，小型 GPT 模型达到目标损失值的时间从 1.76 小时缩短到 1.6 秒，约 4000 倍。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。