最高第 3 名 现在第 3 名
EAGLE-4推理加速发布
EAGLE-4发布,在阿里Qwen3.8-27B上用TokenSpeed于4块B300实现961.6 tokens/s的最快推理速度。
要点
- EagleCorp 发布 EAGLE-4,称其是目前最快的版本。
- EAGLE-4 在 Alibaba_Qwen 的 Qwen3.8-27B 上使用 TokenSpeed,达到 961.6 tokens/s,配置为 BF16、4× NVIDIA B300、TP4、单请求、T=0。
- 原推作者称在 Qwen3.8-27B 单请求下实现 4× 原生吞吐:EAGLE-4 为 961.6 tokens/s,DFlash 2 为 672.6,DSpark 为 618.6,Vanilla 为 240.5;MegaKernel 关闭,使用 TokenSpeed。
- 原推作者附上了 EAGLE-4 的 GitHub 链接。
要点和反应摘要由 AI 依据本页推文整理,请以原推为准。 我们怎么用 AI
原推
X 上的热门回复
X 上的反应: 回复反应不一:有人祝贺发布,也有人批评称,一个用了早就存在的树方法的自回归 drafter 却采用 “Eagle 4 Source-Available License”,并反对把 efficient lm head 商标化。原推作者未在所示回复中作出回应。
讨论 0
注册 登录 后参与讨论
还没有人讨论,来说第一句。