NoFOMO
搜索 中EN 登录 注册

最高第 3 名 现在第 3 名

EAGLE-4推理加速发布

EAGLE-4发布,在阿里Qwen3.8-27B上用TokenSpeed于4块B300实现961.6 tokens/s的最快推理速度。

名次变化

要点

  • EagleCorp 发布 EAGLE-4,称其是目前最快的版本。
  • EAGLE-4 在 Alibaba_Qwen 的 Qwen3.8-27B 上使用 TokenSpeed,达到 961.6 tokens/s,配置为 BF16、4× NVIDIA B300、TP4、单请求、T=0。
  • 原推作者称在 Qwen3.8-27B 单请求下实现 4× 原生吞吐:EAGLE-4 为 961.6 tokens/s,DFlash 2 为 672.6,DSpark 为 618.6,Vanilla 为 240.5;MegaKernel 关闭,使用 TokenSpeed。
  • 原推作者附上了 EAGLE-4 的 GitHub 链接。

要点和反应摘要由 AI 依据本页推文整理,请以原推为准。 我们怎么用 AI

原推

Eagle @EagleCorp 9,562 粉丝

EAGLE-4 is here. From EAGLE-1 to EAGLE-3, we’ve kept making inference faster. EAGLE-4 is our fastest yet. 961.6 tokens/s on @Alibaba_Qwen’s Qwen3.8-27B with TokenSpeed (BF16, 4× @NVIDIA B300, TP4, one request, T=0). Github: https://t.co/GwocZk1UTU https://t.co/GawgFNXKWj
推文配图
5,371点赞 681转发 559回复 155.4万浏览

在 X 上查看 收藏

X 上的热门回复

X 上的反应: 回复反应不一:有人祝贺发布,也有人批评称,一个用了早就存在的树方法的自回归 drafter 却采用 “Eagle 4 Source-Available License”,并反对把 efficient lm head 商标化。原推作者未在所示回复中作出回应。

登录后查看 X 上的 3 条热门回复

来自 @EagleCorp, @lightseekorg, @selim_aktas2 等,已过滤广告,附中英文翻译。

免费注册 已有账号?登录

讨论 0

还没有人讨论,来说第一句。

推荐信源

觉得我们漏了哪个一手信源,或者该关注什么话题?告诉我们。审核通过后,所有人的榜单都会覆盖到它。

@用户名,或者主页链接