最高第 3 名 现在第 4 名
Ling-3.1-flash开源发布
Ant Ling 宣布开源 Ling-3.1-flash,约 5600 亿总参数、每 token 约 250 亿激活、最高 100 万上下文。
要点
- Ling-3.1-flash 现已开源,约 560B 总参数、每 token 约 25B 激活、最高 1M 上下文。
- @vllm_project 宣布 vLLM 已 Day-0 支持 Ling-3.1-flash。
- 原推作者称,MXFP4 专家层和 block-FP8 密集层将权重从约 534GB 降至约 292GB,测试中的 Hopper 配置从 8 GPU 减到 4 GPU。
要点和反应摘要由 AI 依据本页推文整理,请以原推为准。 我们怎么用 AI
原推
同一事件,其他人怎么说
1 条-
vLLM在Ling-3.1-flash开源当天即提供支持,该模型约560B总参数、25B激活、支持100万上下文。
在 X 上查看
X 上的热门回复
X 上的反应: 回复整体偏正面:有人表示通过 API 大量使用过 Ling-3.1-flash 并称赞效果,也有人认为它不错但对 flash 来说太大。原推作者回复补充了本地部署细节,包括权重下降和 GPU 数量数据。
讨论 0
注册 登录 后参与讨论
还没有人讨论,来说第一句。