最高第 3 名 现在第 3 名
Unsloth本地运行DeepSeek V4.1 Flash
Unsloth称DeepSeek V4.1-Flash-1017可本地运行，1-bit量化保留约88.2%准确率，体积从508GB降至250GB。
要点
- Unsloth AI 称 DeepSeek V4.1-Flash-1017 现可在本地运行，1-bit 量化保留约 88.2% 准确率，体积从 508GB 降至 250GB，减少 52%。
- 其称该模型可在 128GB+ 内存设备上运行，并称 V4.1 Flash 1017 是迄今最强的开源模型。
- Daniel Han 表示团队为 DS4.1-Flash 做了 llama.cpp 实现并制作 Unsloth 动态 GGUF，发现 Q6_K 约等于 MXFP8、IQ4_NL 会损失一点准确率，engram 可完全从磁盘流式读取。
- DeepSeek 称 DeepSeek-V4.1-Flash-1017 已上线其官网、App 和 API，相比上一版基准性能更强、任务完成更快、输出更短，并针对 DeepSeek Harness、Tencent CodeBuddy 和 WorkBuddy 做了优化。
要点和反应摘要由 AI 依据本页推文整理，请以原推为准。 我们怎么用 AI
原推
DeepSeek V4.1-Flash-1017 can now run locally! 🐳
We made 1-bit retain ~88.2% accuracy while shrinking size from 508GB to 250GB (−52%).
Run on a 128GB+ RAM device.
V4.1 Flash 1017 is the strongest open model to date
Guide: https://t.co/YPEmDLas7d
GGUF: https://t.co/1kD14VTAYP https://t.co/JyAwz8zOVO引用 @deepseek_ai: 🚀 DeepSeek-V4.1-Flash-1017 is here!
Stronger benchmark performance, faster task completion, and shorter outputs than the previous version—a Pareto improvement in performance and cost. Now live on our website, app, and API.
🛠️ Optimized for @DeepSeekHarness, Tencent CodeBuddy, WorkBuddy, and more. Upgrade to DeepSeek Harness v0.2.1-rc.1 or later for the best experience with the new model.
1/4
同一事件，其他人怎么说
1 条-
Unsloth为DeepSeek V4.1-Flash实现llama.cpp支持并制作动态GGUF，发现Q6_K约等于MXFP8精度，engram可从磁盘流式加载。
在 X 上查看
讨论 0
注册 登录 后参与讨论
还没有人讨论，来说第一句。