新模型UnslothDeepSeekGGUFQuantizationLocal LLM

Unsloth 发布 DeepSeek-V4.1-Flash 动态 v3.1 GGUF 量化模型

Unsloth 发布 DeepSeek-V4.1-Flash 动态 v3.1 GGUF 量化模型

Unsloth 推出 DeepSeek-V4.1-1017 动态 v3.1 预览版 GGUF,在多项基准测试中展现出高精度保留能力,并更新了 Unsloth Desktop 功能。

Unsloth 推出了全新的 DeepSeek-V4.1-1017 Dynamic v3.1 (预览版) GGUF。官方表示,其动态 GGUF 量化方案在多个基准测试(包括 AIME25、LiveCodeBench、GPQA Diamond、Aider Polyglot 等)中,保持了同体量下极高的准确率,并在多项指标上优于同类的 GSQ-RCO GGUF。

主要更新与测试数据

  • 精度对比:在 AIME25、GPQA-D、MMLU-Pro 等测试中,Unsloth UDv3.1 量化版本表现出优秀的性能保留。

  • 硬件需求:该模型可在 128GB RAM/统一内存设备上运行,或通过 engram offloading 在 64GB RAM 设备上运行。

  • Unsloth Desktop 更新:同时引入了 Browser Use、自动压缩、全新 TTS 管道(支持声音克隆、分离等)、沙盒以及背景定制等新功能。

  • Unsloth 官方博客与详细数据

  • Hugging Face GGUF 下载

  • Unsloth GitHub 仓库