壹 · 玩法
查看更多最新玩法
收集来的本地模型玩法,标注好硬件和工具
用 Ollama + Open WebUI 搭一个家用 ChatGPT
十分钟在自己电脑上跑起带网页界面、多用户、可切换模型的聊天助手,局域网里的手机也能用。
- 工具
- Ollama · Open WebUI · Docker
- 显存 / 内存
- 8GB 起
在 VS Code 里接一个完全离线的编程助手
用 Continue 插件连接本地 Ollama 模型,补全和对话都不出本机,适合公司代码不能外传的场景。
- 工具
- Ollama · Continue · VS Code
- 显存 / 内存
- 16GB 推荐
用 AnythingLLM 把自己的文档变成可问答的知识库
桌面版一键安装,接上本地模型和本地向量库,拖进 PDF、网页、笔记就能问。
- 工具
- AnythingLLM · Ollama
- 显存 / 内存
- 8GB 起
贰 · 资讯
查看更多本地模型资讯
AI 每日筛选,人工审核后发布
资讯栏目说明
本栏目由 AI 每天从 Reddit、Hacker News、GitHub Releases 等来源收集本地模型部署相关资讯,筛选、摘要、翻译后经人工审核发布。
Gemma-4-31B-Humanlike-Chat 发布:优化人类语音与对话风格的微调模型
基于 Google Gemma 4 31B 官方模型微调的 Humanlike-Chat 版本发布,改进了人类语音与聊天风格,支持 GGUF、Safetensors、FP8 及 GPTQ-Int4 本地部署权重。
Unsloth 发布 DeepSeek-V4.1-Flash 动态 v3.1 GGUF 量化模型
Unsloth 推出 DeepSeek-V4.1-1017 动态 v3.1 预览版 GGUF,在多项基准测试中展现出高精度保留能力,并更新了 Unsloth Desktop 功能。
ISTA 发布 DeepSeek-V4.1-Flash 量化版本基准测试说明
ISTA 针对与 Unsloth 测试结果的差异做出说明,指出推理预算限制(32K vs 128K)是导致跑分差异的主因。
Google Project Suncatcher 卫星成功在太空本地运行 Gemma 模型
Google 确认其 Project Suncatcher 卫星成功在板载 TPU 上运行 Gemma 模型,并向地球传回了生成的首个响应(一首诗)。
MOSS 团队 Reddit AMA:开源模型家族全貌与本地运行资源汇总
复旦大学及上海创新研究院背景的 MOSS 团队在 Reddit 进行 AMA,集中介绍了涵盖图像生成、语音合成、音频与视觉理解的开源模型家族(如 MOSS-Image、MOSS-TTS 系列等)。
叁 · 博客
查看更多博客
部署记录与踩坑笔记
为什么要做这个站
本地模型越来越好用,但玩法散落在各个论坛和群里,想找个地方把它们攒起来。