Jan:本地优先的 AI 客户端,断网也能用,DeepSeek 只是其中一个选项
4.5 万 star 的开源 ChatGPT 替代品。可以在本机跑模型,也可以接 DeepSeek 的 API,数据默认不出机器。
Jan 的定位一句话说完:把 ChatGPT 装进你电脑,运行在你自己的硬件上。
它默认用本地模型(通过内置的推理引擎),也支持接云端 API——DeepSeek 就是其中最常用的一个。
4.5 万 star,地址:
https://github.com/menloresearch/jan
两种用法,想清楚再选
本地模式:下载模型(几 GB),在你自己的 CPU/GPU 上跑。断网能用,数据绝不出门,但速度取决于硬件,7B 级别的模型在普通笔记本上大约每秒几个字。
云端模式:接 DeepSeek 的 API,快、强、按量付费,但每次请求都发到外面。
Jan 的好处是:同一个界面,两种随便切。
装
官网下载(Windows / macOS / Linux),或者 GitHub Releases。装完是个干净的桌面应用。
接 DeepSeek
设置 → 模型提供方(Providers)→ 添加:
选 OpenAI 兼容,或者它内置的 DeepSeek 项,然后:
API 地址:https://api.deepseek.com/v1
API Key:sk-你的key
模型:deepseek-chat
保存后,新对话的模型下拉里会出现它。
切换模型:对话进行到一半也能切。前半段用本地小模型,遇到难题切到 DeepSeek,这是它比较实用的一个设计。
本地模型怎么选
它内置的模型市场里能直接下载。给几个参考:
qwen2.5-7b:中文好,8 GB 内存能跑;llama3.2-3b:小,快,质量一般;deepseek-r1的蒸馏版(1.5B / 7B / 8B):推理能力在同类里不错。
别指望本地跑出 API 的效果。7B 模型和 DeepSeek 的 V3 差着量级,本地模式的价值是"离线可用"和"隐私",不是"更强"。
几个实际的设计
它把数据存在本地目录,模型、对话、设置分开。想备份就备份那个文件夹,想清空就删掉。
支持 MCP 和扩展(较新版本),能接工具,生态还在长。
界面克制。没有一堆花哨功能,就聊天、模型、设置三块。
会踩的坑
本地模型下载慢 模型托管在境外,国内经常几十 KB/s。可以在设置里换成镜像源,或者手动把模型文件放进目录。
本地跑很卡 内存不够或者没开硬件加速。8 GB 是底线,16 GB 才舒服。
切模型后上下文丢了 不同模型的上下文长度不一样,切换时会截断。重要的对话别中途切。
API 模式报 401
Key 带空格,或者地址多写了 /v1/v1。
它适合谁
- 想要一个"断网也能用"的 AI 桌面端;
- 数据敏感,不希望任何内容上云;
- 手上硬件还行(16 GB 内存 + 独显更好)。
不适合:只想用 DeepSeek 的(直接装 Chatbox 或 Cherry 更省事);硬件很老的机器。
最后
Jan 押的是一个判断:未来的 AI 客户端,本地和云端会同时存在,不是二选一。
这个判断我认同。本地模型负责隐私和离线,云端负责能力上限,一个界面管两边,比自己拼三个工具舒服。
有问题留言。
留言