POST

Jan:本地优先的 AI 客户端,断网也能用,DeepSeek 只是其中一个选项

4.5 万 star 的开源 ChatGPT 替代品。可以在本机跑模型,也可以接 DeepSeek 的 API,数据默认不出机器。

Jan 的定位一句话说完:把 ChatGPT 装进你电脑,运行在你自己的硬件上。

它默认用本地模型(通过内置的推理引擎),也支持接云端 API——DeepSeek 就是其中最常用的一个。

4.5 万 star,地址:

https://github.com/menloresearch/jan

两种用法,想清楚再选

本地模式:下载模型(几 GB),在你自己的 CPU/GPU 上跑。断网能用,数据绝不出门,但速度取决于硬件,7B 级别的模型在普通笔记本上大约每秒几个字。

云端模式:接 DeepSeek 的 API,快、强、按量付费,但每次请求都发到外面。

Jan 的好处是:同一个界面,两种随便切。

装

官网下载(Windows / macOS / Linux),或者 GitHub Releases。装完是个干净的桌面应用。

接 DeepSeek

设置 → 模型提供方(Providers)→ 添加:

选 OpenAI 兼容,或者它内置的 DeepSeek 项,然后:

API 地址:https://api.deepseek.com/v1
API Key:sk-你的key
模型:deepseek-chat

保存后,新对话的模型下拉里会出现它。

切换模型:对话进行到一半也能切。前半段用本地小模型,遇到难题切到 DeepSeek,这是它比较实用的一个设计。

本地模型怎么选

它内置的模型市场里能直接下载。给几个参考:

  • qwen2.5-7b:中文好,8 GB 内存能跑;
  • llama3.2-3b:小,快,质量一般;
  • deepseek-r1 的蒸馏版(1.5B / 7B / 8B):推理能力在同类里不错。

别指望本地跑出 API 的效果。7B 模型和 DeepSeek 的 V3 差着量级,本地模式的价值是"离线可用"和"隐私",不是"更强"。

几个实际的设计

它把数据存在本地目录,模型、对话、设置分开。想备份就备份那个文件夹,想清空就删掉。

支持 MCP 和扩展(较新版本),能接工具,生态还在长。

界面克制。没有一堆花哨功能,就聊天、模型、设置三块。

会踩的坑

本地模型下载慢 模型托管在境外,国内经常几十 KB/s。可以在设置里换成镜像源,或者手动把模型文件放进目录。

本地跑很卡 内存不够或者没开硬件加速。8 GB 是底线,16 GB 才舒服。

切模型后上下文丢了 不同模型的上下文长度不一样,切换时会截断。重要的对话别中途切。

API 模式报 401 Key 带空格,或者地址多写了 /v1/v1。

它适合谁

  • 想要一个"断网也能用"的 AI 桌面端;
  • 数据敏感,不希望任何内容上云;
  • 手上硬件还行(16 GB 内存 + 独显更好)。

不适合:只想用 DeepSeek 的(直接装 Chatbox 或 Cherry 更省事);硬件很老的机器。

最后

Jan 押的是一个判断:未来的 AI 客户端,本地和云端会同时存在,不是二选一。

这个判断我认同。本地模型负责隐私和离线,云端负责能力上限,一个界面管两边,比自己拼三个工具舒服。

有问题留言。

👁 - 次浏览

留言

← 返回首页