Jan：免费、私密的 AI 桌面应用指南

什么是 Jan？

Jan 是一款免费、开源的桌面应用，可在你的机器上本地运行大语言模型。它采用 AGPLv3 许可证，为你提供一个完全离线运行的类 ChatGPT 界面--没有任何数据离开你的电脑。 Jan 由 Homebrew Computer Company 团队打造，围绕一个简单的理念设计：AI 应当默认是个人化且私密的。该应用把所有数据--模型、对话、设置--都存储在一个属于你自己的本地文件夹中。

它基于 llama.cpp 构建--在消费级硬件上实现快速推理，并支持来自 HuggingFace 的 GGUF 量化模型。 Jan.ai 是下载量最高的本地 AI 桌面应用之一--下载量 530 万次、GitHub 星标 41,000+，截至 2026 年 3 月版本为 0.7.9。

安装与设置

操作系统：Windows 10 或更高版本 · CPU：需要支持 AVX2--Intel Haswell（2013+）、AMD Excavator（2015+）内存：最低 8GB（建议 16GB）GPU：NVIDIA、AMD 或 Intel Arc GPU 最低需要 6GB 显存 · 存储：最少 10GB 可用空间。 该应用支持 Windows、macOS（Intel 和 Apple Silicon 均可）以及各种 Linux 发行版。

可直接从 jan.ai 或 GitHub releases 页面下载 Jan.ai。安装遵循各平台的标准惯例：Windows 用 .exe 安装程序，macOS 用 .dmg，Linux 用 AppImage。 无需复杂配置--默认设置对大多数用户来说效果就很好。应用会自动检测你的硬件并相应地进行优化。

Jan 提供多种安装格式，包括 .deb 和 AppImage，但对大多数 Linux 用户而言我会推荐 AppImage。它是一个单一的自包含文件，几乎可在任何发行版上运行，不会动你的系统软件包，应用本身也不需要 root 权限。它能让你免于依赖地狱。

安装完成后，Jan 会在首次启动时自动下载一个默认模型。点击左侧边栏中的 Hub。这是 Jan 内置的模型库，一个精心挑选的开源模型列表，一键即可下载。

支持的模型

支持的热门模型包括 Meta Llama 3 系列、Mistral 7B/8x7B、阿里巴巴 Qwen 2/2.5 系列、Google Gemma 2、DeepSeek-R1 等。模型以 GGUF 格式存储，支持量化版本以降低硬件要求。

Jan 的 Model Hub 旨在方便地安装预配置模型，但它也允许你安装几乎任何来自 Hugging Face 的模型，甚至你自己的模型。 云端集成：需要时可连接 OpenAI、Anthropic、Gemini 和 Groq 等云服务提供商。

主要支持的框架与格式：

• 用于 llama.cpp 的 GGUF，而在 Apple Silicon 上，MLX-Swift 模型可通过 Jan 的 MLX 引擎获得支持。
• 在 NVIDIA 上，Jan 会安装 llama.cpp 的 CUDA 后端。在 Apple Silicon 上，v0.7.7 新增了原生 MLX 支持--这是一次意义重大的升级，为 Mac 用户取代了较慢的 llama.cpp Metal 路径。
• AMD 和 Intel Arc GPU 可通过 Vulkan 工作，不过这条路径测试较少。

优点

• 完全的隐私与离线能力：下载好模型后，Jan 可完全离线工作。所有推理都在你的硬件上本地运行，聊天或 API 服务器功能都无需网络连接。

• 零成本：没有定价层级、没有订阅、没有使用限制，也无需注册账号。该软件完全在你的本地硬件上运行，零持续成本。

• 开源且可审计：Jan 将精致的 GUI 与完全开源的透明性和插件架构结合在一起。

• 本地 + 云端的统一界面：在专业服务场景中，Jan 最大的优势是把精致的桌面 UI 和干净的 OpenAI 兼容端点结合在同一款产品里。一次安装，你既能得到给前台接待员用的友好聊天窗口，也能得到给开发者用的 API。

• 自动硬件优化：GPU 加速是自动的。 Jan v0.7.9 新增了自动上下文长度上限控制，以避免 OOM 崩溃--这是一个长期困扰用户的问题，现在无需手动调参即可解决。

• 可扩展性：Jan AI 内置扩展系统，社区开发者可以创建各种插件来扩展功能。常见扩展包括语音转文字、网页搜索集成、RAG 文档查询和代码语法高亮。

• 支持模型上下文协议：Jan AI 支持 Anthropic 提出的模型上下文协议（MCP），可连接包括 Gmail、Google Drive、Notion、Slack、Figma 等在内的外部工具和服务。通过 MCP，AI 助手能直接读取你的文档、日历和邮件，显著提升实际工作效率。

缺点

• 依赖硬件：一台 32 GB 内存的笔记本可以舒适地运行 13B 模型，缓慢地运行 30B 模型。一个量化合理的 70B 模型需要强力 GPU，在 CPU 上则非常痛苦。至于 400B 的混合专家模型，在 MacBook 上根本不可能。如果你的用例需要更大的模型（复杂推理、长上下文文档处理、达到 Claude 或 GPT-4 质量的代码生成），你需要一台 GPU 服务器。

• 性能慢于其他替代方案：在同一硬件上，Jan AI 的推理时间比 Ollama 慢。Ollama 的响应速度是每秒 6.62 个 token，而 Jan AI 约为每秒 5 个 token。第二次测试中，Ollama 报告每秒 7.35 个 token，而 Jan AI 为每秒 3 个 token。

• 不适合多用户团队：Jan 最大的弱点在于多用户部署很别扭。它是一款桌面应用。如果你想让十名员工使用同一个模型，要么在每台机器上安装 Jan（这会分散治理并让存储翻倍），要么把模型托管在一台中央服务器上，用 Open WebUI 托起 Ollama，再让 Jan 指向它。

• 模型质量参差：AI 回复的质量会因所选模型而异，因为开源 LLM 仍在不断演进。

• RAG 成熟度有限：代价是生态成熟度：工具支持和集成落后于主流。函数调用和工具生态不如主流助手成熟，集成也更单薄：它优化的是隐私，而非广度。

• 需要技术性配置：Jan 需要投入--无论是安装时间还是持续的资源管理。

最佳使用场景

Jan AI 吸引各类用户群体，包括：寻求离线起草和头脑风暴工具的写作者。希望试验提示词或创建本地 AI 应用的开发者。处理敏感信息、重视数据安全的研究人员。网络连接不稳定但仍希望可靠使用 AI 的个人。比起订阅制更偏好免费软件的用户。

当你的主要用例是交互式 AI 聊天和一般性协助--写作帮助、编程问题、研究、头脑风暴--而没有文档问答需求时，Jan 是正确选择。

例如，你可以用 Qwen2.5-Coder 创建“代码审查助手”，用 Gemma2 创建“翻译助手”，用 Llama3 创建“写作助手”。

知识工作、创意产业、学术界适用对象：设计师、研究人员、写作者、项目经理、独立专业人士。

常见问题

Jan 能否在没有网络的情况下完全离线工作？

可以，下载好模型后 Jan 可完全离线工作。所有推理都在你的硬件上本地运行，聊天或 API 服务器功能都无需网络连接。

运行 Jan 的最低硬件要求是什么？

最低要求包括 8GB 内存和支持 AVX2 的 CPU（2013 年及以后的大多数处理器）。若要获得最佳性能，16GB 内存和一块独立 GPU 将显著改善响应时间。

Jan 是否完全免费、没有隐藏成本？

是的，Jan 完全免费且开源，采用 AGPLv3 许可证。本地运行模型没有订阅费、使用限制或隐藏成本。

我能否将 Jan 与 OpenAI 或 Claude 等云端 AI 服务一起使用？

云端集成：需要时可连接 OpenAI、Anthropic、Gemini 和 Groq 等云服务提供商。可轻松在本地与云端模型之间切换。