Reupload
全部AI工具本地AI?

我的电脑能在本地运行AI吗?

此工具会查看浏览器能获取到的电脑信息--内存、处理器和显卡--并给出适合你电脑运行的本地AI工具和模型规模的粗略建议。

完全在你的浏览器中运行。你的电脑信息不会发送给Reupload或任何其他人。

为什么要在本地运行AI?

在本地运行AI模型意味着它完全在你自己的电脑上运行——没有任何数据离开你的设备,无需订阅,没有使用限制,即使没有网络连接也能继续工作。

代价在于能力:能装进笔记本电脑的模型,比支撑ChatGPT、Claude或Gemini的前沿模型要小得多,后者运行在数据中心级别的硬件上。对于日常任务——写作、总结文档、辅助编程、头脑风暴——选择得当的本地模型能非常接近这些效果,尤其是现在量化技术让即使是普通硬件也能运行真正实用的模型。

硬件档位一览

比起上面的检测,更想要一个快速参考?以下大致是每个硬件档位能运行的内容。

档位内存显卡模型规模示例
轻量4-8 GB集成显卡 / 无2B-4BGemma 2 2B, Phi-4 Mini
中等8-16 GB6-12 GB VRAM7B-14BLlama 3.2 8B, Mistral 7B
高端16 GB+16 GB+ VRAM30B-70B*Qwen 2.5 32B, Llama 3.1 70B

* 大型模型需要量化(一种精度降低的格式)才能装进消费级硬件——详见下方的模型对比。

浏览每个模型

常见问题

在本地运行AI需要显卡吗?

不一定,但显卡会有很大帮助。配备足够内存的现代CPU可以以可用的速度运行经过量化的小型模型(20亿至80亿参数);拥有足够显存的独立显卡能让你更快地运行更大的模型。

我需要多少内存?

小型模型至少需要8GB,舒适使用中型模型需要16GB或更多,如果只用CPU尝试大型模型则需要32GB以上。

在本地运行AI是免费的吗?

软件(Ollama、LM Studio等)以及开放权重模型本身都可以免费下载。你付出的是自己的硬件和电费,而不是每月的订阅费。

本地模型和ChatGPT或Claude一样好吗?

在复杂推理方面还不完全一样——云端前沿模型在这方面仍然领先——但对于日常写作、总结和编程辅助,选择得当的本地模型已经相当接近,而且很多任务本来就不需要顶级能力。

在本地运行模型应该用哪个工具?

这取决于你对命令行的熟悉程度:Ollama提供简单的命令行界面,而LM Studio、Jan、GPT4All和Msty提供完整的图形界面。上面的检测会根据你的硬件推荐一个。

我可以在笔记本电脑上运行本地AI吗?

可以。近几年的许多笔记本电脑——尤其是在CPU和GPU之间共享内存的苹果自研芯片Mac——都能流畅运行70亿至80亿参数的模型。