在个人电脑上运行ChatGPT,无需云服务
用户现在可以将大型语言模型安装在个人电脑上,实现离线访问和更高的隐私保护。
像 ChatGPT 和 Gemini 这样的 AI 机器人所使用的 **大语言模型(LLMs)** 现在可以在个人电脑上本地运行。这样,用户就可以离线访问 AI 机器人,并且由于用户不再将数据发送到云端进行分析,因此可以更好地保护数据隐私。来自像 Meta 和 Google 这样的大公司的许多 **LLMs** 都可以免费下载。为了在本地运行 **LLMs**,用户需要有足够的 RAM,推荐至少 8 GB,但理想情况下是 16 GB 或更多。对于有专用 GPU 和充足 VRAM 的用户,特别是对于使用 NVIDIA GPU 的 Windows 用户,运行 **LLMs** 会更加顺畅。运行 **LLMs** 的软件选项包括 **LM Studio**、**Bionic VLLM**、**LLaMa.cpp**、**Ollama** 和 **GPT4All**。用户可以从 **Hugging Face** 等在线仓库中选择 **LLMs**,该仓库提供了超过 300 万个模型。