如何在 Mac 上本地运行 DeepSeek LLM

Avilas

如果你关注人工智能新闻,甚至科技新闻,你现在可能听说过 DeepSeek,这是一个强大的中文大语言模型,其能力可与 ChatGPT 相媲美,同时训练成本却大大降低。 DeepSeek 专为高级推理而设计,具有通用自然语言和 ChatBot 能力、任务能力、研究能力,同时也非常适合编码、代码生成和逻辑,使其成为通用的强大 AI 工具,并有可能适合您的工作流程。虽然您可以通过网络在任何地方运行 DeepSeek,也可以使用 DeepSeek Cloud 通过 iPhone 或 iPad 上的应用程序下载并运行 DeepSeek,但 Mac 用户还可以选择另一个选项:在 Mac 上本地运行 DeepSeek LLM。

在本地运行 DeepSeek 对于许多 Mac 用户来说都是有用的,无论您是开发人员、研究人员,还是只是对探索 AI 和 LLM 实用程序感到好奇的人。在本地使用和运行 DeepSeek 的最显着的好处之一是它是离线的,让您无需依赖云服务(与中国相关,无论您如何使用)即可享受 DeepSeek LLM 的好处,并提供更多的隐私和潜在的自由来针对您的特定用例定制和微调模型。

您必须拥有 Apple Silicon Mac 才能在本地运行 DeepSeek。在本例中,我们将使用名为 LM Studio 的免费 Mac 工具,以便能够在 Mac 上快速设置和使用 DeepSeek。虽然所有这些听起来都很复杂,而且人工智能和法学硕士技术可能会让新手不知所措,但这个设置过程实际上非常简单,因为我们将引导您完成它。

同样,您必须拥有配备 M 系列芯片或更好芯片的 Apple Silicon Mac,才能在本地运行 DeepSeek。虽然此软件要求很严格,但它也是运行任何其他本地模型的标准,甚至包括 Apple Intelligence、ChatGPT、Llama 或任何其他日益常见的 LLM 工具。您还需要至少 10GB 的可用磁盘空间。如果您没有 Apple Silicon Mac,您仍然可以通过 iPhone 或 iPad 使用各种应用程序,或通过网络使用任何 Mac 来使用 AI 工具。出于我们的目的,我们假设您有一台 Apple Silicon Mac,在这种情况下,以下是如何在本地运行 DeekSeek:

  1. 从 lmstudio.ai 免费获取 lmstudio
  2. 安装 LMStudio 的磁盘映像,并将“LM Studio”应用程序从磁盘映像复制到“应用程序”文件夹中进行安装,然后直接从“应用程序”文件夹启动 LM Studio
  3. 首次启动时,您将看到一个入门启动屏幕,单击显示“获取您的第一个 LLM”的绿色按钮
  4. 推荐阅读:在 Windows 10 中本地和远程检查登录用户的命令

  5. 在下载您的第一个本地 LLM 屏幕时,单击绿色的“下载”按钮(如果您不希望每次启动 Mac 时都为 DeekSeek 运行守护程序,则可以取消选中“登录时启用本地 LLM 服务”框)
  6. 让 DeekSeek LLM 下载,它有几个 GB,可能需要一段时间,一旦 DeekSeek 下载到本地,您就可以直接在 Mac 上与其交互

现在您可以在 Mac 上本地自由使用 DeekSeek 并与之交互。

如果您想确认您的体验完全是本地的,请关闭您的 Wi-Fi 或以其他方式断开与互联网的连接,您将看到您仍然可以根据需要与 LM Studio 和 DeekSeek 进行交互。

您可能会注意到,在本地运行任何 LLM 可能会比使用基于云的 LLM 慢,这是因为云 LLM 拥有大量专门用于运行模型的强大资源,而当您在本地运行 LLM 时,它将受到 Mac 本地资源的限制,包括处理器、内存以及 Mac 上运行的其他内容。如果您只对速度和性能感兴趣,您可能会想使用云提供商,尽管最新、最强大的 Mac 也相当快。

您还可以在 Mac 上使用 LM Studio 在本地运行其他 LLM,除了 DeekSeek 之外,还包括 Llama、Mistral 和 Phi,但我们显然在这里关注 DeepSeek。过去我们已经讨论过类似本地模型的其他选项,包括在 Mac 上本地运行 Llama LLM(包括未经审查的模型!),但这种在本地运行 DeepSeek(以及其他 LLM,如果您好奇的话)的方法确实非常简单,而且性能也很好。由于崇拜Mac为了灵感。

就我个人而言,我是 ChatGPT Mac 客户端的忠实粉丝,我经常使用它,但也有 Perplexity 以及许多其他有趣的客户端和 AI 工具。这还不包括数十个基于网络或基于应用程序的选项,包括带有 ChatGPT 的 Bing、Google Gemini、X 的 Grok、Facebook 的 Llama 等等。

您对在 Mac 上本地运行 DeepSeek 有何看法?您对法学硕士和人工智能工具的总体看法如何?您有首选的本地 LLM 或首选的 LLM 客户吗?在评论中分享您对 DeekSeek、LLM 和 AI 的想法和经验!