在本地环境运行LLM的工具——Ollama和LM Studio的比较

随着人工智能的发展，我们现在正处于一个可以在自己的计算机上运行最新的大规模语言模型（LLM）的时代。对于那些想要在没有互联网连接的情况下利用人工智能的力量同时保护隐私的人来说，本地法学硕士是理想的选择。

在本文中，两种流行的本地LLM工具“Ollama”和“LM Studio”的功能、兼容型号和使用方法的全面比较并提供信息来帮助您选择适合您的工具。

本文内容在上面的GPT主播室以简单易懂的音频进行讲解。

Ollama 和 LM Studio 都是允许您在本地环境中运行 LLM 的工具，但它们具有不同的设计理念和目标用户。我们将从以下几个方面来比较主要的区别。

成为：采用基于命令行的操作方式，界面简单、轻量。熟悉命令的技术人员和用户可以高效操作。

LM工作室：提供直观的图形用户界面（GUI），让您只需使用鼠标即可搜索模型、下载模型以及使用聊天功能。适合喜欢视觉导航的用户和初学者。

Ollama 上提供的型号

Ollama 支持专有模型和某些开源模型。具体来说，有以下型号可供选择：

这些模型可以在Ollama平台上选择、下载和使用。

LM Studio 允许您从 Hugging Face 等平台搜索和下载各种模型。具体来说，有以下型号可供选择：

您可以通过 LM Studio 用户界面轻松搜索、下载和使用这些模型。

下面的文章里说，虽小，也很优秀。在 LM Studio 中运行 Sakana AI 的日语模型的步骤已解释。

Ollama 是一个允许您在本地环境中运行大规模语言模型 (LLM) 的工具。下面，我们就一步步介绍Ollama的基本使用方法。

打开终端或命令提示符：确认已安装 Ollama 后，打开终端（macOS、Linux）或命令提示符（Windows）。
拉模型：输入以下命令下载您要使用的模型。
ollama pull <モデル名>
例如，如果您下载 Llama 3.2 模型：ollama pull llama3.2-vision

运行模型：下载完成后，使用以下命令运行模型。
ollama run <モデル名>
例如，运行 Llama 3.2 模型时：ollama run llama3.2-vision
输入提示：模型启动时出现提示。您可以在此处输入模型的问题和说明并获得答复。

有一个模型，其中 DeepSeek R1 还接受了日语训练，因此我总结了使用该模型构建本地 LLM 的步骤。它不需要任何命令，只需点击鼠标即可安装，适合初学者。

在比较这两种工具的功能后，我们认为适合您情况的最佳选择如下：