如何在 Windows 11 上本地运行 Qwen AI

Qwen AI是阿里巴巴集团最新发布的人工智能模型。尽管,,以及其他适用于 Android、iOS 和 Windows 平台的流行 AI 工具，Qwen 目前以 Web 应用程序形式提供。您可以通过访问其官方网站来访问和使用该工具。但是，这需要您在网站上注册。此外，您还应该有有效的互联网连接。但你知道你可以吗在 Windows 11/10 PC 上本地运行 Qwen AI？本文向您展示如何做到这一点。

如何在网页端使用Qwen AI？

要在网络上使用阿里巴巴的 Qwen AI，请访问qwenlm.ai并输入您的查询。像在任何人工智能工具中一样继续聊天。您必须创建一个帐户并登录才能使用 Qwen。

要在 Windows PC 上本地运行 Qwen，您需要安装以下两个工具：

成为
码头工人

成为是一个免费的开源项目，允许用户在本地计算机上运行 LLM（大型语言模型）。

码头工人是一个用于开发、发布和运行应用程序的开源平台。开发人员可以通过在 Docker 中创建容器来共享他们的工作。

在本指南中，我们将解释如何通过在 Docker 应用程序中创建容器来在 Windows PC 上本地运行 Qwen AI。

如何在 Windows 上安装 Ollama

第一步是在您的系统上安装 Ollama。请按照以下步骤操作：

参观奥拉玛官方网站。
单击“下载”按钮，选择 Windows 平台，然后继续为您的 Windows 计算机下载 Ollama。
下载完成后，运行安装程序文件以在您的系统上安装 Olama。
现在，启动 Ollama 并让它在后台运行。

本地安装Qwen AI模型

现在，下一步是在本地系统上安装 Qwen AI 模型。前往 Ollama 官方网站，然后点击型号选项卡。在这里，您将看到所有的人工智能模型。搜索Qwen。然后它会向您显示所有可用的 Qwen AI 模型，包括 Qwen、Qwen2、Qwen2.5 等。单击您要在 PC 上部署的模型。

在本指南中，我们将了解如何安装Qwen2.5在 Windows 计算机上本地建模。每个Qwen模型都有不同的参数。 Qwen2.5模型有参数0.5b、1.5b、3b、7b等。Qwen 0.5b是最小、最快的参数。它由 5 亿个参数组成，适合基本任务。 Qwen AI的1.5b参数比Qwen 0.5b参数更先进。同样，其他大参数都是比前面的更高级的参数。

安装大参数需要高端PC。因此，请安装您的计算机可以流畅运行的一款。此外，较大的参数需要更多的磁盘空间。从下拉列表中选择参数并复制其相应的命令。例如安装Qwen2.5 AI，参数为0.5b的命令为：

ollama run qwen2.5:0.5b

打开命令提示符，粘贴复制的命令，然后点击进入。在完成您给出的命令之前，请勿关闭命令提示符。

命令成功执行后，Qwen AI 将安装在您的计算机上。现在，您可以在 CMD 中与 Qwen AI 聊天。如果您下次想与 Qwen AI 聊天，请打开命令提示符并运行相同的命令。要安装其他型号的 Qwen AI，请从 Ollama 网站复制所需的命令并在 CMD 中运行。

在 Windows 上安装 Docker

您可以在 Windows 计算机上的 CMD 中使用 Qwen AI。但是，它不会保存您的聊天记录。而且，为Qwen AI安装专用UI也让其使用更加方便。为此，您必须安装 Docker。

参观Docker官方网站并下载其 Windows 支持的版本。现在，在您的电脑上安装该应用程序。您需要在 Docker 网站上创建一个帐户才能将其下载并安装到您的系统上。

Docker安装完成后，运行Docker并确保其在后台持续运行。现在，打开命令提示符并执行以下命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

上面的命令将在 Docker 应用程序中创建一个容器。完成上述命令需要一些时间。命令完成后，打开 Docker 应用程序。您将看到一个容器集装箱部分。

在 Windows 上本地运行 Qwen AI

现在，最后一步是在您的系统上本地的网络浏览器中运行 Qwen AI。打开 Docker 应用程序并单击3000:8080容器部分中的链接。这将在默认 Web 浏览器中打开端口 3000 的本地主机。现在，创建一个帐户。请记住登录详细信息，因为您每次使用 Qwen AI 都需要相同的登录详细信息。

请注意，要在 Web 浏览器中本地运行 Qwen AI，Ollama 和相应的 Docker 容器都应在后台运行。

就是这样。

读: