如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型

DeepSeek 是一家领先的中国AI初创公司,最近发布了其 R1 模型,该模型能够提供类似于 OpenAI 的 O1 模型的功能。DeepSeek R1 的主要优势之一是它完全开源,通过Ollama软件,用户可以下载并在本地运行这个强大的模型,从而实现离线使用。以下是详细的安装和使用指南。

一、安装 DeepSeek R1 模型

1. 下载 ollama 客户端

首先,访问 ollama 官方网站,下载并安装 ollama 客户端。ollama 是一个轻量级的 AI 模型管理工具,支持多种开源模型,包括 DeepSeek R1。

如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型插图

2. 选择并下载 DeepSeek R1 模型

安装完成后,返回到 ollama 主页,点击 DeepSeek R1 的链接。这将带你进入一个新页面,在这里你可以选择不同参数大小的模型版本。DeepSeek R1 提供以下几种版本:

  • 320 亿参数(约 20 GB):适合高端游戏计算机。
  • 6710 亿参数(约 404 GB):需要专业的高性能硬件。
  • 较小版本(如 8b、7b、1.5b):适合普通计算机。

注意:你的硬件配置会直接影响模型的运行速度和性能。如果你的计算机配置较低,建议选择 320 亿参数或更小的版本。

如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型插图1

3. 下载并安装模型

选择合适的版本后,点击“复制代码”按钮,将安装命令复制到剪贴板。然后以管理员身份打开 PowerShell(从开始菜单搜索),将复制的命令粘贴到 PowerShell 窗口中并按 Enter 键。安装过程可能需要较长时间,具体取决于你的网络速度。

如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型插图2

二、本地使用 DeepSeek R1 模型

1. 开始使用

安装完成后,你可以在 PowerShell 中运行以下命令启动 DeepSeek R1 模型:

ollama run deepseek-r1:14b

(将 deepseek-r1:14b 替换为你安装的模型版本,例如 deepseek-r1:8bdeepseek-r1:7b

2. 与模型交互

模型启动后,你可以在终端中输入任何问题或指令,模型会根据输入生成回答。需要注意的是,模型的响应速度取决于你的硬件配置。高性能显卡(如 GeForce RTX 4090)可以显著提升运行速度。

如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型插图3

3.本地使用

现在DeepSeek 官方网站和APP由于受到攻击,服务非常不稳定,如果你的硬件足够强,建议你在本地使用,在完全离线的环境中使用,还可以避免潜在的数据泄露风险。

三、探索 DeepSeek R1 模型的功能

DeepSeek R1 模型具有以下功能:

  • 头脑风暴:生成创意内容,例如品牌名称、创意文案等。
  • 编程辅助:编写代码片段,帮助解决编程问题。
  • 复杂对话:参与深入讨论,提供逻辑性强的回复。

四、优化性能

1. 处理缓慢的输出速度

如果你发现模型运行速度较慢,可以尝试以下方法:

  • 选择较小的模型版本(如 8b、7b 或 1.5b)。
  • 使用高性能 GPU(如 GeForce RTX 4090)以加快速度。

2. 过滤“思考标签”

有时,模型的输出中可能会包含类似 HTML 标签的“思考标签”。你可以通过以下方法过滤这些标签:

  • 手动删除:从文本输出中手动删除这些标签。
  • 自动过滤:编写一个脚本,在保存文本之前自动处理这些标签。

五、卸载 DeepSeek R1 模型

1. 删除模型

打开 PowerShell,运行以下命令列出已安装的模型:

ollama list
如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型插图4

找到你想要删除的模型,运行以下命令进行删除(将 deepseek-r1:8b 替换为你需要删除的模型):

ollama rm "deepseek-r1:8b"

2. 卸载 ollama

通过控制面板卸载

  • 打开控制面板。
  • 选择“程序”>“卸载程序”。
  • 找到 ollama,点击“卸载”。

手动删除模型文件

找到以下路径(根据你的操作系统和用户名替换相应路径):

  • macOS~/.ollama/models
  • Linux/usr/share/ollama/.ollama/models
  • WindowsC:\Users\username\.ollama\models
如何本地运行 DeepSeek R1?通过 ollama 框架安装和使用 DeepSeek R1 模型插图5

通过以上步骤,你可以轻松安装、使用和卸载 DeepSeek R1 模型。如果你在使用过程中遇到任何问题,欢迎随时留言交流。

评论