一、需要安装工具介绍

• UOS操作系统：统信UOS汲取国内外主流社区技术栈优势，深入技术底层结合国内外设计标准与规范以及各类用户业务应用需求，积极开展技术创新，全面支持国内外主流CPU架构和处理器厂 商，在各种应用环境中，满足强安全、高稳定、高性能、易维护以及泛兼容等要求，是一款构建信息化设施环境的基础软件产品。官网地址
• Ollama：用来下载、管理、运行大模型工具。官网地址
• DeepSeek-R1：本次使用的DeepSeek开源模型。官网地址
• Anything-LLM：开源可免费本地使用功能强大的AI工具。官网地址

二、安装Ollama

• 使用以下命令在线安装Ollama。本次安装时间较长，需要耐心等待。

 curl -fsSL https://ollama.com/install.sh | sh

• 安装完成后使用使用以下命令验证安装是否成功。

ollama --version

• 运行Ollama服务

 ollama  serve    启动ollama服务
 systemctl restart ollama 重启ollama服务
 ollama list  查看ollama管理的模型列表
 ollama show  deepseek-r1:7b 显示模型信息
 ollama run  deepseek-r1:7b   运行模型
 ollama pull  deepseek-r1:7b  拉取模型

本次作者使用的deepseek-r1:7b进行安装演示，如果需要其他版本可以在ollama官网查看

• 通过Ollama下载管理DeepSeek-R1模型

  ollama   run    deepseek-r1:7b

三、安装Anything-LLM

• Anything-LLM介绍

AnythingLLM  是一款一体化AI应用程序，您可以安装在任何 Mac、Windows 或 Linux 操作系统上，并以几乎零配置和完全隐私的方式获得本地 LLM、RAG 和代理。通过它可以连接多个LLM模型，构建本地私有的LLM应用，配置界面简单直观。

• Anything-LLM官网下载应用或者直接执行以下命令下载安装

curl -fsSL https://cdn.anythingllm.com/latest/installer.sh | sh

同时你也可以使用安装包的形式安装。安装包下载地址：https://github.com/Mintplex-Labs/anything-llm/releases/tag/v1.4.0

安装完成后运行Anything-LLM工具界面如下：

• Anything-LLM配置Ollama服务实现个人专属本地知识库

在Anything-LLM创建新的工作区

 

通过设置功能配置Ollama服务选择AI模型。

至此在统信UOS系统上部署DeepSeek，搭建个人专属本地模型知识库就结束了，让我们来开始体验下本地模型知识库。