基于DeepSeek搭建Dify智能助手国产化架构运行arm64

基于DeepSeek搭建Dify智能助手国产化架构运行arm64

  • 基于DeepSeek搭建Dify智能助手
    • 案例介绍
    • 案例内容
    • 1 概述
      • 1.1 背景介绍
      • 1.2 适用对象
      • 1.3 案例时间
      • 1.4 案例流程
      • 1.5 资源总览
    • 2.启动 Docker 容器没有的安装
      • 2.1没有Docker安装
    • 3 云主机部署DeepSeek
      • 3.1 安装Ollama
    • 4.安装Dify
      • 4.1Docker安装 Dify
      • 4.2进入 Dify 复制环境配置文件
      • 4.3复制环境配置文件
      • 4.4最后检查是否所有容器都正常运行：
    • 5.Dify+Ollama本地智能助手
      • 5.1启动Ollama容器
      • 5.2下载模型deepseek-r1:1.5b 版本，执行命令：
      • 5.3在 Dify 中接入 Ollama
      • 5.4在 设置 > 模型供应商 > Ollama 中填入：
    • 6添加智能助手

基于DeepSeek搭建Dify智能助手

案例介绍

通过本案例，让大家熟悉如何通过本地部署的DeepSeek搭建属于自己的Dify智能助手。

免费领取开发者空间云主机
pc端
移动端

案例内容

1 概述

1.1 背景介绍

DeepSeek是一家创新型科技公司，长久以来专注于开发先进的大语言模型（LLM）和相关技术。该公司推出了比较出名的模型有 DeepSeek-V3 和 DeekSeek-R1。
本案例通过在云主机部署DeepSeek搭建Dify智能体，进行智能助手的设定实现。与普通的对话系统不同，案例中通过提示词来设立Dify的角色和行为模式，Dify不仅仅是一个简单的问答工具，Dify 是一个生成式 AI 应用创新引擎，提供了健全的应用模板和编排框架，帮助开发者快速构建大型语言模型驱动的应用。它有两个版本：社区版和商业版，用户可以根据需求选择。Dify 还支持多个模型的接入，适用于不同的场景。此外，Dify 提供了完整的生产解决方案，经过精良的工程设计和软件测试，确保其可靠性。它运用智能化流程自动化与数据管理技术，帮助企业优化业务流程，提高工作效率。

1.2 适用对象

  • 企业
  • 个人开发者
  • 高校学生

1.3 案例时间

本案例总时长预计60分钟。

1.4 案例流程

在这里插入图片描述

说明：

① 云主机安装Ollama；
② 使用Ollama部署DeepSeek；
③ 云主机调用本地部署DeepSeek；
④ 下载Dfiy框架，创建Dfiy智能角色。

1.5 资源总览

本案例预计花费总计0元。

资源名称云主机
规格ARM 4vCPU 8GB
操作系统Ubuntu 24.04 Server 定制版
单价免费
时长180小时

在这里插入图片描述

2.启动 Docker 容器没有的安装

2.1没有Docker安装

1安装docker

sudo snap install docker

在这里插入图片描述
2.docker compose version 命令检查版本

sudo docker compose version

在这里插入图片描述

3 云主机部署DeepSeek

3.1 安装Ollama

Ollama 是一个强大的开源工具，旨在帮助用户轻松地在本地运行、部署和管理大型语言模型（LLMs）。它提供了一个简单的命令行界面，使用户能够快速下载、运行和与各种预训练的语言模型进行交互。Ollama 支持多种模型架构，并且特别适合那些希望在本地环境中使用 LLMs 的开发者和研究人员。
在云主机桌面右键选择“Open Terminal Here”，打开命令终端窗口。
在这里插入图片描述
执行安装命令如下：
方式一（官方安装链接时间较慢）本地执行

curl -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述
方式二docker镜像拉取（推荐，安装速度快）：

docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/ollama/ollama:latest-linuxarm64
docker tag  swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/ollama/ollama:latest-linuxarm64  docker.io/ollama/ollama:latest

在这里插入图片描述

4.安装Dify

4.1Docker安装 Dify

方法一
克隆 Dify 代码仓库
克隆 Dify 源代码至本地环境。
当前版本为 0.15.3

git clone https://github.com/langgenius/dify.git --branch 0.15.3

方法二（推荐使用）通过百度云盘下载后上传到我的云空间
通过网盘分享的知识：Dify
链接: https://pan.baidu.com/s/5mjetRwc6gMTZgcRTBXHu8A
上传我的云空间
在这里插入图片描述
进入云服务机器从云空间下载文件包
在这里插入图片描述

4.2进入 Dify 复制环境配置文件

1.进入目录

cd dify/docker

2.重命名文件，并启动docker服务

#重命名
sudo mv .env.example   .env
sudo mv  middleware.env.example  middleware.env
#启动服务并查看docker服务
sudo systemctl start docker
sudo systemctl status docker

在这里插入图片描述

4.3复制环境配置文件

1.根据你系统上的 Docker Compose 版本，选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本

 docker compose version

在这里插入图片描述
2.如果版本是 Docker Compose V2，使用以下命令：

sudo docker compose up -d

3.如果版本是 Docker Compose V1，使用以下命令：

sudo docker-compose up -d

4.替换dify/docker/docker-compose.yaml文件（如果安装官网的执行docker-compose up -d 是会出现因为没有FQ很多组件无法正常下载的情况）
在这里插入图片描述
5.打开此文件全选删除里面的内容并复制或者删除源文件替换本文件
在这里插入图片描述
6.替换完执行执行相对应代码更新结束即完成
我的版本是V2

sudo docker compose up -d

在这里插入图片描述在这里插入图片描述

4.4最后检查是否所有容器都正常运行：

docker compose ps

1.在这个输出中，你应该可以看到包括 3 个业务服务 api / worker / web，以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。
​在这里插入图片描述
2.通过这些步骤，你可以在本地成功安装 Dify。

访问 Dify第一次启动较慢等待一段时间刷新一次就可以正常访问了
你可以先前往管理员初始化页面设置设置管理员账户：
本地环境

http://localhost/install

服务器环境

http://your_server_ip/install

在这里插入图片描述

5.Dify+Ollama本地智能助手

5.1启动Ollama容器

启动 Ollama 容器
要启动 ollama 容器，需要运行以下命令：

docker run -d -p 11434:11434 \-v ollama:/root/.ollama \docker.io/ollama/ollama:latest serve

在这里插入图片描述
这个命令会启动一个后台运行的容器，将容器内的 11434 端口映射到主机的 11434 端口，并创建一个名为ollama的卷来持久化存储模型。

5.2下载模型deepseek-r1:1.5b 版本，执行命令：

方法1：通过docker exec命令在容器内运行ollama pull
docker exec -it <container_id> ollama pull llama2

docker exec -it 5dd0308c7df47019b7cb230dd61de4b5e64028a40b1e4d42a434bd9e109413d6 ollama run deepseek-r1:1.5b
#简化id前三个 3-4个字符
docker exec -it 5dd0 ollama run deepseek-r1:1.5b

在这里插入图片描述
启动成功后，ollama 在本地 11434 端口启动了一个 API 服务，可通过 http://localhost:11434 访问。
在这里插入图片描述
如需运行其它模型，访问 Ollama Models 了解详情。

5.3在 Dify 中接入 Ollama

1.进入目录dify-0.15.3/docker/并修改.env没有此文件打开文件设置解除隐藏文件
在这里插入图片描述
2.在文件最后两行添加（参考官方开发文档）

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API 地址（根据部署环境调整 IP）
OLLAMA_API_BASE_URL= host.docker.internal:11434

若 Dify 为 Docker 部署，建议填写局域网 IP 地址，例如：http://192.168.1.100:11434 或 Docker 容器的内部 IP 地址，例如：http://host.docker.internal:11434。

若为本地源码部署，可填写 http://localhost:11434。
在这里插入图片描述

5.4在 设置 > 模型供应商 > Ollama 中填入：

查询ip地址找到自己服务器的enp3s，里的inet 后面的IP地址。

1.模型名称

docker exec -it 8a55 ollama list

在这里插入图片描述
2.基础URL

ip addr

在这里插入图片描述
在这里插入图片描述
出现修改成功
在这里插入图片描述

6添加智能助手

1.工作室创建空白应用
在这里插入图片描述
2.选择聊天助理应用名称随便起
在这里插入图片描述
3.调试完成后发布Dify智能助手搭建完成。
在这里插入图片描述
在这里插入图片描述
开发者空间官网
开发者空间活动专题

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.pswp.cn/bicheng/86600.shtml
繁体地址，请注明出处：http://hk.pswp.cn/bicheng/86600.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

PyQtNode Editor 第一篇环境配置

PyQtNode Editor 第一篇环境配置

PyQtNode Editor 以其独特的功能和灵活的扩展性&#xff0c;吸引了众多开发者的目光。 这篇博客作为系列开篇&#xff0c;将详细介绍开发 PyQtNode Editor 所需的基础环境、安装步骤&#xff0c;同时深入解读一段简单的 PyQt5 代码&#xff0c;为后续的开发工作奠定基础。 一…
阅读更多...
Unity 脚本自动添加头部注释

Unity 脚本自动添加头部注释

&#x1f4dd; Unity Script Header 注释生成器 一个轻量、可配置的 Unity 编辑器工具&#xff0c;在创建 .cs 脚本时自动插入统一格式的注释头信息。 支持作者、邮箱、公司、地点、版权、描述等字段&#xff0c;所有信息都可通过 Project Settings 界面配置并动态开关。 &…
阅读更多...
偏微分方程能量变化分析2

偏微分方程能量变化分析2

题目 问题 9. 考虑以下带有边界条件的偏微分方程&#xff08;PDE&#xff09;&#xff1a; u t t − c 2 u x x 0 , x > 0 , u_{tt} - c^2 u_{xx} 0, \quad x > 0, utt​−c2uxx​0,x>0, u ∣ x 0 0. u|_{x0} 0. u∣x0​0. 定义能量泛函&#xff1a; E ( t ) …
阅读更多...
模型部署和推理架构学习笔记

模型部署和推理架构学习笔记

一. 初步认识模型部署 1. 什么是ONNX&#xff1f; ONNX 就是一个 中间人 或 通用翻译器。它让你在喜欢的框架&#xff08;如 PyTorch&#xff09;里训练好模型后&#xff0c;能轻松地把它变成一种 标准格式。然后&#xff0c;这个标准格式的模型可以被 很多不同的工具和硬件 …
阅读更多...
OpenCV CUDA模块设备层-----逐通道的正弦运算函数sin()

OpenCV CUDA模块设备层-----逐通道的正弦运算函数sin()

操作系统&#xff1a;ubuntu22.04 OpenCV版本&#xff1a;OpenCV4.9 IDE:Visual Studio Code 编程语言&#xff1a;C11 算法描述 OpenCV 的 CUDA 模块&#xff08;cv::cudev&#xff09; 中的一个设备端数学函数&#xff0c;用于在 CUDA 核函数中对 uchar4 类型&#xff08;即…
阅读更多...
人工智能-基础篇-2-什么是机器学习？（ML，监督学习，半监督学习，零监督学习，强化学习，深度学习，机器学习步骤等）

人工智能-基础篇-2-什么是机器学习？（ML，监督学习，半监督学习，零监督学习，强化学习，深度学习，机器学习步骤等）

1、什么是机器学习&#xff1f; 机器学习&#xff08;Machine Learning, ML&#xff09;是人工智能的一个分支&#xff0c;是一门多领域交叉学科&#xff0c;涉及概率论、统计学、逼近论、凸分析等数学理论。其核心目标是让计算机通过分析数据&#xff0c;自动学习规律并构建模…
阅读更多...
【deepseek】TCP/IP ISO 卸载

【deepseek】TCP/IP ISO 卸载

TCP/IP 全卸载中的 LSO&#xff08;Large Send Offload&#xff09; 和 LRO&#xff08;Large Receive Offload&#xff09; 是网卡硬件加速技术&#xff0c;其核心目标是 将 TCP/IP 协议栈的处理任务从 CPU 转移到网卡硬件&#xff0c;从而大幅降低 CPU 负载并提升网络性能。以…
阅读更多...
抖音小程序支付错误码141211

抖音小程序支付错误码141211

前情 uni-app是我比较喜欢的跨平台框架&#xff0c;它能开发小程序/H5/APP(安卓/iOS)&#xff0c;重要的是对前端开发友好&#xff0c;自带的IDE让开发体验也挺棒的&#xff0c;公司项目就是主推uni-app 公司今年准备新开一个项目&#xff0c;但是对项目的未来和项目要做的规…
阅读更多...
springcloud/springmvc协调作用传递验证信息

springcloud/springmvc协调作用传递验证信息

微服务架构的拆分&#xff0c;各模块之间使用feign组件来进行相互http转发通信。 前端与后端之间使用springcloud的网关来进行协调。 现在问题出现&#xff0c;用户的信息如何进行传递&#xff1f; 前端请求携带请求头&#xff0c;请求头中的authorization为携带的对应token…
阅读更多...
Apache Flink Kafka 写连接器源码深度剖析

Apache Flink Kafka 写连接器源码深度剖析

一、架构概述 Apache Flink 提供的 Kafka 写入连接器是实现与 Kafka 消息队列集成的关键组件&#xff0c;支持多种语义保证和灵活配置选项。本文将深入分析 Flink Kafka 写入连接器的源码实现&#xff0c;包括架构设计、核心类、事务机制和性能优化等方面。 1.1 整体架构 Fl…
阅读更多...
强化学习理论基础：从Q-learning到PPO的算法演进（2）

强化学习理论基础：从Q-learning到PPO的算法演进（2）

文章目录 Policy gradient思想（REINFORCE算法）优势函数PPO（Proximal Policy Optimization）Policy gradient思想（REINFORCE算法） 下面我们来探讨一下Policy gradient策略，也就是REINFORCE算法。 在玩剪刀石头布这个简单的游戏中，我们可以有不同的策略。一种是完全随机地…
阅读更多...
Oracle数据库文件变成32k故障恢复--惜分飞

Oracle数据库文件变成32k故障恢复--惜分飞

最近一个客户数据库重启系统之后,数据文件大小变为了32kb,我接手的不是第一现场(客户那边尝试了rman还原操作),查看alert日志,数据库最初报错 Wed Jun 18 13:09:23 2025 alter database open Block change tracking file is current. Read of datafile D:\APP\ADMINISTRATOR\OR…
阅读更多...
移动端 uniapp 写一个可自由拖拽的小键盘

移动端 uniapp 写一个可自由拖拽的小键盘

写之前要考虑&#xff1a; 键盘展开后&#xff0c;不能超过手机边缘在底部展开键盘&#xff0c;键盘应出现在展开按钮上方&#xff1b;以此类推重复点击展开按钮&#xff0c;关闭键盘 效果&#xff1a; 代码如下&#xff0c;有些按键逻辑还需要优化 <template><vi…
阅读更多...
《二分枚举答案(配合数据结构)》题集

《二分枚举答案(配合数据结构)》题集

文章目录 1、模板题集2、课内题集3、课后题集1. 字符串哈希2. 并查集3. ST表 1、模板题集 分巧克力 2、课内题集 倒水 冶炼金属 连续子序列的个数 3、课后题集 括号内的整数代表完整代码行数。 1. 字符串哈希 你猜猜是啥题(60) 2. 并查集 拯救萌萌(72) 3. ST表 GCD不小…
阅读更多...
PY32F030单片机，优势替代ST GD，主频48MHz，带LED数码管驱动

PY32F030单片机，优势替代ST GD，主频48MHz，带LED数码管驱动

PY32F030是一款高性能32位单片机&#xff0c;采用ARM Cortex-M0内核&#xff0c;工作频率高达48MHz&#xff0c;具备64KB Flash和8KB SRAM。它支持1.7V~5.5V宽电压范围&#xff0c;集成多路I2C、SPI、USART通讯外设&#xff0c;配备12位ADC、16位定时器和比较器&#xff0c;适用…
阅读更多...
Rockchip Uboot中修改固件探测的存储介质

Rockchip Uboot中修改固件探测的存储介质

Rockchip Uboot中修改固件探测的存储介质 Rockchip uboot中支持从 eMMC、SDcard、NAND 、SPI_NAND、SPI_NOR等存储介质引导固件。 uboot的spl启动的时候会默认呢都会去探测这些介质&#xff0c;这样会导致探测时间变长&#xff0c;在实际产品中可以根据产品需求进行个性化的配…
阅读更多...
动手学Python：从零开始构建一个“文字冒险游戏”

动手学Python：从零开始构建一个“文字冒险游戏”

动手学Python&#xff1a;从零开始构建一个“文字冒险游戏” 大家好&#xff0c;我是你的技术向导。今天&#xff0c;我们不聊高深的框架&#xff0c;也不谈复杂的算法&#xff0c;我们来做一点“复古”又极具趣味性的事情——用Python亲手打造一个属于自己的文字冒险游戏&…
阅读更多...
基于Kafka实现企业级大数据迁移的完整指南

基于Kafka实现企业级大数据迁移的完整指南

在大数据时代&#xff0c;数据迁移已成为企业数字化转型过程中的常见需求。本文将详细介绍如何利用Kafka构建高可靠、高性能的大数据迁移管道&#xff0c;涵盖从设计到实施的完整流程。 一、为什么选择Kafka进行数据迁移&#xff1f; Kafka作为分布式消息系统&#xff0c;具有…
阅读更多...
GEO引领品牌大模型种草：迈向Web3.0与元宇宙的认知新空间

GEO引领品牌大模型种草：迈向Web3.0与元宇宙的认知新空间

在数字技术的演进历程中&#xff0c;我们正经历着从Web2.0到Web3.0、从平面互联网到沉浸式元宇宙的范式转变。这一转变不仅重塑了数字空间的形态和交互方式&#xff0c;更深刻改变了品牌与用户的连接模式和价值创造逻辑。而在这个新兴的数字疆域中&#xff0c;生成式引擎优化&a…
阅读更多...
【机器学习与数据挖掘实战 | 医疗】案例18：基于Apriori算法的中医证型关联规则分析

【机器学习与数据挖掘实战 | 医疗】案例18：基于Apriori算法的中医证型关联规则分析

【作者主页】Francek Chen 【专栏介绍】 ⌈ ⌈ ⌈机器学习与数据挖掘实战 ⌋ ⌋ ⌋ 机器学习是人工智能的一个分支，专注于让计算机系统通过数据学习和改进。它利用统计和计算方法，使模型能够从数据中自动提取特征并做出预测或决策。数据挖掘则是从大型数据集中发现模式、关联…
阅读更多...
最新文章

Copyright @ 2022~2023