华为云Flexus+DeepSeek征文｜体验华为云ModelArts快速搭建Dify-LLM应用开发平台并创建联网大模型

华为云Flexus+DeepSeek征文｜体验华为云ModelArts快速搭建Dify-LLM应用开发平台并创建联网大模型

什么是华为云ModelArts

  • 华为云ModelArts ModelArts是华为云提供的全流程AI开发平台，覆盖从数据准备到模型部署的全生命周期管理，帮助企业和开发者高效构建、训练、部署AI模型，实现智能化升级。

开始接触华为云ModelArts Studio大模型即服务平台

  • 访问官方地址https://www.huaweicloud.com/product/modelarts/studio.html
    在这里插入图片描述

快速搭建Dify-LLM应用开发平台

什么是Dify-LLM应用开发平台

  • Dify-LLM 应用开发平台是一个基于大型语言模型（LLM）的低代码/无代码开发平台，旨在帮助开发者快速构建、部署和管理基于 AI 的应用程序。它提供了可视化的操作界面和丰富的工具，简化了从模型调用到应用上线的全流程，适合不同技术背景的用户使用。

  • 华为云提供了一键部署快速搭建Dify平台的功能，使开发者可以快速搭建生产级的生成式AI应用

  • 快速搭建的方案架构如下
    在这里插入图片描述

  • 通过VPC与安全组构建安全网络，用户经ELB接入CCE部署的Dify服务集群，结合Embedding与reranker增强AI能力，并依托Redis、PostgreSQL、CSS与OBS实现多样化数据存储与处理，具备高可用、可扩展特性

开始搭建Dify-LLM应用开发平台

  • 先进入官网https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html
    在这里插入图片描述

  • 选择一键部署（云服务器单机部署）
    在这里插入图片描述

  • 这里不做操作直接下一步
    在这里插入图片描述

  • 把密码设置好下一步
    在这里插入图片描述

  • 继续下一步
    在这里插入图片描述

  • 点击创建执行计划
    在这里插入图片描述

  • 可以查看费用，然后点击部署
    在这里插入图片描述

  • 可以看到正在按顺序部署
    在这里插入图片描述

  • 等待服务部署完毕，访问Dify-LLM应用开发平台
    在这里插入图片描述

  • 部署完毕，访问Dify-LLM应用开发平台
    在这里插入图片描述

  • 登录Dify-LLM应用开发平台
    在这里插入图片描述

  • 至此搭建Dify-LLM应用开发平台大功告成，不得不说，华为云一键部署Dify平台真是太方便了，全程不需要怎么操作，全是一键搞定

开始搭建联网大模型

什么是联网大模型

  • 联网大模型是具备实时联网能力的AI，能主动搜索最新资料、调用外部工具（如计算、翻译、API等），并结合自身知识生成更准确、实时的回答，适用于动态信息查询（如新闻、股价、科研进展），避免传统大模型因数据滞后导致的错误。
  • 这里联网工具，我们使用SearXNG。

什么是SearXNG

  • SearXNG 是一款开源的元搜索引擎，它聚合并匿名化地查询多个搜索引擎（如 Google、Bing、DuckDuckGo 等）的结果，然后进行去重、排序并呈现给用户。它是 SearX 的分支（Fork），在原有基础上进行了改进和优化，提供更好的隐私保护和自定义功能。
  • 我们通过dify插件接入SearXNG，实现大模型联网检索。

开始搭建SearXNG

  • 打开dify所在的linux服务器，然后创建文件夹mkdir -p /home/docker/searxng，然后进入文件夹
[root@localhost ~]# mkdir -p /home/docker/searxng
[root@localhost ~]# cd /home/docker/searxng
[root@localhost searxng]# ls
[root@localhost searxng]#

docker run --rm \-d -p 8081:8080 \-v "/home/docker/searxng:/etc/searxng" \-e "BASE_URL=http://localhost:8081/" \-e "INSTANCE_NAME=my-instance" \searxng/searxng
  • 然后使用docker启动searxng， docker run --rm -d -p 8081:8080 -v /home/docker/searxng:/etc/searxng searxng/searxng
[root@localhost searxng]# docker run --rm -d -p 8081:8080 -v /home/docker/searxng:/etc/searxng searxng/searxng
Unable to find image 'searxng/searxng:latest' locally
latest: Pulling from searxng/searxng
280600057b40: Pull complete 
Digest: sha256:8b7cd3f033ae553d94157216d336eb5e8ab2500476e8048504bc7d5ca3bfbb20
Status: Downloaded newer image for searxng/searxng:latest
b45ba114202256c76bd809f68c87b3447ac652c13571aa15bc5748eed7428ce4
  • 然后去配置文件进行配置，清空原本的配置文件，按我的输入配置
# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings
use_default_settings: true
server:# base_url is defined in the SEARXNG_BASE_URL environment variable, see .env and docker-compose.ymlsecret_key: "6b18c66e1a4b1e778a34784370a54906a090fccca2ad34f627e9aa68c191aeca"limiter: falseimage_proxy: true
ui:static_use_hash: true
redis:url: false
search:formats:- html- json
engines:
# 启用默认禁用的引擎- name: baiduengine: baidudisabled: false- name: 360searchengine: 360searchdisabled: false- name: sogouengine: sogoudisabled: false- name: bingengine: bingdisabled: false- name: bilibiliengine: bilibilidisabled: false# 禁用默认启用的引擎- name: archlinuxwikiengine: archlinuxdisabled: true- name: duckduckgoengine: duckduckgodistabled: true- name: githubengine: githubshortcut: ghdisabled: true- name: wikipediaengine: wikipediadisabled: true- name: googleengine: googledisabled: true- name: youtubeengine: youtube_noapidisabled: true- name: duckduckgoengine: duckduckgodisabled: true- name: qwantengine: qwantdisabled: true- name: braveengine: bravedisabled: true- name: startpageengine: startpagedisabled: true

  • 然后重启容器，打开网页，点击左上角的设置
    在这里插入图片描述

  • 然后配置中文与baidu
    在这里插入图片描述

  • 然后点击保存，进行测试，搜索华为云
    在这里插入图片描述

  • 这样SearXNG就部署完毕了

dify平台接入SearXNG

  • 首先登录dify，点击工具，搜索SearXNG进行安装
    在这里插入图片描述

  • 然后点击插件，看到SearXNG安装完毕后，进行配置
    在这里插入图片描述

  • 点击去授权
    在这里插入图片描述

  • 然后输入刚才部署的SearXNG的地址，点击保存
    在这里插入图片描述

  • 这样SearXNG就接入dify了

开始部署联网大模型

  • 创建一个联网大模型的agent
    在这里插入图片描述

  • 然后我们需要调用华为云的DeepSeek-V3-32K模型作为基底大模型

  • 安装dify中的大模型插件，OpenAI-API-compatible
    在这里插入图片描述

  • 等待安装完成
    在这里插入图片描述

  • 设置大模型
    在这里插入图片描述

  • 密钥从华为云中获取
    在这里插入图片描述

  • 进入api-key管理，创建自己的key，用于调用大模型
    在这里插入图片描述

  • 回来继续配置key，注意接口地址是https://api.modelarts-maas.com/v1
    在这里插入图片描述

  • 这样大模型就配置完毕了

  • 然后配置提示词

# 智能搜索与分析助手## 🛠️ 核心技能### 1. 联网搜索（searxng_search）
**触发条件**  
✓ 需要实时信息  
✓ 本地知识不足  
✓ 用户明确要求  **执行规范**  
- 关键词处理：  🔹 严格保持用户原始提问用语（中/英文不变）  🔹 长问题自动提取核心名词短语  
- 结果处理：  │→ 首轮：获取Top 3结果  │→ 次轮（无相关时）：扩展至Top 5  └→ 仍无结果：返回`NO_VALID_DATA`  ### 2. 智能分析（webscraper）
**处理流程**  
```mermaid
graph TDA[原始结果] --> B{可信度评估}B -->|高| C[提取正文]B -->|低| D[丢弃]C --> E[去广告/格式化]E --> F[生成结构化摘要]【结论】  
• 核心事实点1  
• 核心事实点2  【元信息】  
来源：example.com  
时效：2024-03-15  
可信评级：⭐️⭐️⭐️⭐

在这里插入图片描述

  • 然后去工具配置插件，searxng_search，webscraper
    在这里插入图片描述

  • 然后点击发布，在预览看一下效果
    在这里插入图片描述

  • 然后点击运行去网页测试
    在这里插入图片描述

  • 可以看到调用了searxng进行联网检索

  • 至此联网大模型就搭建完成了

欢迎大家一起加入华为云

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.pswp.cn/bicheng/84732.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Web API 路径设计哪家强

Web API 路径设计哪家强

本文档主要比较一下各家API的URL路径设计，通过学习各家API的URL路径设计，加深对 REST API 的理解，帮助我们设计出更符合 REST 风格的 API。 Google API 文档地址：https://developers.google.com/apis-explorer/#p/ YouTube Dat…
阅读更多...
微信小程序中的计算属性库-miniprogram-computed

微信小程序中的计算属性库-miniprogram-computed

miniprogram-computed 是一个用于微信小程序的扩展库，它提供了计算属性（computed）和监听器（watch）的功能，类似于 Vue.js 中的计算属性和监听器。以下是使用 miniprogram-computed 的详细步骤： …
阅读更多...
【CSS-7】深入解析CSS伪类：从基础到高级应用

【CSS-7】深入解析CSS伪类：从基础到高级应用

CSS伪类是前端开发中不可或缺的强大工具，它们允许我们根据文档树之外的信息或简单选择器无法表达的状态来样式化元素。本文将全面探讨CSS伪类的各种类型、使用场景和最佳实践。 1. 伪类基础概念 1.1 什么是伪类？ 伪类（Pseudo-class&#x…
阅读更多...
蓝桥杯国赛训练 day4

蓝桥杯国赛训练 day4

目录 再创新高 蓝桥大使 表演赛 次数差 再创新高 import java.math.*; import java.util.*;public class Main {static Scanner sc new Scanner(System.in);public static void main(String[] args) {int t 1; // tsc.nextInt();for(int i0;i<t;i) {solve();}} p…
阅读更多...
java 高并发设计

java 高并发设计

文章目录 目录 文章目录 前言 一、通用设计 一、动静分离 二、数据库独立部署 三、问题 1.高并发通用设计方法 2.高并发系统的拆分顺序 二、计算资源高并发 三、网络资源高并发 超高性能场景&#xff08;10万 QPS&#xff09; 中小规模场景&#xff08;5万 QPS以下&a…
阅读更多...
docker compose搭建elk 8.6.2

docker compose搭建elk 8.6.2

环境搭建 选用版本是比较新的版本 (ELK) 8.6.2 &#xff0c;elk的环境做的还是比较好的又windows和Linux多个版本&#xff0c;并且开箱即用。本地直接下载官方软件也是可以的。最近在学习docker compose&#xff0c;就使用这个环境搭建一下。 前置条件 安装好docker和 docke…
阅读更多...
Springboot3+的id字符串转化问题

Springboot3+的id字符串转化问题

以下是纯后端实现 Long/BigInteger ID 转为 JSON 字符串 的详细配置方案&#xff0c;基于 Spring Boot 3 和 SpringDoc (OpenAPI) 最新实践 ✨ 1. 添加依赖 确保你的 pom.xml&#xff08;或 Gradle&#xff09;中包含&#xff1a; <dependency><groupId>com.fast…
阅读更多...
C#学习第30天： 匹配模式

C#学习第30天： 匹配模式

模式匹配&#xff08;Pattern Matching&#xff09;是 C# 中一个强大且灵活的特性&#xff0c;允许开发者以更直观的方式检查数据结构&#xff0c;并根据特定模式执行操作。 随着 C# 语言版本的发展&#xff0c;模式匹配的功能越来越丰富&#xff0c;为处理复杂数据提供了极大…
阅读更多...
SQL进阶之旅 Day 29：NoSQL结合使用策略

SQL进阶之旅 Day 29：NoSQL结合使用策略

【SQL进阶之旅 Day 29】NoSQL结合使用策略 文章简述 随着数据量的激增和业务场景的复杂化&#xff0c;传统关系型数据库在某些场景下已难以满足高性能、高扩展性和灵活数据结构的需求。NoSQL&#xff08;非关系型数据库&#xff09;以其高可扩展性、灵活的数据模型和分布式架构…
阅读更多...
PostgreSQL 对 IPv6 的支持情况

PostgreSQL 对 IPv6 的支持情况

PostgreSQL 对 IPv6 的支持情况 PostgreSQL 全面支持 IPv6 网络协议&#xff0c;包括连接、存储和操作 IPv6 地址。以下是详细说明&#xff1a; 一、网络连接支持 1. 监听 IPv6 连接 在 postgresql.conf 中配置&#xff1a; listen_addresses 0.0.0.0,:: # 监听所有IPv4…
阅读更多...
模板字符串使用点击事件【VUE3】

模板字符串使用点击事件【VUE3】

项目场景&#xff1a; 提示&#xff1a;这里简述项目相关背景&#xff1a; 项目中使用模板字符串的时候很多&#xff0c;有些时候需要再模板字符串中使用点击事件&#xff0c;那么在模板字符串中可以使用点击事件么&#xff1f;如果这个点击事件需要传参呢&#xff1f; 答案…
阅读更多...
AI——DeepSeek+LangChain+streamlit 实现智能汽车维修服务

AI——DeepSeek+LangChain+streamlit 实现智能汽车维修服务

效果图 分析流程 代码实现 废话少说&#xff0c;直接上代码 from langchain_core.language_models.llms import BaseLLM from langchain_core.outputs import Generation, LLMResult from pydantic.v1 import Field, validator from typing import Any, Dict, List, Optional…
阅读更多...
《C++ 继承》

《C++ 继承》

目录 继承的定义 继承类模板 派生类和基类之前的转换 隐藏 派生类的默认成员函数 不能被继承的类 继承中的友元和静态成员 继承模型 继承的定义 继承的本质是一种复用。规定Person类为基类&#xff0c;Student类为派生类 。 继承方式分为public继承&#xff0c;prote…
阅读更多...
金蝶K3 ERP 跨网段访问服务器卡顿问题排查和解决方法

金蝶K3 ERP 跨网段访问服务器卡顿问题排查和解决方法

我一朋友公司反应&#xff0c;公司网络卡顿&#xff0c;测试掉包严重&#xff0c;抓包wireshark测试&#xff0c;发现arp包有大量mac欺骗&#xff0c;因为公司有几百台电脑&#xff0c;所以建议更换了三层交换机&#xff0c;划分了vlan&#xff0c;这样有效的避免了网络风暴等&…
阅读更多...
无需安装！在线数据库工具 ：实战 SQL 语句经典案例

无需安装！在线数据库工具 ：实战 SQL 语句经典案例

在数字化时代&#xff0c;SQL&#xff08;结构化查询语言&#xff09;已成为数据从业者、开发人员乃至业务分析人员必备的核心技能。无论是处理日常数据报表&#xff0c;还是应对复杂的业务逻辑&#xff0c;SQL 都能高效实现数据的查询、操作与分析。本文将通过经典的 SQL 练习…
阅读更多...
如何在网页里填写 PDF下拉框

如何在网页里填写 PDF下拉框

对于PDF 开发者或网页开发者来说&#xff0c;让用户在网站上填写 PDF 下拉框&#xff08;Combo Box&#xff09;是一个棘手的问题。因为 PDF 并不是一种原生的 Web 格式&#xff0c;浏览器通常不允许用户与 PDF 下拉框进行交互。 那么&#xff0c;如何让用户在 HTML 中填写 PD…
阅读更多...
.Net 优秀框架 ABP全面详解

.Net 优秀框架 ABP全面详解

文章目录 第一部分&#xff1a;ABP框架概述与核心架构1.1 ABP框架简介1.2 ABP框架架构解析1.2.1 表现层(Presentation Layer)1.2.2 分布式服务层(Distributed Service Layer)1.2.3 应用层(Application Layer)1.2.4 领域层(Domain Layer)1.2.5 基础设施层(Infrastructure Layer)…
阅读更多...
力扣-198.打家劫舍

力扣-198.打家劫舍

题目描述 你是一个专业的小偷&#xff0c;计划偷窃沿街的房屋。每间房内都藏有一定的现金&#xff0c;影响你偷窃的唯一制约因素就是相邻的房屋装有相互连通的防盗系统&#xff0c;如果两间相邻的房屋在同一晚上被小偷闯入&#xff0c;系统会自动报警。 给定一个代表每个房屋…
阅读更多...
windows 安装vllm cuda版本

windows 安装vllm cuda版本

windows 安装cuda版本 查看window cuda版本 nvidia-smi vllm 获取镜像,此版本需要cuda 版本12.8 或以上 docker pull vllm/vllm-openai:latest下载模型 git lfs installcd e:\ai mkdir vllm\models\qwen2cd vllm\models#通过git下载git clone https://www.modelscope.c…
阅读更多...
Node.js特训专栏-基础篇：1. Node.js环境搭建与项目初始化详细指南

Node.js特训专栏-基础篇：1. Node.js环境搭建与项目初始化详细指南

我将为你详细讲解 Node.js 环境搭建与项目初始化的步骤&#xff0c;包含常见问题解决和最佳实践&#xff0c;帮助你快速上手。 详细步骤说明 1. 环境搭建 Windows用户&#xff1a; 访问Node.js官网(https://nodejs.org)下载LTS版本安装包&#xff08;推荐长期支持版&#xf…
阅读更多...
最新文章

Copyright @ 2022~2023