[大语言模型]在个人电脑上部署ollama 并进行管理,最后配置AI程序开发助手.

ollama官网:

下载

https://ollama.com/

安装

在这里插入图片描述
在这里插入图片描述

查看可以使用的模型

https://ollama.com/search
在这里插入图片描述

例如

https://ollama.com/library/deepseek-r1/tags
在这里插入图片描述

# deepseek-r1:7bollama pull deepseek-r1:7b

在这里插入图片描述

改token数量为409622 = 16384

ollama命令说明

ollama serve #:启动 ollama 服务。
ollama create #:根据一个 Modelfile 创建一个模型。
ollama show #:显示某个模型的详细信息。
ollama run #:运行一个模型。
ollama stop #:停止一个正在运行的模型。
ollama pull #:从一个模型仓库(registry)拉取一个模型。
ollama push #:将一个模型推送到一个模型仓库。
ollama list #:列出所有模型。
ollama ps #:列出所有正在运行的模型。
ollama cp #:复制一个模型。
ollama rm #:删除一个模型。
ollama help #:获取关于任何命令的帮助信息。# 3、标志(Flags)ollama -h #, --help:显示 ollama 的帮助信息。
ollama -v #, --version:显示版本信息。

ollama webui

github 地址

https://github.com/ollama-webui/ollama-webui-lite

git 下载

git clone https://github.com/ollama-webui/ollama-webui-lite ollama-webuicd ollama-webuipnpm ipnpm approve-builds

LM Studio:
https://lmstudio.ai/
一个桌面管理工具.
在这里插入图片描述

anythinllm官网:
https://anythingllm.com/

暂且记录一个待办, 后续会更新使用方法

总结,经过测试,使用效果不如网络版本的相关模型, 比如deepseek coder,和copilot, 所以如果真的想用更好的,那么花点小钱,绝对是值得的, 本地部署,又花时间, 效果又不好, copilot免费的效果就很好了,deepseek的花点钱也不是很贵.

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.pswp.cn/bicheng/83863.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

TDengine 替换 Hadoop,彻底解决数据丢失问题 !

完全替换 Hadoop,彻底解决写入丢数问题 !TDengine 助力积成电子更好服务电力客户! 小T导读:在内蒙古某新能源集控项目中,三区需接入并分析大量风电、光伏逆变器及储能设备的监测数据。随着数据规模不断扩大&#xff0c…

从0到1认识ElasticStack

一、ES集群部署 操作系统Ubuntu22.04LTS/主机名IP地址主机配置elk9110.0.0.91/244Core8GB100GB磁盘elk9210.0.0.92/244Core8GB100GB磁盘elk9310.0.0.93/244Core8GB100GB磁盘 1. 什么是ElasticStack? # 官网 https://www.elastic.co/ ElasticStack早期名称为elk。 elk分别…

MySQL账号权限管理指南:安全创建账户与精细授权技巧

在MySQL数据库管理中,合理创建用户账号并分配精确权限是保障数据安全的核心环节。直接使用root账号进行所有操作不仅危险且难以审计操作行为。今天我们来全面解析MySQL账号创建与权限分配的专业方法。 一、为何需要创建独立账号? 最小权限原则&#xf…

DFT测试之TAP/SIB/TDR

TAP的作用 tap全称是test access port,是将jtag接口转为reset、sel、ce、ue、se、si、tck和so这一系列测试组件接口的模块。 jtag的接口主要是下面几个信号: 信号名称信号方向信号描述TCK(测试时钟)输入测试时钟,同…

Python对接印度股票数据源实战指南

Python对接印度股票数据源实战指南 基于StockTV API实现印度证券市场数据对接,覆盖实时行情、K线、指数等核心功能,提供完整开发方案与避坑指南 一、数据源选型要点(技术维度对比) 根据2025年最新实测数据,印度市场主…

usbutils工具的使用帮助

作为嵌入式系统开发中的常用工具,usbutils 是一套用于管理和调试USB设备的Linux命令行工具集。以下是其核心功能和使用方法的详细说明: 1. 工具组成 核心命令: lsusb:列出所有连接的USB设备及详细信息(默认安装&#…

k8s入门教程(集群部署、使用,镜像拉取失败网络问题排查)

文章目录 K8S基础创建centos虚拟机K3S部署配置k3s容器containerd镜像2025年4月测试可用镜像源配置 Pod容器Deployment(部署)和ReplicaSet(副本集)镜像拉取失败问题排查 Service服务ServiceType取值 NameSpace命名空间声明式对象配…

使用VuePress2.X构建个人知识博客,并且用个人域名部署到GitHub Pages中

使用VuePress2.X构建个人知识博客,并且用个人域名部署到GitHub Pages中 什么是VuePress VuePress 是一个以 Markdown 为中心的静态网站生成器。你可以使用 Markdown 来书写内容(如文档、博客等),然后 VuePress 会帮助你生成一个…

Vue3 + Element Plus 防止按钮重复点击的解决方案

在 Vue3 和 Element Plus 项目中,防止按钮重复点击是一个常见的需求,特别是在表单提交、支付等场景下。以下是几种实现方式: 1. 使用 Element Plus 的 loading 状态 Element Plus 的按钮组件本身就支持 loading 状态,这是最简单…

ES101系列09 | 运维、监控与性能优化

本篇文章主要讲解 ElasticSearch 中 DevOps 与性能优化的内容,包括集群部署最佳实践、容量规划、读写性能优化和缓存、熔断器等。 集群部署最佳实践 在生产环境中建议设置单一角色的节点。 Dedicated master eligible nodes:负责集群状态的管理。使用…

如何基于Mihomo Party http端口配置git与bash命令行代理

如何基于Mihomo Party http端口配置git与bash命令行代理 1. 确定Mihomo Party http端口配置 点击内核设置后即可查看 默认7892端口,开启允许局域网连接 2. 配置git代理 配置本机代理可以使用 127.0.0.1 配置局域网内其它机代理需要使用本机的非回环地址 IP&am…

SSL安全证书怎么安装?

SSI并非一个标准的、广为人知的安全证书类型,通常网站安装的是SSL/TLS证书,用于加密网站和用户浏览器之间的通信,保障数据传输安全。以下以安装SSL/TLS证书为例,介绍网站安装证书的步骤: 一、证书申请与获取 选择证书…

QPS、TPS、RT、IOQS、并发数等性能名词介绍

以下是计算机领域中 QPS、TPS 及相关性能名词的详细解释,涵盖定义、计算方法、典型场景和对比: 一、核心概念解析 1. QPS(Queries Per Second) 定义:每秒查询数,指系统每秒能处理的 请求数量(…

MIT 6.S081 2020 Lab7 Multithreading 个人全流程

文章目录 零、写在前面1、XV6 中的锁2、XV6 进程切换3、触发调度 一、Uthread: switching between threads1.1 说明1.2 实现 二、Using threads2.1 说明2.2 实现 三、Barrier3.1 说明3.2 实现 零、写在前面 可以读一下xv6 book 的第六章 锁 以及 第七章 调度: htt…

C++中的变量

变量是C语言中存储数据的基本单元,用于在程序运行过程中动态存储和操作数据。掌握变量的定义、类型、作用域和使用规则是C语言编程的核心基础。以下从多个维度详细解析变量的关键知识: 一、变量的本质与定义 1. 本质 变量是内存中命名的存储单元&…

办公提效的AI免费工具使用感悟

背景: 随着AI的发展,职场人都纷纷被要求办公提效,用上AI工具,市场上的AI工具纷繁复杂,也有很多工具纷纷开启了会员制,VIP等付费功能,本着互联网分享精神,我自己摸索使用了几个适合办…

软件测评服务如何依据标准确保品质?涵盖哪些常见内容?

软件测评服务涉及对软件的功能和性能等多维度进行评估和检验,这一过程有助于确保软件的品质,降低故障发生率及维护费用,对于软件开发和维护环节具有至关重要的价值。 测评标准依据 GB/T 25000.51 - 2016是软件测评的核心依据。依照这一标准…

前端项目初始化

​​​​​​ 目录 1. 安装 nvm 2. 配置 nvm 并切换到 Node.js 16.15.0 3. 安装 LightProxy 代理 4. GIT安装 1. 配置用户名和邮箱(这些信息将用于您在提交代码时的标识): 2. 生成SSH密钥(用于将本地代码仓库与远程存储库连…

我用AI降低AI率:一次“用魔法打败魔法”的实验

最近,我做了一件非常“AI”的事情——我用AI来降低AI率。 听起来有点绕对吧?实际上原因十分简单,在参与某内容创作平台的活动过程中,我发现该平台对于“AI生成内容”的判定极为严苛,并且还规定了不得高于一定比例的“AI率”,对此我也产生了极大的好奇。 于是,我便踏上了…

设备驱动与文件系统:01 I/O与显示器

操作系统设备驱动学习之旅——以显示器驱动为例 从这一节开始,我要学习操作系统的第四个部分,就是i o设备的驱动。今天要讲的是第26讲,内容围绕i o设备中的显示器展开,探究显示器是如何被驱动的,也就是操作系统怎样让…