Ollama部署本地AI大模型

发表于2025-08-05|更新于2025-08-05|笔记

|浏览量:

Ollama官网
 DeepSeek本地部署+联网搜索+知识库

相关常用命令 (cmd)

# 查看版本
ollama -v

# 查看模型列表
ollama list

# 下载模型
ollama pull deepseek-r1:8b

# 运行一个模型（第一次运行若未下载会自动下载）
ollama run deepseek-r1:8b

# 查看运行中的模型
ollama ps

# 停止运行中的模型
ollama stop deepseek-r1:8b

# 删除模型
ollama rm qwen2.5:7b

可视化配置（Edge插件）

获取 Page Assist 扩展

知识库配置

1 2	# 下载文本嵌入模型 ollama pull shaw/dmeta-embedding-zh

在RAG设置中配置文本嵌入模型

添加知识库文件

测试

导入知识库前

导入知识库后

相关推荐

Python虚拟环境（conda）创建AI项目

condaConda配置完全指南-CSDN Conda 是一个开源的跨平台包管理与环境管理工具，广泛应用于数据科学、机器学习及 Python 开发领域。它不仅能帮助用户快速安装、更新和卸载第三方库，还能创建相互隔离的虚拟环境，解决不同项目之间的依赖冲突问题。例如，项目 A 依赖 Python 3.7 和 NumPy 1.0，而项目 B 需要 Python 3.10 和 NumPy 2.0，通过 conda 可分别创建独立环境，避免版本冲突。此外，conda 不仅支持 Python 包，还能管理 R、C/C++ 等非 Python 依赖，极大提升了跨语言开发的便捷性。 Anaconda 和 Miniconda Anaconda 是基于 conda 的完整发行版，预装了超过 250 个科学计算和数据分析的常用工具包（如 NumPy、Pandas、Jupyter），适合新手或需要快速搭建开发环境的用户。但 Anaconda 的安装包体积较大（约 3 GB），对存储空间有限的用户可能不够友好。 Miniconda 是 conda 的极简版本，仅包含核心的 conda 工具、P...

影刀、扣子云AI应用：简历信息提取

影刀AI Power影刀AI Power使用AI提取简历信息的简单应用提取图片简历信息工作流扣子(coze)主页 - 扣子API 介绍 - 文档 - 扣子创建智能体代码实现 123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153#!/bin/python3import osfrom PyPDF2 import PdfRe...

使用astrbot搭建使用deepseek模型的QQ机器人

手把手教你使用astrbot搭建使用deepseek模型的QQ机器人 | Yinjin Yao的博客 AstrBot官网开始部署（Linux用docker部署）Linux 通过 1Panel 安装 docker使用1Panel面板进行傻瓜式自动安装 1bash -c "$(curl -sSL https://resource.fit2cloud.com/1panel/package/v2/quick_start.sh)" 如果遇到 Docker 安装失败等问题，可以尝试运行以下脚本： 1bash <(curl -sSL https://linuxmirrors.cn/docker.sh) 更新镜像源1vim /etc/docker/daemon.json 重新写入以下内容： 1234567891011121314151617{ "registry-mirrors":["https://docker.hpcloud.cloud", "https://docker.m.daoclo...

Prompt和RAG工程

1. Prompt 工程（Prompt Engineering）什么是 Prompt 工程？Prompt 工程是一门设计和优化输入提示（Prompt）的学科，其目的是为了从大语言模型（LLM）中引导出更准确、相关和符合预期的输出。你可以把 LLM 想象成一个学识渊博但需要引导的助手。如果你问得模糊（例如：“总结一下”），它可能不知道你要总结什么。但如果你问得具体（例如：“用三段话总结下面这篇文章的核心观点，目标读者是初学者：【文章内容】”），它就能给出高质量的回答。crafting（精心设计）这个具体指令的过程，就是 Prompt 工程核心目标：控制输出格式：让模型以 JSON、表格、列表、特定风格（正式、口语化）等格式输出。扮演角色：让模型扮演特定角色（如资深律师、编程专家、莎士比亚）来回答问题。提高准确性：通过提供示例（少样本学习，Few-Shot Learning）、步骤分解（Chain-of-Thought）等方式，减少模型“幻觉”，提高回答质量。执行复杂任务：通过一个复杂的 Prompt 让模型完成多步骤任务，例如：“1. 识别以下文本的情感；2. 提取关键...

cursor使用笔记

全网最全面详细的Cursor使用教程，让开发变成聊天一样容易Cursor – 欢迎快捷键 Tab：自动填充 Ctrl + K ：编辑代码 Ctrl + L ：回答用户关于代码和整个项目的问题，也可以编辑代码（功能最全面） Ctrl + i ：编辑整个项目代码（跨文件编辑代码） Ctrl + Shift + P ：显示、输入命令 AI相关三种对话模式 Agent：AI主动帮你编程（包括代码编写、文件生成） Ask：针对你提出的问题给出回答 Background：AI只提供参考的提示，编码控制权在你 prompt # Role 你是一名极其优秀具有20年经验的产品经理和精通所有编程语言的工程师。与你交流的用户是不懂代码的初中生，不善于表达产品和代码需求。你的工作对用户来说非常重要，完成后将获得10000美元奖励。 # Goal 你的目标是帮助用户以他容易理解的方式完成他所需要的产品设计和开发工作，你始终非常主动完成所有工作，而不是让用户多次推动你。在理解用户的产品需求、编写代码、解决代码问题时，你始终遵循以下原则： ## 第一步 - 当用户向你提出任何需求时，你首...

RPA实现自动回复机器人

基本固定回复1.桌面自动化-获取窗口信息-窗口标题设置为“微信” 2.循环相似元素（win），捕捉微信新消息红点，捕获相似元素（另一个红点），编辑，取消acc-name的勾选（这是红点的消息数，若勾选该选项，会仅匹配捕获时的数字，当有多条消息使红点的数字变化时会匹配不到） 3.点击元素（消息红点），此时会进入聊天界面 4.填写输入框（win），捕获微信输入框元素，同样需要取消勾选acc-name，填写自动回复信息 5.点击元素（发送按钮） 6.将以上循环相似元素的循环拉入一个无限循环，使其一直执行这样就完成了一个简单的自动回复固定消息的微信机器人，完整流程如下：接入AI回复接入AI前需要获取聊天记录以便发送给AI让其生成回复内容 cozeAI智能体设置promopt设置：我会发送一段消息列表，形式如下：[‘你好’, ‘【自动回复】你好啊！’, ‘你是谁’, ‘【自动回复】我是Tetuka微信聊天小助手，请问有什么需要帮助的吗？🥰’]其中包含【自动回复】的内容为你发送的消息，否则为对方用户发送的消息，请你扮演一个Tetuka微信聊天小助手，根据消息列表，回复用...

数据加载中