本地模型相关工具、教程与提示词

汇集本地模型主题下已发布的工具、教程、提示词与场景资料,帮助你了解用途、使用条件及操作方法。

Agent 与工作流精选

✧

localGPT|本地私有文档问答与检索平台

localGPT

LocalGPT 是一套可在本机部署的私有文档智能平台,用混合检索、重排序与 Ollama 模型对自有文档做问答、摘要与溯源。

Agent 配套工具 本地模型本地部署RAG
需要部署 · 国内可用性待核验
使用难度待核验
✧

PrivateGPT|本地模型私有 AI 应用 API 接入层

PrivateGPT

PrivateGPT 是一个开源 API 层,把本地 OpenAI 兼容推理服务封装为面向私有 AI 应用的 Claude 风格接口,提供检索、工具、MCP、数据库等后端能力。

Agent 开发框架 本地模型本地部署RAG
需要部署 · 国内可用性待核验
使用难度待核验
✧

Jan|本地运行大模型的开源桌面客户端

Jan

Jan 是一款开源桌面应用,可在本机下载运行开源大模型,也可接入云端模型服务,并提供本地 OpenAI 兼容接口。

Agent 配套工具 本地模型本地部署多模型接入
需要部署 · 国内可用性待核验
使用难度待核验
✧

Ollama|本地与云端大模型运行及接入工具

Ollama

用于在本地或云端下载、运行和管理开放模型,并通过命令行、REST API 与 Python/JavaScript SDK 接入自有应用的模型运行时。

Agent 配套工具 本地模型本地部署多模型接入
需要部署 · 国内可用性待核验
使用难度待核验
✧

Reel-watcher-telegram-Agent|Telegram 短视频解析与本机构建智能体

Reel-watcher-telegram-Agent

在自有电脑上运行的 Telegram 机器人,解析 Instagram、TikTok、YouTube 视频中的工具与命令,并在手机逐步批准下于本机规划与构建。

Agent 智能体 本地模型Telegram视频分析
需要部署 · 国内可用性待核验
使用难度待核验
✧

Aster|在本地终端对话、审查和修改代码

Aster

在自己的电脑上运行的编程智能体,可选择模型服务,读取仓库、回答代码问题、审查改动并按权限修改文件。

Agent 智能体 代码审查本地模型Rust
需要部署 · 国内可用性待核验
使用难度进阶

自动化工作流

✧

Dify|合同审查

上传合同文件和审查清单,由大模型提取合同内容并与清单逐项比对,输出审查结果,适合法务人员或需要快速初筛合同风险的小团队自查使用。

工作流 本地模型Dify工作流合同审查
获取方式待核验 · 国内可用性待核验
使用难度待核验

AI 工具

T
GitHub 开源

TextGen|本地大模型对话与API桌面应用

为本地大模型提供桌面界面与API入口,可选择模型进行文字对话、图片理解和工具调用。便携包与完整安装的后端和扩展能力不同,需按自己硬件及功能需求选择。

AI 创作工作台Windows、Linux、macOS;CPU、CUDA、Vulkan及ROCm路线按包核对
使用难度
站长实测状态尚未登记
e
GitHub 开源

ebook2audiobook|将电子书转换为有声书

读取合法获取且不含DRM的电子书,通过TTS引擎生成带章节信息的有声书。可按设备选择CPU或GPU路线,适合希望把自己的阅读材料转换成音频的用户。

AI 音频与字幕Windows、macOS、Linux;CPU/GPU兼容按TTS引擎核对
使用难度
站长实测状态尚未登记
l
GitHub 开源

llmfit|评估电脑适合运行哪些大模型

读取本机CPU、内存与显卡配置,结合模型参数和量化格式,帮助筛选可能适合运行的大模型。推荐与速度估算不能代替在自己电脑上的真实测试。

工程开发macOS、Linux、Windows;硬件识别取决于驱动与系统
使用难度
站长实测状态尚未登记
L
GitHub 开源

Local Adventure Engine|本地AI文字冒险与剧情存档

用TOML和Markdown编写世界设定,在终端中进行AI文字冒险。模型提出剧情与事件,引擎校验后保存到本地SQLite,便于继续、回看和分支;适合能配置本地模型的互动叙事创作者。

AI 创作工作台Python 3.12+命令行;LM Studio本地服务;系统兼容性待核验
使用难度
站长实测状态尚未登记
N
GitHub 开源

NodeTool|节点工作流与AI多模态创作

NodeTool把图像、视频、音频与文本生成放入可编辑的节点工作流,并让AI助手参与构建和运行流程。用户也可在编辑器中继续调整;软件是创作与编排工具,不是一个独立生成模型。

AI 创作工作台桌面端与自托管路线;具体操作系统、架构及依赖按官方文档核对
使用难度
站长实测状态尚未登记