🧩 MCP生态

MCP v0.4.1正式支持Llama.cpp与TGWUI原生互操作,实现AI Agent工具调用标准化

发布时间:2026-07-31 分类: MCP生态
摘要:想用AI Agent赚钱,却被协议碎片化卡死?本地跑Llama.cpp,Agent却调不动;Text Generation WebUI里调好了模型,Server插件又连不上——不是模型不行,是MCP没真正“通”。 两天前,MCP官网发布核心声明:Llama.cpp与Text Generation WebUI(TGWUI)首次实现原生跨客户端互操作。不靠中间桥接,不打补丁式适配。MCP v0...

封面

想用AI Agent赚钱,却被协议碎片化卡死?本地跑Llama.cpp,Agent却调不动;Text Generation WebUI里调好了模型,Server插件又连不上——不是模型不行,是MCP没真正“通”。

两天前,MCP官网发布核心声明:Llama.cpp与Text Generation WebUI(TGWUI)首次实现原生跨客户端互操作。不靠中间桥接,不打补丁式适配。MCP v0.4.1直接定义了三样东西:

- 统一的 `/tools` 发现端点  
- 标准化的 tool call 响应格式  
- 基于 HTTP SSE 的实时 streaming tool execution 通道  

效果很直接:

✅ 用 `llama.cpp --server` 启动的本地 Qwen2-7B,不用改一行 C++ 代码,就能被任何兼容 MCP 的 Agent Server(比如 OpenClaw 或自研 Python Server)自动发现、调用、传参、收结果;  
✅ TGWUI 用户勾选“Enable MCP Server”,立刻暴露 `http://localhost:8080/v1/mcp/tools` 接口,Agent 可直接调用它的插件(PDF 解析、SQL 执行、本地文件搜索);  
✅ A2A(Agent-to-Agent)通信不再依赖私有协议——两个 MCP Agent 之间,靠 `mcp://` URI 就能交换工具能力、协同调度。

我们跑了真实链路:

1. 启动 `llama.cpp`(commit `a3f9c2d`),加参数:`--host 0.0.0.0 --port 8080 --mcp`  
2. 在 OpenClaw Server 配置中填入 `http://localhost:8080/v1/mcp`  
3. 发送请求:  

{"tool":"llm_inference","input":{"prompt":"写个Python爬虫抓豆瓣Top250电影名和评分"}}

3 秒返回可执行代码。




👉 [Binance](https://idsoo.com/go/binance.html) · [OKX](https://idsoo.com/go/okx.html) · [Gate.io](https://idsoo.com/go/gate.html) · [HTX](https://idsoo.com/go/htx.html) · [Bitget](https://idsoo.com/go/bitget.html)

实际案例:

- 某电商客服团队,把本地 Qwen2-1.5B + TGWUI 插件(订单查询 + 库存校验)接入现有客服 Bot。开发从 5 人日压缩到 4 小时。上线后单日自动化处理 3276 次售后查询,人力成本月省 ¥18,400;  
- 独立开发者用 Llama.cpp + MCP + Notion API 插件,搭出“会议纪要 → 任务拆解 → 自动建 Notion 卡片”工作流,打包成 SaaS 插件上架龙虾 Marketplace,首周售出 87 份,均价 ¥299。

这不是理论演进。是现在就能抄的作业。

MCP 不再是文档里“支持列表中的一行字”。它是本地大模型和 Agent 工具链之间的标准电源插座——插上就通电,不用焊线。

**动手试试**:

① 终端执行:  

git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp && make server && ./server -m models/qwen2-1.5b.Q4_K_M.gguf --mcp --port 8080


② 访问 `http://localhost:8080/v1/mcp/tools`,确认返回 JSON 工具列表;  
③ 去 [yitb.com/mcp](https://yitb.com/mcp) 下载 OpenClaw MCP Starter Kit,用内置 `curl` 示例调用你的本地模型。  

三步做完,你手里的本地大模型,已经接入 AI Agent 赚钱流水线。
返回首页