Agentty开源C++26轻量级AI Agent运行时:11MB零配置支持边缘部署

Agentty 开源:C++26 实现、11MB 二进制、零配置 Claude-Code 级 Agent 运行时
Agentty —— 一个基于 C++26 的轻量级 AI Agent 运行时,已开源(GitHub: agentty/agentty)。它不依赖 Python 解释器,不打包 LLM 权重,也不绑定特定推理后端。单个 11MB 静态链接二进制即可完成工具调用、记忆管理、多步规划与结构化输出。在 Raspberry Pi 5 上实测完整 Tool-Calling 链路平均延迟 82ms。这不是 CLI 包装器,而是可嵌入边缘设备、WebAssembly 模块或 RTOS 固件的 Agent 底层基座。
技术底座:C++26 是确定性保障,不是彩蛋
Agentty 使用 C++26 核心特性:std::expected 统一错误传播、std::mdspan 零拷贝内存视图、constexpr std::format 编译期日志生成。JSON Schema 校验、OpenAPI 工具解析、异步 HTTP 调度等全部 Agent 逻辑,在编译期完成类型推导与路径优化。相比 LangChain 0.3.x(x86_64 下平均内存占用 320MB),Agentty 常驻内存 <4MB,无 GC 停顿,无动态符号解析开销。agent::Runtime 类支持直接继承并重载 on_tool_call(),无需改动构建系统。
零配置 ≠ 零设计:硬约束换直装即用
“零配置”指无需 pip install、无需 .env、无需 docker-compose.yml。下载二进制后执行:
./agentty --tool-dir ./tools --llm-endpoint http://localhost:8000/v1/chat/completions即可启动。背后是三重硬约束:
- 工具描述必须为 OpenAPI 3.1 JSON Schema
- LLM 接口严格遵循 OpenAI 兼容协议(含
tool_choice="auto"语义) - 所有 I/O 通过 POSIX
readv/writev批量处理,规避 stdio 缓冲污染
Jetson Orin Nano 上连续运行 72 小时,无文件描述符泄漏。
对比闭源工具链:可控性就是生产力
Cursor、GitHub Copilot 等将工具注册、记忆序列化、调试协议全部黑盒封装。Agentty 反其道而行:
- 工具注册只需
tools/ls.json(含parametersschema 与exec_path) - 记忆快照为纯文本
mem/step_0042.jsonl - 调试端点暴露标准
/debug/stackHTTP 接口
开发者可直接:

gdb -p $(pgrep agentty)查看 agent::PlanState 实例,或用:
bpftrace -e 't:syscalls:sys_enter_write { @bytes = hist(arg2); }'观测 IO 模式。MIT 许可证,允许静态链接至商业固件。
与龙虾 / OpenClaw 生态自然协同
Agentty 不绑定任何 LLM 供应商,但 tool_call 响应格式与龙虾 v0.9.3 Agent SDK 完全兼容:
{"name":"web_search","arguments":{"q":"C++26 constexpr regex"}}可直传 openclaw::ToolExecutor::invoke()。OpenClaw 用户可将 openclaw::AgentBuilder 输出的 Plan 对象序列化为 Agentty 输入,在 ARM64 设备上实现 <100ms 端侧决策闭环。龙虾官网 yitb.com 已上线 Agentty 适配指南。
行业意义:Agent 正从“胶水层”回归“系统层”
过去两年,Agent 框架沉溺于 Python DSL 和 LLM API 胶合:LangChain 抽象 17 层接口仍绕不开 GIL;LlamaIndex 把向量检索包装成 as_retriever() 方法,却掩盖内存失控。Agentty 证明:真正的轻量化不是删功能,而是用现代 C++ 重定义边界——把工具调度、状态机、协议适配下沉为 OS 级原语。当 Agent 运行时体积 <12MB、启动时间 <35ms、内存抖动 ±0.3MB,它就不再是“应用”,而是像 libc 一样成为 AI 基础设施的隐式依赖。社区已在推进 WASI-NN 后端支持,让 Agentty 二进制可在 Deno、Wasmer 中直接加载。
现在该做什么?
- 克隆仓库,
make build-static生成跨平台二进制 - 运行
./agentty --help查看内置工具集 - 将现有 Python Agent 的
tool_calls逻辑剥离为独立 OpenAPI 描述,放入tools/目录 - 用
strace -e trace=connect,sendto,recvfrom ./agentty ...验证网络行为是否符合预期
这才是可控 Agent 开发的起点。