DLLM开源项目发布:纯C/C++零依赖轻量级编码Agent,支持嵌入式与CLI

新开源项目 DLLM 发布:纯 C/C++ 实现的零依赖轻量级编码 Agent。单二进制文件,内存占用 <10MB,冷启动 <200ms。直接构建于 llama.cpp 之上,不依赖 Python、Node.js 或 CUDA——能在嵌入式设备和 CLI 工作流中真正跑起来。
极简即生产力:没有 Python,也能跑 Agent
DLLM 不带解释器、不带运行时、不带驱动栈。它复用 llama.cpp 的推理内核,但删掉了 CLI 命令行外壳和 HTTP 服务模块,重写为纯 C 函数接口:dllm_init() 加载模型,dllm_complete() 执行补全。
可执行文件约 4.2MB(x64),静态链接,无 .so 依赖。在树莓派 5(4GB RAM)上加载 Qwen2-1.5B-Q4_K_M.gguf 耗时 1.3 秒;首次补全响应稳定在 380ms 内(Wi-Fi 断开状态)。实际用途包括:
- 嵌入式开发板调用 DLLM 生成 UART 驱动片段
- CI 流水线在无容器环境下做 PR 级代码审查建议
- VS Code 插件通过 FFI 直接调用
dllm二进制,跳过 Python 虚拟环境打包
真离线、真可控:开发者手握全部控制权
DLLM 默认禁用网络、不发日志、不预置任何远程密钥。所有 prompt 模板(如 // @lang=cpp // generate UART init code)由用户明文定义在 JSON 配置里,支持:
- 正则匹配触发补全
- 多轮上下文截断(按 token 数,非字符数)
- 补全结果为纯文本流,无 JSON 包装、无元数据字段
输出可直接管道进 clang-format 或 git apply。对比 Copilot 必须登录、Cursor 依赖云端路由,DLLM 把决策权交还终端:你选模型、你定规则、你决定何时加载或卸载。
Llama 生态用户可无缝切换:下载 GGUF 文件后,一行命令就能跑
./dllm -m models/llama3-8b.Q4_K_M.gguf -p "write a Rust async fn to read GPIO"👉 Binance · OKX · Gate.io · HTX · Bitget
不是玩具,是新基座:边缘 AI 编程的务实路径
DLLM 不实现记忆、不对接工具调用、不模拟多角色协作。它只做一件事:基于当前代码上下文,生成下一段可编译的代码。
这种克制换来关键优势——资源受限场景下的稳定性。已有落地案例:
- 某工业 PLC 厂商将其集成进 HMI 固件,供现场工程师实时补全梯形图逻辑转换脚本
- 某汽车 ECU 团队用 DLLM 替代原有 Lua 模板引擎,在 OTA 升级包中嵌入模型,自动生成诊断协议解析代码
当 Agent 退回到“增强型代码补全”本质,反而更容易融入传统软件工程流程。
开源即承诺:MIT 协议下的可审计性
DLLM 全部代码(<3000 行 C/C++)托管于 GitHub,包含:
- 完整构建脚本(支持 x86_64 / aarch64 / riscv64)
- CI 测试矩阵(GCC / Clang / MSVC)
- ARM Cortex-M7 裁剪版示例
所有依赖(llama.cpp、stb_image、miniz)以子模块引入,并锁定 commit hash,杜绝供应链漂移。
相比某些“开源但核心闭源”的框架,DLLM 每一行代码都可审计、可修改、可替换——这对金融、医疗、军工等强合规领域至关重要。
作者 Danny Arends(前生物信息学 C++ 工程师)说:“目标不是打败 GPT-4,而是让每个嵌入式工程师都能在裸机上跑起自己的代码 Agent。”
行业正在从“大模型即服务”转向“模型即组件”。DLLM 不是又一个 LLM wrapper,而是把 AI 编程能力降维成 libc 级基础设施。
如果你需要在无网络车间、车载 ECU 或老旧 Linux 服务器上部署可靠代码生成能力,现在就可以:
git clone https://github.com/DannyArends/DLLM && make && ./dllm -h下一步:适配 OpenClaw 工具链。我们已在内部验证 DLLM 作为 OpenClaw 底层执行器的可行性,轻量 Agent Runtime 桥接模块即将发布。
相关阅读