📰 龙虾新闻

DLLM开源项目发布:纯C/C++零依赖轻量级编码Agent,支持嵌入式与CLI

发布时间:2026-08-13 分类: 龙虾新闻
摘要:新开源项目 DLLM 发布:纯 C/C++ 实现的零依赖轻量级编码 Agent。单二进制文件,内存占用 <10MB,冷启动 <200ms。直接构建于 llama.cpp 之上,不依赖 Python、Node.js 或 CUDA——能在嵌入式设备和 CLI 工作流中真正跑起来。极简即生产力:没有 Python,也能跑 AgentDLLM 不带解释器、不带运行时、不带驱动栈。它复用 ...

DLLM开源项目发布:纯C/C++零依赖

新开源项目 DLLM 发布:纯 C/C++ 实现的零依赖轻量级编码 Agent。单二进制文件,内存占用 <10MB,冷启动 <200ms。直接构建于 llama.cpp 之上,不依赖 Python、Node.js 或 CUDA——能在嵌入式设备和 CLI 工作流中真正跑起来。

极简即生产力:没有 Python,也能跑 Agent

DLLM 不带解释器、不带运行时、不带驱动栈。它复用 llama.cpp 的推理内核,但删掉了 CLI 命令行外壳和 HTTP 服务模块,重写为纯 C 函数接口:dllm_init() 加载模型,dllm_complete() 执行补全。

可执行文件约 4.2MB(x64),静态链接,无 .so 依赖。在树莓派 5(4GB RAM)上加载 Qwen2-1.5B-Q4_K_M.gguf 耗时 1.3 秒;首次补全响应稳定在 380ms 内(Wi-Fi 断开状态)。实际用途包括:

  • 嵌入式开发板调用 DLLM 生成 UART 驱动片段
  • CI 流水线在无容器环境下做 PR 级代码审查建议
  • VS Code 插件通过 FFI 直接调用 dllm 二进制,跳过 Python 虚拟环境打包

真离线、真可控:开发者手握全部控制权

DLLM 默认禁用网络、不发日志、不预置任何远程密钥。所有 prompt 模板(如 // @lang=cpp // generate UART init code)由用户明文定义在 JSON 配置里,支持:

  • 正则匹配触发补全
  • 多轮上下文截断(按 token 数,非字符数)
  • 补全结果为纯文本流,无 JSON 包装、无元数据字段

输出可直接管道进 clang-formatgit apply。对比 Copilot 必须登录、Cursor 依赖云端路由,DLLM 把决策权交还终端:你选模型、你定规则、你决定何时加载或卸载。

Llama 生态用户可无缝切换:下载 GGUF 文件后,一行命令就能跑

./dllm -m models/llama3-8b.Q4_K_M.gguf -p "write a Rust async fn to read GPIO"

👉 Binance · OKX · Gate.io · HTX · Bitget

不是玩具,是新基座:边缘 AI 编程的务实路径

DLLM 不实现记忆、不对接工具调用、不模拟多角色协作。它只做一件事:基于当前代码上下文,生成下一段可编译的代码。

这种克制换来关键优势——资源受限场景下的稳定性。已有落地案例:

  • 某工业 PLC 厂商将其集成进 HMI 固件,供现场工程师实时补全梯形图逻辑转换脚本
  • 某汽车 ECU 团队用 DLLM 替代原有 Lua 模板引擎,在 OTA 升级包中嵌入模型,自动生成诊断协议解析代码

当 Agent 退回到“增强型代码补全”本质,反而更容易融入传统软件工程流程。

开源即承诺:MIT 协议下的可审计性

DLLM 全部代码(<3000 行 C/C++)托管于 GitHub,包含:

  • 完整构建脚本(支持 x86_64 / aarch64 / riscv64)
  • CI 测试矩阵(GCC / Clang / MSVC)
  • ARM Cortex-M7 裁剪版示例

所有依赖(llama.cpp、stb_image、miniz)以子模块引入,并锁定 commit hash,杜绝供应链漂移。

相比某些“开源但核心闭源”的框架,DLLM 每一行代码都可审计、可修改、可替换——这对金融、医疗、军工等强合规领域至关重要。

作者 Danny Arends(前生物信息学 C++ 工程师)说:“目标不是打败 GPT-4,而是让每个嵌入式工程师都能在裸机上跑起自己的代码 Agent。”

行业正在从“大模型即服务”转向“模型即组件”。DLLM 不是又一个 LLM wrapper,而是把 AI 编程能力降维成 libc 级基础设施。

如果你需要在无网络车间、车载 ECU 或老旧 Linux 服务器上部署可靠代码生成能力,现在就可以:

git clone https://github.com/DannyArends/DLLM && make && ./dllm -h

下一步:适配 OpenClaw 工具链。我们已在内部验证 DLLM 作为 OpenClaw 底层执行器的可行性,轻量 Agent Runtime 桥接模块即将发布。


相关阅读

返回首页