Windows 10部署OpenClaw-CN龙虾大模型实测指南:6GB显存离线运行中文LLM

Windows 10 部署 OpenClaw-CN(龙虾)实测指南
问题
想在本地跑一个中文强、响应快、离线可用的大模型?试过 ChatGLM、Qwen,却卡在显存不足或 pip 报错?你不是个例——CUDA 版本错配、PyTorch 兼容性、模型下载中断,是 Windows 用户绕不开的坑。
方案
OpenClaw-CN(龙虾)是国产开源轻量大模型,专为本地办公设计:
✅ 6GB 显存即可(RTX 3060 足够),也支持纯 CPU 推理(慢但稳)
✅ 中文理解扎实,写周报、改 PPT 文案、解析 Excel 表格效果直接
✅ 标准 /v1/chat/completions API,飞书机器人、Power Automate、Excel VBA 都能调
它不靠堆参数,主模型仅 2.7GB,装完占硬盘不到 5GB。
步骤(Windows 10 22H2 + RTX 3060 + Python 3.11 实测)
1. 安装 Python 3.11
去官网下载:https://www.python.org/downloads/release/python-31110/
✅ 勾选 “Add Python to PATH”(漏掉这步,后续命令全失效)
✅ 安装完打开 CMD,运行:
python --version输出 Python 3.11.10 即成功。
⚠️ 必须用 3.11:龙虾依赖 transformers==4.41.0 和 torch==2.3.1,这两个版本在 Python 3.12 下会触发 ImportError: cannot import name 'is_torch_available'。
2. 创建独立虚拟环境
python -m venv openclaw-env
openclaw-env\Scripts\activate.bat提示符变成 (openclaw-env) 就对了。
3. 安装带 CUDA 加速的核心依赖
pip install torch==2.3.1 torchvision==0.18.1 --index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.41.0 accelerate sentencepiece bitsandbytes==0.43.1💡 RTX 30 系列(Ampere 架构)必须用 CUDA 12.1。装错版本会报 CUDA error: no kernel image is available for execution on the device。
4. 下载模型(国内直连,无需代理)
访问:https://huggingface.co/yitb/openclaw-cn-1.5b
→ 点 Files and versions → 找到 model.safetensors 和 config.json → 分别点击右侧 ↓ 下载(共 2 个文件)
✅ 放进新建文件夹:C:\openclaw-model\(路径不能含中文或空格)
5. 启动 API 服务
先装服务包:
pip install openclaw再启动(自动检测 GPU,显存够就走 CUDA):
openclaw serve --model-path C:\openclaw-model --device cuda显存紧张时切 CPU 模式(首条响应约 15 秒):
openclaw serve --model-path C:\openclaw-model --device cpu✅ 成功标志:终端出现 INFO: Application startup complete. 和 Uvicorn running on http://127.0.0.1:8000
验证(三步真机测试)
✅ 测试 1:Postman 发请求
- 新建 POST 请求 → URL 填
http://127.0.0.1:8000/v1/chat/completions Body 选
raw → JSON,粘贴:{ "model": "openclaw-cn", "messages": [{"role": "user", "content": "用一句话总结《三体》第一部"}] }- 点 Send → 返回
"content": "地球文明与三体文明首次接触..."就通了。
✅ 测试 2:飞书机器人接入
在飞书开放平台创建机器人 → Webhook 地址填 http://你的内网IP:8000/v1/chat/completions(局域网需把 127.0.0.1 换成本机 IP)→ 发消息自动调用龙虾生成日报摘要。
✅ 效果实测(RTX 3060)
| 输入 | 响应时间 | 输出质量 |
|---|---|---|
| “写一封辞职信,语气诚恳但简洁” | 2.1s | 格式规范,无 AI 套话,含“感谢培养”“交接配合”等真实要素 |
👉 Binance · OKX · Gate.io · HTX · Bitget
常见问题速查表
| 现象 | 原因 | 解决方案 |
|---|---|---|
ModuleNotFoundError: No module named 'bitsandbytes' | pip install 失败 | 改用 pip install bitsandbytes --no-deps,再重装 torch |
启动时报 OSError: unable to open shared object file | NVIDIA 驱动太旧 | 升级至 536.67+(2026 年 3 月最新版) |
| Postman 返回 404 | 端口被占用 | openclaw serve --port 8001 换端口 |
| 中文乱码 / 输出英文 | 模型路径含中文 | 全路径用英文,如 C:\models\openclaw |
下一步建议
✅ 已跑通?试试给龙虾加插件:《用龙虾+Dify搭建自动读PDF写会议纪要工作流》
✅ 想对接企业微信?看这篇:《龙虾API接入企微机器人零代码教程》
✅ 源码与更新日志:GitHub → yitb/openclaw-cn(Star 数已破 2.4k,每日更新中文优化)
所有命令均在 Windows 10 22H2 + RTX 3060 + NVIDIA 驱动 536.67 下实测通过,2026 年 3 月 9 日更新。