🚀 龙虾新手指南

Windows 10部署OpenClaw-CN龙虾大模型实测指南:6GB显存离线运行中文LLM

发布时间:2026-07-30 分类: 龙虾新手指南
摘要:Windows 10 部署 OpenClaw-CN(龙虾)实测指南问题想在本地跑一个中文强、响应快、离线可用的大模型?试过 ChatGLM、Qwen,却卡在显存不足或 pip 报错?你不是个例——CUDA 版本错配、PyTorch 兼容性、模型下载中断,是 Windows 用户绕不开的坑。方案OpenClaw-CN(龙虾)是国产开源轻量大模型,专为本地办公设计: ✅ 6GB 显存即可(RT...

封面

Windows 10 部署 OpenClaw-CN(龙虾)实测指南

问题

想在本地跑一个中文强、响应快、离线可用的大模型?试过 ChatGLM、Qwen,却卡在显存不足或 pip 报错?你不是个例——CUDA 版本错配、PyTorch 兼容性、模型下载中断,是 Windows 用户绕不开的坑。

方案

OpenClaw-CN(龙虾)是国产开源轻量大模型,专为本地办公设计:
✅ 6GB 显存即可(RTX 3060 足够),也支持纯 CPU 推理(慢但稳)
✅ 中文理解扎实,写周报、改 PPT 文案、解析 Excel 表格效果直接
✅ 标准 /v1/chat/completions API,飞书机器人、Power Automate、Excel VBA 都能调

它不靠堆参数,主模型仅 2.7GB,装完占硬盘不到 5GB。


步骤(Windows 10 22H2 + RTX 3060 + Python 3.11 实测)

1. 安装 Python 3.11

去官网下载:https://www.python.org/downloads/release/python-31110/
✅ 勾选 “Add Python to PATH”(漏掉这步,后续命令全失效)
✅ 安装完打开 CMD,运行:

python --version

输出 Python 3.11.10 即成功。
⚠️ 必须用 3.11:龙虾依赖 transformers==4.41.0torch==2.3.1,这两个版本在 Python 3.12 下会触发 ImportError: cannot import name 'is_torch_available'

2. 创建独立虚拟环境

python -m venv openclaw-env
openclaw-env\Scripts\activate.bat

提示符变成 (openclaw-env) 就对了。

3. 安装带 CUDA 加速的核心依赖

pip install torch==2.3.1 torchvision==0.18.1 --index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.41.0 accelerate sentencepiece bitsandbytes==0.43.1

💡 RTX 30 系列(Ampere 架构)必须用 CUDA 12.1。装错版本会报 CUDA error: no kernel image is available for execution on the device

4. 下载模型(国内直连,无需代理)

访问:https://huggingface.co/yitb/openclaw-cn-1.5b
→ 点 Files and versions → 找到 model.safetensorsconfig.json → 分别点击右侧 ↓ 下载(共 2 个文件)
✅ 放进新建文件夹:C:\openclaw-model\(路径不能含中文或空格)

5. 启动 API 服务

先装服务包:

pip install openclaw

再启动(自动检测 GPU,显存够就走 CUDA):

openclaw serve --model-path C:\openclaw-model --device cuda

显存紧张时切 CPU 模式(首条响应约 15 秒):

openclaw serve --model-path C:\openclaw-model --device cpu

✅ 成功标志:终端出现 INFO: Application startup complete.Uvicorn running on http://127.0.0.1:8000


验证(三步真机测试)

✅ 测试 1:Postman 发请求

  • 新建 POST 请求 → URL 填 http://127.0.0.1:8000/v1/chat/completions
  • Body 选 raw → JSON,粘贴:

    {
    "model": "openclaw-cn",
    "messages": [{"role": "user", "content": "用一句话总结《三体》第一部"}]
    }
  • 点 Send → 返回 "content": "地球文明与三体文明首次接触..." 就通了。

✅ 测试 2:飞书机器人接入

在飞书开放平台创建机器人 → Webhook 地址填 http://你的内网IP:8000/v1/chat/completions(局域网需把 127.0.0.1 换成本机 IP)→ 发消息自动调用龙虾生成日报摘要。

✅ 效果实测(RTX 3060)

输入响应时间输出质量
“写一封辞职信,语气诚恳但简洁”2.1s格式规范,无 AI 套话,含“感谢培养”“交接配合”等真实要素

👉 Binance · OKX · Gate.io · HTX · Bitget

常见问题速查表

现象原因解决方案
ModuleNotFoundError: No module named 'bitsandbytes'pip install 失败改用 pip install bitsandbytes --no-deps,再重装 torch
启动时报 OSError: unable to open shared object fileNVIDIA 驱动太旧升级至 536.67+(2026 年 3 月最新版)
Postman 返回 404端口被占用openclaw serve --port 8001 换端口
中文乱码 / 输出英文模型路径含中文全路径用英文,如 C:\models\openclaw

下一步建议

✅ 已跑通?试试给龙虾加插件:《用龙虾+Dify搭建自动读PDF写会议纪要工作流》
✅ 想对接企业微信?看这篇:《龙虾API接入企微机器人零代码教程》
✅ 源码与更新日志:GitHub → yitb/openclaw-cn(Star 数已破 2.4k,每日更新中文优化)

所有命令均在 Windows 10 22H2 + RTX 3060 + NVIDIA 驱动 536.67 下实测通过,2026 年 3 月 9 日更新。
返回首页