📰 龙虾新闻

Kimi v2.5实测:200万上下文+原生文档解析+结构化输出API

发布时间:2026-07-21 分类: 龙虾新闻
摘要:Kimi v2.5实测:200万上下文、原生文档解析与结构化输出Moonshot AI 推出 Kimi v2.5,支持 200 万 token 上下文、直接解析 PDF/Word/PPT/Excel、中文数学推理在 CMMLU 数学子集达 89.3%,并开放结构化输出 API。它不是靠堆参数拉长上下文,而是把长文本理解、文档智能和可控生成整合进同一套架构——AI Agent、企业知识库、合规...

封面

Kimi v2.5实测:200万上下文、原生文档解析与结构化输出

Moonshot AI 推出 Kimi v2.5,支持 200 万 token 上下文、直接解析 PDF/Word/PPT/Excel、中文数学推理在 CMMLU 数学子集达 89.3%,并开放结构化输出 API。它不是靠堆参数拉长上下文,而是把长文本理解、文档智能和可控生成整合进同一套架构——AI Agent、企业知识库、合规型应用能立刻用上。

注意力机制:分层稀疏,不靠外推

Kimi v2.5 没用 NTK 或 ALiBi 这类外推方案。它用自研的“分层稀疏注意力(HSA)”:把 200 万 token 切成 16 个逻辑块,块内全连接,块间用轻量门控路由传递摘要向量。

实测结果:

  • 在 128K token 合同中跨页提取条款,召回率比 GPT-4 Turbo 高 17%
  • A100 80GB 显存峰值 5.2GB,仅比基线高 23%

PDF 解析也不走 OCR 后处理路线。它直接对齐 PDF 渲染树和文本流,保留表格结构、公式编号、页眉页脚语义。LaTeX 公式识别准确率 94.6%,Llama-3-70B-Insight 同样测试下是 78.1%。

真实场景:现在就能换掉旧链路

企业知识库问答
某保险科技公司用 v2.5 替掉原有 RAG 流程。保单条款查询响应从 3.2 秒降到 0.8 秒,不用切 chunk、不用重训 embedding——PDF 直传 /v1/chat/completions,返回 JSON,含条款引用、原文页码、修订日期。

AI Agent 任务拆解
OpenClaw 生态里已有开发者接入 Kimi v2.5,用 response_format={"type": "json_object"} 自动解析招标文件技术参数表,生成标准化需求清单,同步到 Jira。

合规审计辅助
金融客户实测,《个人信息保护法》第 22 条引用准确率(含上下文判据)达 91.4%,Claude-3.5 Sonnet 同样测试为 76.2%。训练数据里嵌入了 37 部中国法规的逐条释义图谱。

开发者注意:API 好用,但有两个坑

REST API 完全开放,支持 streaming、system prompt、function calling。但实测踩过两个坑:

  • PDF 解析必须显式传 file_type="pdf",否则走纯文本流,表格结构全丢
  • 200 万上下文只对单次请求生效。如果 max_tokens=8192 且输入超 150 万 token,会静默截断,不报错。建议先调 GET /v1/models/kimi-2.5 校验文档 token 数

龙虾官网已上线快速接入模板(npm install @yitb/kimi-sdk),带 PDF 预处理工具链和结构化输出校验器,可直接集成进 OpenClaw 的 document_agent 模块。

配图

RAG 不会被取代,但得升级

Kimi v2.5 的价值不在干掉 RAG,而在暴露 RAG 的三个硬伤:chunk 失真、embedding 语义漂移、多跳推理断裂。

当模型能可靠处理 200 万 token 原始文档时,该重新想清楚:

  • 还要不要为每份 PDF 单独建向量库?
  • LLM 是该当“问答终端”,还是“文档操作系统”?

新范式正在浮现:“文档原生 AI”——PDF 成为可执行对象(executable document),不是静态检索资源。

下一步怎么试

  • 做文档智能?拿真实业务 PDF 测表格提取和跨页引用,对比延迟和准确率
  • 开发 AI Agent?接入 OpenClaw 的 tool_caller 模块,用原生结构化输出替代 JSON Schema 校验
  • 技术选型?重点验证中文法律/财务/医疗场景的条款映射能力。CMMLU 医学子集得分 85.7%,已超多数专用模型

别等 benchmark。现在就 curl 一个 PDF:

curl -X POST https://api.moonshot.cn/v1/chat/completions \
  -H "Authorization: Bearer $MOONSHOT_KEY" \
  -d '{
    "model": "kimi-2.5",
    "messages": [{
      "role": "user",
      "content": [
        {"type": "text", "text": "提取这份采购合同中的付款条件、违约责任和争议解决方式,按JSON格式返回"},
        {"type": "file", "file_id": "file_xxx"}
      ]
    }]
  }'
返回首页