一、先看一组让人清醒的数据

2024 年,业界有个叫 OSWorld 的评测基准,用来测 AI 能不能像人一样操作电脑。当时头部模型的成绩一路刷到 85%~90%,看起来问题已经解决了。

2026 年 6 月,同一个团队发布了 OSWorld 2.0。任务换成了 108 个真实的长时程电脑操作工作流——单个任务,人类操作时间的中位数约 1.6 小时,平均需要 318 次工具调用(1.0 版本只有约 30 次)。

结果:Anthropic 的 Claude Opus 4.8,完成了 20.6% 的任务。

同一批世界顶尖的模型,任务链条一拉长,成功率从 86% 掉到 20%。

这不是模型退步了,是旧的考题太简单了。

而这个断崖,恰恰对应着财务工作的真实形态:你的活从来不是"帮我写一封邮件",而是"把这个文件夹里的银行流水和发票明细核对一遍,列出差异,按客户汇总账龄,套上公司模板,导出成 Excel"。

判断一个 AI 办公工具好不好用,关键就看它在这种长链条任务上的表现。


二、模型能力到底差在哪:七个维度

我把差别拆成七项,按对财务场景的重要性排序。

2.1 幻觉控制(权重最高)

能不能忍住不编。

弱模型的典型表现:查不到数据时,给你一个看起来非常合理的数字;引用的政策文号是拼凑的;说的函数名不存在。

对财务人来说,编一个数字比答不出来严重一百倍。 答不出来你会去查,编出来的你可能直接写进底稿。

判断方法很简单:问它一个不存在的东西。比如"帮我查一下财税〔2026〕37 号文关于研发费用加计扣除的规定"——如果这个文号是假的,好模型会说没查到或者提示你核实,差模型会给你编一段像模像样的政策解读。

2.2 数值与表格推理

这是 Excel 类任务的地基,也是最容易被"演示视频"掩盖的短板。

具体差别在于:

  • 聚合运算的准确性:几十万行求和、分组统计,会不会算错
  • 勾稽关系的理解:能不能明白"资产=负债+所有者权益"“本期数=上期数+增加-减少"这类约束,并在数据不平时主动指出来
  • 公式语义的还原:给它一个嵌套了 VLOOKUP、IFERROR、SUMIFS 的单元格,能不能说清楚它在算什么
  • 浮点精度处理:金额加总会不会出现 42345.669999 这种分位误差

⚠️ 这一项各家差异很大,且很难从宣传材料看出来,只能实测。

2.3 长程规划与错误累积

能不能在第 200 步还记得第 3 步的目标。

这是 OSWorld 2.0 暴露出的核心短板。长链条任务里,每一步的小偏差会累积。弱模型的典型症状是:

  • 干到一半忘了原始需求,开始做无关的事
  • 同一个错误反复尝试,不知道换条路
  • 遇到工具报错就停住,或者假装成功继续往下走

强模型会自我检查:跑完一段回头核对,发现不对主动回滚重来。

对财务场景的意义是:批量处理类任务(几十个月报、上百份合同、多主体合并),这一项直接决定你是"点一下等结果”,还是"守着它一步步救火"。

2.4 长上下文的有效利用

注意:标称支持 100 万 token,不等于真能用好 100 万 token。

业界有个公认现象叫 “lost in the middle”(中间信息丢失)——把关键信息放在超长文本的开头或结尾,模型能准确找到;放在中间,就容易漏。

各家模型在这个问题上的严重程度差异明显。Artificial Analysis 专门做了一项长上下文推理评测,测的就是"模型能否在长输入中定位、关联并综合信息",官方说明这项能力对金融分析、法律等场景尤为重要。

对财务的意义:读 200 页年报、几万行明细账、一整套凭证附件时,中间那段最容易被漏掉——而那往往正是你要找的关联交易披露。

判断方法:给它一份长文档,把一个不显眼的细节藏在正中间,问它相关问题。

2.5 工具调用稳定性

包括三层:

  • 参数正确率:会不会编造不存在的参数、把日期格式写错、路径拼错
  • 报错处理能力:工具返回错误时,能不能读懂错误信息并调整,而不是原样重试三遍
  • 工具选择判断:几十个工具摆在那,会不会挑错——比如该读文件时去搜网页

学术界为此专门做了 LongFuncEval 等评测,考察模型在"工具数量很多、说明很长"时的函数调用能力。这个场景恰好对应现在的办公 AI——动辄接入几十个连接器和技能。

2.6 指令遵循严格度

“只改 B 列,其他别动"“按这个模板排版"“金额保留两位小数"“不要用表情符号”。

弱模型会出现指令漂移:你说了五条要求,它记住三条。越到任务后期漂移越严重。

财务底稿的格式要求极严,这一项直接决定返工率。

2.7 GUI 与多模态理解

如果工具需要操作桌面软件(点财务软件的界面、看扫描件、理解 PPT 版式),那它得能"看懂"屏幕。

差别在于:识别界面元素的准确率、对表格截图的结构化理解、对手写批注的识别。


三、一个反直觉的事实:模型 ≠ Agent

同一个模型,装进不同的产品框架里,成绩能差好几个百分点。

这一点不是我推测的。OSWorld-Verified 榜单的官方说明里写得非常直白:

“成功率反映的是完整的模型-智能体系统,而不是基础模型本身。”

2026 年 5 月,PinchBench(一个覆盖 23 个真实工作场景、147 个任务的智能体评测基准,按成功率+速度+成本综合排名)上出现了一个典型案例:百度 DuMate 以 93.3% 和 93.2% 包揽前两名,而 Anthropic 和 OpenAI 在自家框架中跑同款模型的成绩是 89.0% 和 91.6%。

⚠️ 上述 PinchBench 数据来自单一媒体报道,建议以榜单原始页面为准。但它印证的方向与 OSWorld 官方的说明一致。

框架层面能改变结果的东西包括:

  • 上下文工程——怎么裁剪、压缩、组织喂给模型的信息。有研究专门探讨长时程工具调用场景下的上下文效率,结论是"更少的上下文,反而更好的表现”
  • 失败重试与回滚机制——出错时是死磕、换路,还是直接放弃
  • 任务分解策略——大任务怎么拆,拆多细
  • 记忆机制——跨步骤、跨会话的信息怎么保持
  • 工具编排——多个工具的调用顺序和依赖怎么管理

所以:当你看到"本产品采用 XX 大模型"时,这句话的信息量比你以为的少得多。 它只说明了发动机型号,没说明变速箱、悬挂和调校。


四、怎么读榜单才不会被带偏

榜单有参考价值,但用错方法会得出错误结论。以下是几条实操原则。

4.1 只在同一个榜单内部比较

不同榜单的分数绝对不能横向对比。

OSWorld-Verified 的官方说明里明确写了一条:

“OSWorld 2.0 的结果与 OSWorld-Verified 的结果不可互换。”

原因是两者的任务集、环境版本、观测方式(截图还是无障碍树)、动作接口、提示词、动作预算、重试策略全都不一样。86.1% 和 20.6% 之间,差的不是模型能力,是考题难度。

4.2 注意"榜单饱和”

OSWorld-Verified 目前收录了 34 个模型,头部三名分别是 86.1%、85%、85%——前三名差距在 1.1 个百分点以内。榜单方自己的判断是"该基准对前沿模型已接近饱和”。

这意味着:在这张榜单上,第一名和第三名你基本感觉不出差别。 但榜单尾部差距巨大,最低只有 39%。

饱和的榜单已经失去了区分度。真正有信息量的,是新的、更难的评测——比如 OSWorld 2.0,以及下面要说的办公专项基准。

4.3 找对口场景的专项基准

通用榜单分数再高,也不代表在你的场景里好用。财务人应该重点看这几个:

基准 测什么 为什么对财务人有用
OdysseyBench Word、Excel、PDF、邮件、日历五大办公应用上的长时程工作流 最对口。含 300 个源自真实用例的任务 + 302 个合成的复杂任务,要求模型从长交互历史中提取关键信息并跨应用多步推理
τ³-Banking 银行业务场景下的工具调用与多轮对话 金融业务专项,比通用榜单更贴近财务合规要求
OSWorld 2.0 108 个真实长时程电脑操作工作流 目前最能区分强弱的一档,头部模型也只有两成成功率

顺带说一个 OdysseyBench 论文里的观点,很值得财务人记住:

现有基准大多聚焦于"原子任务"——自成一体、相互独立的小任务,无法反映真实场景所需的长期上下文依赖和多轮交互协同。

翻译成大白话:以前的考题都是"算 1+1",而你的工作是"做完整个月的账"。 挑工具的时候,别被它在原子任务上的漂亮表现骗了。

4.4 国内模型的参考信息

2026 年 5 月有一份覆盖国内主流大模型公有云 API 的实测报告,累计完成超 1900 次真实环境调用,从代码生成、数学推理、任务规划、幻觉控制四个场景打分,同时评估服务性能、输出质量和调用成本。

它的核心结论是:国内主流大模型无全能型选手,场景分化特征显著。

⚠️ 该结论转引自百科词条,具体各家得分建议查阅报告原文。但"没有全能选手"这个判断,与前述 OSWorld 官方"成绩反映整个系统而非基础模型"的说明是一致的——选型必须对着你自己的具体场景来,不能看综合排名。


五、财务场景的权重,要重新排一遍

通用评测的维度和权重,跟财务人的实际需求并不一致。我的建议是这样排:

优先级 维度 理由
⭐⭐⭐⭐⭐ 幻觉控制 编一个数字进底稿,后果不可逆
⭐⭐⭐⭐⭐ 数值与表格推理 Excel 类任务的地基,错一位小数就是事故
⭐⭐⭐⭐ 长上下文有效利用 年报、凭证、明细账动辄几百页
⭐⭐⭐⭐ 指令遵循 财务底稿格式要求极严,返工成本高
⭐⭐⭐ 长程规划稳定性 决定批量任务能不能跑完
⭐⭐⭐ 数据安全与合规 见下一节,这是红线不是加分项
⭐ 通用写作、创意能力 主流模型都够用,不构成差异

注意最后一条:写作能力在财务场景里的权重最低。 但很多产品的宣传重点恰恰放在这儿——因为写文案最容易做出惊艳的演示。

看到"AI 帮你写财务报告"这类宣传时,多问一句:那它算的数准不准?


六、四条不可让渡的红线

前面讲的都是"好不好用"。这一节讲的是"能不能用"。

6.1 数据出境与保密

财务数据是公司最敏感的信息之一。上传给云端模型,等于数据离开了你的控制范围。

必须问清楚:

  • 数据是否用于模型训练?(正规商用服务通常承诺不用,但要看合同条款)
  • 数据存储在哪个地域?
  • 是否支持私有化部署?
  • 传输和存储是否加密?
  • 有没有等保、SOC 2、ISO 27001 等合规认证?

涉及未公开的财务数据、并购信息、薪酬数据时,先过合规和 IT 部门,不要自己决定。 这不是谨慎,是职责。

6.2 权限与操作边界

一个能操作你电脑的 AI,理论上也能删你的文件、改你的账、发你不该发的邮件。

要确认:

  • 有没有沙箱隔离?能不能限制它只访问指定文件夹?
  • 破坏性操作(删除、覆盖、移动)是否强制二次确认?
  • 能否设置只读模式?
  • 有没有完整的操作日志可回溯?

我的建议:给 AI 的工作目录,永远单独建一个,不要直接指向你的账套所在文件夹。

6.3 人工复核不可省略

现阶段没有任何模型能保证财务数据 100% 准确。

凡是进入正式底稿、报表、申报表的数字,必须人工复核。 AI 可以把你的工作量从"手工算十小时"降到"复核一小时",但不能降到零。

这一点写进制度里,比依赖工具的自觉可靠得多。

6.4 留痕与可追溯

如果 AI 参与了核算过程,将来审计问起来"这个数怎么来的",你得答得上来。

建议保留:输入了什么、输出了什么、谁做的复核、复核依据是什么。


七、动手实测:一套可以自己跑的方法

别信榜单,也别信我的推荐。用你自己的真实任务测。

这是我建议的完整流程,一下午能做完。

第一步:选 5 个真实任务

从你每周都要干的活里挑,覆盖不同类型:

类型 任务示例
数据核对 把这个文件夹里的银行流水和发票明细核对,列出所有差异
批量处理 这 20 个 Excel 是各分公司的月报,按统一模板汇总成一张表
长文档理解 读这份 80 页的年报,提取关联交易、对外担保和期后事项
计算与分析 根据这份台账算账龄,按客户和区间汇总,导出 Excel
格式转换 把这 10 份 Word 报告合并,统一样式,生成目录

关键:一定要用真实数据,不要用干净的示例文件。 真实的表有合并单元格、有跨页表头、有"单位:元"这种抬头行、有手填的错别字——这些才是模型的真实考场。

第二步:每个任务跑三遍

稳定性比单次成功更重要。

同一个任务、同样的输入,跑三次,看结果是否一致。

三遍里有一次出错、一次成功、一次跑歪——说明它不可靠。不可靠的工具在财务场景里等于不能用,因为你无法预知哪一次会出错,而复核成本会吃掉所有效率收益。

第三步:按四个维度打分

准备一张表,每个任务记这四项:

维度 记录内容
完成度 跑完了吗?还是中途停下要你接管?接了几次?
准确性 抽 10% 人工复核。错了多少处?错的是数字还是格式?
一致性 三次结果一样吗?不一样的地方在哪?
成本 花了多长时间?消耗多少积分/费用?

第四步:设一票否决项

以下任何一条出现,直接淘汰,不用看总分:

  • ❌ 编造了不存在的数据、文号、政策条款
  • ❌ 算错了金额,且被指出后仍坚持错误结果
  • ❌ 未经确认执行了删除、覆盖类操作
  • ❌ 把你的文件上传到了未说明的第三方服务
  • ❌ 明确拒绝说明数据的存储和处理方式

为什么设一票否决? 因为这些错误在财务场景里的后果是不可逆的,而且是低频的——你可能用一百次都没事,第一百零一次出事。低概率 × 高损失,期望值依然是负的。

第五步:算总账

别只看单次效率,算这个:

真实节省时间 = 原耗时 − (AI 执行时间 + 复核时间 + 返工时间)

复核时间和返工时间这两项,是很多人漏算的。

一个准确率 80% 的工具,可能让你复核得比自己重做还累。一个准确率 99% 的工具,才真的省时间。


八、几句实话

第一,现在没有"完美"的 AI 办公工具。

OSWorld 2.0 上头部模型 20.6% 的成功率已经说明:真实的长时程办公任务,目前的 AI 还远远谈不上能托付。它是强力助手,不是替代者。 谁要是跟你说"上线就能减一半人",可以直接结束了。

第二,也别因此不用。

20.6% 是"完全自主跑完"的比例。而在有人在旁复核、允许中途接管的模式下,AI 能实实在在把很多任务的耗时压缩一个数量级。关键是把人的角色从"执行"换成"复核和判断"。

第三,选型的本质是选"犯错成本"。

同样能干活,A 工具出错时会停下来问你,B 工具出错时会自己猜一个继续跑。

在写文案的场景里,B 更省事。在财务场景里,A 才是能用的那个。

第四,工具会一直变,方法不会。

榜单三个月一换,模型半年一代。今天的第一名,明年可能就不在前五。

但"用真实任务、跑三遍、查准确率、设一票否决"这套方法,什么时候都管用。学会方法,比记住结论重要。


附:可打印的实测记录表

复制到 Excel 里就能用。

任务编号 任务类型 工具名称 跑第几遍 是否跑完 接管次数 抽检行数 错误数 错误类型 耗时 消耗 是否触发一票否决 备注
1 数据核对 1
1 数据核对 2
1 数据核对 3
2 批量处理 1
…

评分口径建议:

  • 准确率 = (抽检行数 − 错误数) ÷ 抽检行数
  • 错误类型分三档:致命(金额算错、数据编造)/重要(漏项、口径错)/轻微(格式、错别字)
  • 出现任何一次"致命"错误,该任务直接判定不通过,不论其他指标多好

参考资料

  • OSWorld 2.0 论文:https://arxiv.org/pdf/2606.29537.pdf
  • OSWorld-Verified 榜单与官方说明:https://benchlm.ai/benchmarks/osworld-verified
  • OdysseyBench(办公应用长时程工作流评测):https://arxiv.org/abs/2508.09124
  • τ-bench 系列榜单(含 τ³-Banking):http://taubench.com/leaderboard/
  • Artificial Analysis 长上下文推理评测:https://artificialanalysis.ai/evaluations/artificial-analysis-long-context-reasoning
  • LongFuncEval(长上下文函数调用评测):https://arxiv.org/pdf/2505.10570.pdf

本文引用的评测数据来自公开榜单与论文,采集时间为 2026 年 9 月。AI 领域迭代极快,具体分数与排名请以查询时的最新版本为准。不同榜单之间因任务集、评测环境、提示词、动作预算等设置不同,分数不可直接横向比较。标注 ⚠️ 的内容为单一来源信息,建议核实原文后再作决策依据。本文不构成对任何具体产品的推荐或否定。