为什么AI项目最后总会卡在那个最懂业务的人身上？丨FDE重新理解责任单点

一个企业的合同审查系统上线了。

这套系统用了一个Agent，专门读合同、标风险。标准合同它处理得很好：付款条款、违约责任、常见的保密约定，几秒钟扫完，标得又快又准。销售团队很满意，因为大量标准单子不用再排队等法务了。

但只要合同里出现一条非标准条款——一个客户硬要塞进来的特殊赔偿上限、一句措辞含糊的知识产权归属——系统就把它标成"需人工复核"，然后，这条复核请求，无一例外地，落到同一个人桌上：那位最懂业务的法务专家。

系统越成功，签的合同越多，落到他桌上的复核就越多。然后有一周他休假了。

销售那边的签约队列，停住了。不是系统崩了——系统好好的，标准合同照样跑。停住的是所有非标准合同，也就是那些金额最大、最急着签的单子。整个系统看起来还在运转，但它那部分真正值钱的"智能"，跟着一个人一起去度假了。

这一幕，几乎每个上过规模的AI项目负责人都见过。项目名义上早就分好了工：产品经理管需求，技术负责人管系统，业务部门也指了Owner。可一旦涉及"这个输出到底合不合理"“这个特殊情况能不能放行"“这条规则这次要不要破例”，所有问题还是只能问同一个人。

我们习惯把这叫作”关键人物依赖"，然后想办法去补。但补的结果，往往让问题更严重。

NotebookLM的音视频概览，解读的比较通俗易懂，对于时间比较紧张的读者朋友，可以听听，会有启发。

那些看起来对的解法，为什么让单点更牢固

面对这种局面，组织的第一反应通常是三件事：把专家的经验写进知识库，制定更完善的SOP（标准作业流程），或者干脆让这位能力最强的人正式挂帅当负责人。

这三件事，没有一件是错的。

知识库和SOP确实有用。它们能把明确的规则沉淀下来，让一线人员和系统自己处理掉大量基础咨询和常规判断，专家因此不用再回答那些重复的简单问题。让最懂的人来对关键决定拍板，在很多时候也正是负责任的做法——你总不希望一个不懂业务的人去裁定一份高风险合同。

问题不在这些做法本身，而在它们能力的边界，以及组织对这个边界的误解。

SOP和知识库能转移"规则是什么"，却无法自动转移"什么时候这条规则在这里不适用"。 前者是可以写下来的知识，后者是一种在具体情境里才被激活的判断——它依赖专家对这个客户、这个行业、这段历史的隐性理解，恰恰是最难落到文档上的那部分。

于是就出现了一个很隐蔽的错位：组织以为文档写完了，责任就交接完了。常规问题确实减少了，看板上的咨询量下来了，一切显得很健康。但剩下的那些边界问题——真正需要判断、也真正有风险的那些——仍然全部回到专家身上。更麻烦的是，因为常规噪音被消掉了，这个单点反而更不容易被看见了。表面上专家清闲了，实际上他承接的每一件事都变得更麻烦。

“让最强的人当负责人"也是同样的道理。它本身不错，出错的是几个被默认掉的前提：专家、Owner、裁定者、最终责任人，被悄悄默认成了同一个人；这个人没有备份，没有资格培养的通道，也没有一条"他不在时可以安全降级"的方法；以及，所有问题无论风险高低，都从同一个入口进来。

这几个默认前提叠在一起，一个结构就形成了。

责任单点，和它在规模下的样子

这个结构，就是责任单点：一个组织把解决问题的能力、裁定的权力、和为结果负责的责任，全部压在同一个人身上。

责任单点本身，在小规模下不一定是问题。一个人足够强，处理量也不大，他确实能包住所有例外。它开始变成灾难，是在规模起来之后——而AI，正是那个把规模猛地拉起来的东西。

一个是规模效应。Agent让总处理量大幅上涨。哪怕例外的比例下降了，一个大得多的基数，仍然可能产生更多绝对数量的例外。原来一天审100份合同、5份需要人工，现在一天审1000份、只有3%需要人工，那也是30份——是原来的六倍。

另一个是筛选效应，这个更关键。自动化拿走的，永远是那些容易的、标准化的、能被规则覆盖的案例。留在专家队列里的，越来越集中于复杂的、模糊的、高风险的那一类。就算例外的数量一份没增加，专家面对的每一份的平均难度也在持续上升——他不再有简单的单子来"换换脑子”，眼前全是最难啃的骨头。

把这两个效应叠起来，结论就清楚了：AI不一定增加例外的比例，但它会同时扩大处理的基数、并抬高人类剩余队列的复杂度。判断的吞吐量，因此可能比执行的吞吐量更早触顶。

系统的执行能力还在提升，签约还在提速，但那个负责判断的人，早就到顶了。这时，责任单点就演变成了判断瓶颈——一个结构性的缺陷，在规模下暴露成了一个具体的、会过载的堵点。

AI在这里的放大作用，还不止于量。它的输出是概率性的，不可能靠一套一次性的规则覆盖掉所有边界情况，总有新的模糊地带冒出来指向人。而在很多组织里，那位业务专家还被同时当成好几个角色用：他是需求的翻译者、是数据的解释者、是上线的验收人、还是最终的裁定者——这些角色天然地叠在一个人身上。AI把简单的活自动化掉之后，留给这个人的，恰好是最复杂、最难书面化、也最推不掉的那部分。

FDE重新理解责任单点

FDE进场后，会先把压在一个人身上的东西拆成四件本来就不同的事：解决问题的能力、拥有裁定的权力、为结果负最终责任、以及保证这份责任可以持续。

这四件事，在很多组织里被默认由同一个人承担，但它们其实可以分开。能力最强的人，当然可以是那个关键专家，但他未必应该成为所有决定的最终入口。一个人可以同时兼任其中几个角色——小团队里这很常见，也没必要强行拆开——但关键在于：结构不能默认依赖他永远在场。

所以FDE要做的，是把那些隐在专家脑子里的判断，按类型摊开来：哪些情况可以直接按规则走，交给系统或一线；哪些例外需要真正的领域判断，必须由裁定者处理；哪些决定不可逆、代价高，必须往上升级；以及最关键的一条——当原来那个人不在时，谁有资格接他的班。

这就引出本篇的核心判断：

责任设计的目标，不是找到一个永远正确的人，而是让关键判断不依赖某一个人永远在场。

这句话里，NIST（美国国家标准及技术研究所）的AI风险管理框架（AI RMF 1.0，2023年发布，目前仍在修订中）提供了一半的支撑。它在治理部分明确要求：组织要建立问责结构，让恰当的个人和团队被赋权、被追责、并接受过训练；角色、职责、权限和沟通线要被清楚地记录下来，让全组织的人都明白。这是规范层面的"责任必须清晰"。

而另一半——“必须有备份裁定人、必须有一条接替的路径”——是FDE在这个规范基础上的工程延伸，不是NIST的原文。规范告诉你责任要清楚，但没告诉你清楚之后怎么让它可持续。后面这一步，要靠一张图。

一张判断责任图，不是一张RACI表

FDE会把上面的拆分，落成一张判断责任图。它长得有点像RACI表（一种标注谁负责、谁批准、谁被咨询、谁被告知的责任分配表），但它要处理的东西，比RACI多得多。

它至少要标清楚这几层：常规判断，由系统或一线人员处理；边界例外，由谁来裁定、多长时间内必须给出结果；不可逆的决定，升级到谁；每一类裁定，谁是主裁定人、谁是备份裁定人；新人通过什么方式取得接替资格；以及最后一栏，也是最容易被跳过的一栏——哪些判断到今天为止，仍然只存在于某个人的脑子里。

让它真正起作用的，是它背后按风险分级的使用规则，以及一条硬性后果：

如果一张图上，所有的"边界例外"和"不可逆决定"最终都指向同一个人，而且没有备份裁定人，那么这个系统就不能被标记为"可交接、可持续"。接下来怎么办，取决于它的阶段和风险：

探索阶段、低风险的场景，可以暂时接受这个单点——但必须给它设一个失效日期，限定它的适用范围，并且明确写清：这个专家不在时，系统要么暂停、要么缩小服务范围，而不是让别人硬顶。

一旦进入生产、进入高风险场景，就必须具备备份裁定人、联合裁定机制、或者一条安全降级的路径，否则这个系统不能通过生产上线的门槛。这不是建议，是门槛。

那些低频但不可逆的决定，不一定需要两个同样资深的专家长期值守——那太奢侈——但必须有一个正式的升级对象和一套等待机制，绝不能因为专家不在，就让一个普通一线人员替他拍这个板。

而当组织确实决定接受一个单点时，它必须同时写明四件事：谁接受了这个风险、这个接受有多长的有效期、它一旦失效会造成多大的业务影响、以及解除这个单点的计划是什么。只把风险记在清单上，不叫处理风险，那只是给它拍了张照片。

这张图也不是一次性文档：原型阶段第一次出现真正的边界案例时，先把它建起来；PoC（概念验证）进入生产前，把它当成一道强制门槛过一遍；之后每当例外的分布、业务的范围、或者那位关键专家本身发生变化时，重新审一次。

判断，到底怎么才能真正交出去

判断责任图解决了"责任应该怎么分"，但还剩一个最实的问题：那位专家脑子里的判断，具体怎么才能传给备份的人？

如果答案又回到"让他把经验写进知识库"，那我们就绕回原点了。

关键判断的交接，不是靠读完文档完成的，而是靠对同一批真实的边界案例，反复地做出、比较、和修正判断。具体有三个动作：

第一是联合裁定：让主裁定人和备份裁定人，一起处理真实的边界案例，而不是让备份的人事后看记录。判断是在做的过程里长出来的。

第二是判断留痕：记录的时候，不只记最终给了什么答案，更要记下——当时放弃了哪些别的选项、依据了哪些信号才做这个决定。答案本身价值有限，通往答案的那条路才是可迁移的东西。

第三是反向校准：让备份人员先对一批案例独立做出自己的判断，再拿去和专家的结果对照，然后看差异到底出在哪——是因为某条规则没写全（那补规则就能解决），还是因为经验敏感度不够（那说明判断还没传到位，得继续练）。

这三个动作合起来，才是真正的判断交接。它比写文档慢，但它是唯一能让判断离开一个人的脑子、交接到另一个人的方式。

写在最后

一个AI项目卡在最懂业务的那个人身上，根子不在这个人不够强，也不在知识库写得不够全。根子在于，组织把四件本可以分开的事——解决能力、裁定权、结果责任、责任的可持续——默认压成了一件，压在了同一个入口上。AI没有制造这个单点，它只是把这个单点，放大成了一个所有人都绕不过去的瓶颈。

所以，别再用"离了他就不行"来夸一个专家，那不是在夸他，那是在描述一个系统的病。一个系统是否成熟，不看它有没有一个离不开的专家，而看那个专家不在的时候，边界判断是否仍然有接续下去的路径。

当责任被拆开、裁定有了备份、判断能够被接替之后，你大概会撞上下一堵墙：角色明明已经分清楚了，产品经理、技术、法务、业务各归各位，可为了让一个功能上线，还是要开上十场会——每个人都有话说，每个人都能拦，就是没有人能最终拍板。责任清楚了，为什么决定还是做不出来？

感谢你看到最后，如果你觉得有启发，随手点个赞、在看、转发吧，如果想第一时间收到推送，也可以给我加个星标⭐我们下期见。

我是「AioGeoLab」主理人塔迪Tardi，AioGeoLab是深度洞察AI第一性原理和应用实践的前瞻性研究实验室，目前有两个主要研究方向：
「塔迪GEO判断工程」在AI从“说”到“做”进化阶段，试图回答，如何让AI敢于行动、不因为责任问题而畏手畏脚，而做的一个前沿研究项目。
「塔迪硅基禅心」是传统东方智慧、未来AI前沿、当下应用实践，深层共鸣的探索。不是用AI解读经典，也不是用经典指导AI。 这是一场跨越2500年的对话，在算法与古老智慧之间，照见意识、智能与存在的本质。
塔迪的微信 - tardyai2025。