洞察
AI 停下之后的交接机制设计
大多数组织都已经决定了 AI 在哪里停止。但几乎没有人设计过它停止后那一秒会发生什么。
交接被当作了一种路由分发：系统达到极限，人类接手工作，服务得以继续。但这根本不是路由。这是决定整个系统质量的关键节点，而目前它正处于无人设计的真空状态。现在，我们已经有了关于此事的实地证据。在阿里巴巴淘宝平台的一项随机实验中，员工监督自主 AI 系统处理符合条件的客户聊天，同时自己继续解决其余问题。聊天变短了。符合 AI 处理条件的聊天的评分大幅下降。有趣的是，人类的“救援”在哪些地方奏效了，在哪些地方失效了。当系统因问题超出其能力范围（技术死胡同）而升级时，人工干预保持了服务质量。而当系统因客户感到沮丧而升级时，干预基本未能挽回结果。原因不在于技能，而在于努力程度。在情绪化的升级事件中，员工发送的信息更少、在对话中所占比例更小、寻求的信息更少、提供的解决方案也更少。他们在一天中最艰难的时刻到来时，投入度反而是最低的。而且干预过晚只会让情况更糟：尽早介入才是维持后续努力的关键。
将其视为一项组织设计发现
不要把它当作客服问题，而应将其视为一项组织设计发现。系统悄然重新分配了人类的工作，使其几乎完全由机器做不到的部分组成——那些代价高昂的情感消耗部分——却没有对这些工作的支持、人员配置或价值评估做出任何改变。残余工作直接变成了整份工作。而没有人设计过这些残余部分。第二项研究是保时捷售后运营内部的一项实地实验，从另一个角度指出了同样的鸿沟。决策者会获得来自人类专家、机器学习模型或两者的建议。两者的结合产出了更好的决策——但前提是人们积极调和了相互冲突的输入，而不是盲目服从其中一方。并且，当决策从个人转变为集体场景时，对这种调和的投入度便会下降。这些研究共同揭示了一个令人不舒服的事实：让人类留在工作闭环中的好处并不是自动实现的。它以真诚的投入动作为前提，而绝大多数工作流根本不会去保护这种投入，它会在压力、疲劳和群体设定下悄然蒸发。
由此带来三点启示
因此，问题不在于是否要把人类留在闭环中，而在于闭环对他们提出了什么要求。由此带来三点启示。事件升级必须携带完整的上下文，而不仅仅是案例本身。一个在最糟糕时刻介入且对历史一无所知的人，要花掉前几分钟来重建发生了什么，等接触到问题的核心时，精力已经耗尽了。为信息连续性而设计的交接成本很低。但我们很少去构建它们。残余工作应被配置为困难工作，而非剩余工作。如果机器吸收了常规工作，把模棱两可、充满情感和前所未有的任务留给人类，那么在人员编制模型仍然假设工作变轻松的同时，人类每小时的工作量实际上悄然变得更加艰难了。这种错位在任何人称之为职业倦怠之前，早就表现为工作疏离感了。对系统的异议需要有合法的途径。如果将机器建议与你自己的判断相调和是创造价值的步骤，那么覆盖机器决策必须是一项日常、低成本且有记录的行为——而不是必须有人为此辩护的默默抗命行为。
隐藏在底下的模式，在 AI 进入任何地方时都值得关注
隐藏在背后的这种模式，在 AI 进入组织的任何角落时都值得密切关注。我们剥离了工作中最轻松的部分，并将其称之为解脱。留下来的是高度浓缩的人类残余：判断力、模糊性、情感、修复。这就是我们口口声声说想要的价值贡献。这也是按小时计算一个人能做的最费力的工作——而我们在将其交出去时，却没有提供比它所替代的常规工作更多的支持。