インサイト
AIが停止した後のハンドオフをどう設計するか
多くの組織が、「AIがどこで止まるか」を決めている。しかし、「AIが止まったその瞬間に何が起きるか」を設計している組織は、ほとんど存在しない。
ハンドオフ（引き継ぎ）は単なるルーティング（振り分け）として扱われている。システムが限界に達し、人間が業務を引き継ぎ、サービスが継続される――そう思われている。だが、それはルーティングではない。システム全体の品質が決まる決定的な瞬間であり、現在、誰もそれについて設計を行っていない。これに関する実際のフィールドデータが存在する。AlibabaのTaobaoプラットフォームで行われた無作為化実験では、担当者がAIエージェントに適用可能な顧客チャットを監督しながら、残りのチャットを自分たちで解決し続けた。チャットの時間は短縮された。しかし、AI適用対象チャットの評価は大幅に低下した。興味深いのは、人間の救済が機能した場面と、機能しなかった場面の違いだ。問題がAIの能力を超えていたためにシステムがエスカレーションした場合――つまり技術的な行き詰まりの場合――、人間の介入によってサービスの質は維持された。しかし、顧客がフラストレーションを溜めたためにエスカレーションした場合、人間の介入は成果を回復させることがほとんどできなかった。原因はスキルではない。労力だ。感情的なエスカレーションにおいて、担当者は送信するメッセージを減らし、会話における割合を縮小し、求める情報量を減らし、提供する解決策を減らした。彼らは一日のうちで最も過酷な局面に、最も低いエンゲージメントの状態で直面していたのだ。そして、介入の遅れが状況をさらに悪化させた。早期の参加こそが、その後の労力を維持させる要因だった。
これは組織設計上の発見として読み解くべきだ
これをカスタマーサービスの問題としてではなく、組織設計上の発見として読み解くべきだ。システムは、機械が失敗する部分、すなわち「感情的にコストの高い部分」をほとんどすべて引き受けるよう、人間の仕事をひそかに再配分していた。その仕事がどのようにサポートされ、人員配置され、評価されるべきかという点は一切変えられていない。その「残余の仕事」自体が業務の大部分になってしまったのだ。誰も残余の仕事を設計していなかった。Porscheのアフターセールス部門で行われたもう一つのフィールド実験は、別の角度から同じ乖離を指摘している。意思決定者には、人間の専門家、機械学習モデル、あるいはその両方からの助言が与えられた。両者を組み合わせることで、より優れた意思決定が下された――ただし、一方に盲従するのではなく、人々が矛盾する意見を積極的にすり合わせた場合に限られた。そして、そのすり合わせに対するエンゲージメントは、意思決定が個人からグループへと移行するにつれて低下した。これら二つの研究は、居心地の悪い事実を突きつけている。人間をループに残すことのメリットは自動的には生まれない。それは、ほとんどのワークフローが保護しようともせず、プレッシャーや疲労、集団の状況下でひそかに消え去ってしまうような、「真摯な関与の行為」が前提条件となるのだ。
そこから導き出される3つの教訓
したがって、問うべきは「人間をループに残すべきか否か」ではなく、「ループが人間に何を求めているのか」である。そこから3つの教訓が導き出される。第一に、エスカレーションには単なるケース履歴だけでなく、コンテキスト（文脈）が伴わなければならない。最悪のタイミングで、これまでの経緯を何も知らずに参加した人は、何が起きたのかを把握するだけで最初の数分間を費やし、問題の人間的な核心にたどり着く前にすでに疲弊してしまう。情報の連続性のために設計されたハンドオフは低コストで実現できる。しかし、私たちはそれを滅多に構築しない。第二に、残余の仕事は「やり残しの仕事」ではなく、「困難な仕事」として人員を配置すべきだ。機械が定型業務を吸収し、曖昧さ、感情、修復作業といった困難を人間に残すのであれば、人員数モデルが「仕事は楽になった」と想定している裏で、人間の1時間あたりの caseload（処理負担）は静かに重くなっている。その不整合は、誰もがそれを燃え尽き症候群と呼ぶよりずっと前から、エンゲージメントの低下として表面化する。第三に、システムとの不一致には正当なルートが必要だ。機械の助言と自身の判断をすり合わせることが価値を生み出すステップなのだから、上書き（オーバーライド）は、誰かに正当性を説明させられるようなこっそりとした反逆行為であってはならず、日常的で低コストかつ記録に残る行為でなければならない。
その下にあるパターンは、AIが組織に浸透するあらゆる場所で注目に値する
その下にあるパターンは、AIが組織に浸透するあらゆる場所で注目に値する。私たちは仕事の簡単な部分を取り除き、それを「負担軽減」と呼んでいる。しかし、残されたものは、人間の濃縮された残余物――判断、曖昧さ、感情、修復――である。それこそが私たちが「生み出してほしい」と望む貢献なのだ。同時にそれは、1時間ごとに見れば人間ができる最も要求の厳しい仕事であり――私たちはそれを、それが置き換えた定型業務と変わらない、あるいはそれ以下のサポート体制のまま引き渡しているのである。