インサイト
私たちが「わからない」と言わなくなった理由
会議で静かに消え去った一文がある。「わからない」という言葉だ。答えが出る前に形式的に発せられるものではない。本物の「わからない」だ。質問が部屋の誰の予想よりも難しいと誰かが認め、グループ全体がペースを落たさなければならない、あの間のことだ。私はそれがなぜ消えたのかを理解しようとしてきたが、その理由は企業の自信過剰文化よりもはるかに興味深いものだと思っている。
今年発表された5つの実験（被験者総数3,132人、うち4つは事前登録済み）において、研究者たちは人々に難しい質問を与え、常に解答を辞退することを許可した。質問は、利用可能なAIのアドバイスが必ず間違っているように設計されており、これによりAIの利用とAIの正確性が切り離されていた。
単にアシスタントにアクセスできること
単にアシスタントにアクセスできるという事実だけで、参加者が判断を留保しようとする意欲はほぼ完全に失われた。彼らははるかに多くの質問に答え、正解率は約3分の1に低下した。だが、自信は約2倍になった。もう一度読んでほしい。衝撃的な発見はエラー率ではない。自信なのだ。このツールは、人々が何を信じるかを変えただけではない。人々が何かを信じる資格があると感じる閾値そのものを変えてしまったのだ。
2つ目の研究は、そのメカニズムを別の角度から指し示している。競争的な質問応答の環境において、AIエージェントと協力する人間の専門家は、単独の場合よりも全体的に優れた決断を下した――しかし、その間違いは体系的だった。AIへの依存度が最も低くなったのは（機会全体の約61%）、まさにAIの提案が人間の最初の誤った答えと一致した時であった。一致が証拠として扱われ、確認が確証のように感じられたのだ。
つまり、私たちの認識の範囲を広げるはずだった機械は、実際にはそれを狭めていることが多い。嘘をつくからではなく、流暢で、即時的で、調子が良いからだ。
ここで慎重になっておきたい。これは、AIが人を愚かにするという議論ではない。どちらの研究でも、協働は個人のパフォーマンスを上回った。そして1つ目の研究では、正確さに報酬が与えられエラーにペナルティが課されたとき、人々はアドバイスを求めることが減り、それに従うことも減り、不確実性をより頻繁に認めるようになった。
インセンティブが行動を動かした
インセンティブが行動を動かしたのだ。それは極めて重要である。なぜなら、インセンティブこそが組織が実際にコントロールできる唯一の変数だからだ。そして、ここからが私を眠れなくさせている部分だ。ほとんどの組織は何十年もの間、不確実性にペナルティを課してきた。公式にではない――そんなポリシーを掲げる企業はない――が、会議のミクロ経済学においてそれは起きてきた。誰が遮られるか、誰の予測が記憶されるか、「少し考えさせてください」という言葉が準備不足と受け取られるか。私たちは「知らないこと」が高くつく環境を作り上げたのだ。そして今、知らないことを完全に回避できるデバイスを全員に手渡した。
流暢さは豊富になった
その結果生まれたのは、あらゆる質問に答えがあり、それを検証するはずの熟考よりも速く答えが届く組織である。流暢さは豊富になった。そして乏しくなったのは、同僚の前に立ち、機械を止めるための一言を発する意欲である。
私は以前、AIが実行の負担を軽減し、人間の制約の場所を移し替えると論じた。これは個人の精神レベルにおける全く同じ主張である。答えを出すコストがほぼゼロに低下したとき、品質の唯一残された源泉は、「そもそも答えを出すべきかどうか」についての判断である。その判断はスキルではない。それは許可なのだ。
つまり、ここでのリーダーシップの課題はトレーニングではない。ライセンス供与なのだ。「わからない、そしてこれを調べればそれがわかるはずだ」という言葉が、記録され、評価され、後に正しかったことが証明されたときには参照されるような「貢献」として扱われたとしたら、何が変わるだろうか。それは謙虚さの演技としてではなく、組織の最も誠実な早期警戒システムとして機能する。判断を留保する人は、現在どのアシスタントもしていないことを行っている。誰もまだ獲得していない自信満々な答えから、グループを守っているのだ。
心理的安全性は常に経済的な議論であった。今やそれは認識論的な議論になりつつある。