インサイト
AIはいかに組織の野心を静かに制限しているか
ホワイトボードに2つの疑問を書き留めた女性研究者を想像してほしい。そして、彼女が無意識のうちに下す小さな決断を。1つ目は、彼女が3年間も回り道を続けている問いだ。不格好で定義が曖昧であり、どのような証拠が決定打になるのか事前には分からない類の問いである。2つ目はその隣にあり、より狭く、チームがすでに保有するデータで明確に答えられる問いだ。彼女は2つ目を選ぶ。より重要だからではない。両方をAIモデルに入力した際、一方は計画を返し、もう一方は励ましの段落を返してきたからだ。彼女はこれを「効率性」と表現するだろう。だが、私は別のものだと思っている。
ジョシュア・ガンス（Joshua Gans）には、まさにこの現象をモデル化したワーキングペーパー（NBER 33566）がある。意思決定者が既知の領域内で適切に補間を行うAIを手に入れると、科学者たちは戦略的に反応する。ツールが弱ければ無視し、非常に強力であれば、ツールが最大の付加価値を発揮する真に新しい領域へと外側へ突き進む。しかし、今日ほとんどの組織が位置する中間の範囲では、科学者たちは「AIに合わせて働く（work to the AI）」ようになる。機械が確実に処理できる範囲に合わせるために、自分が追求するものの新しさを制限してしまうのだ。
AIに合わせて働く
モデルが示唆するように、中程度のAIは研究の野心を低下させる可能性がある。その発見は科学の領域をはるかに超えていると私は思う。今やあらゆる組織が、週に何度もあのホワイトボードの選択を迫られる人々であふれている。どの分析を試みるか。どの顧客の課題を開拓するか。どの戦略的疑問を議題に乗せるか。そして、その決断には新しく、かつ静かな基準が入り込んでいる。それは、「これを機械に説明したとき、どれほどうまくいくか？」という基準だ。
誰もその基準を適用するよう指示はしない。それは安堵感として訪れる。扱いやすい質問なら、木曜日までに下書きができあがる。しかし重要な質問なら、1週間の不確実性と、レビューで示すもののなさが残るだけだ。組織の中で生きる人間にとって、そのどちらがはるかに楽かは言うまでもない。
これはAIの限界についての物語ではない。野心が、私たちのツールにとって読み取りやすいというだけの理由で、ひそかに再スコープされ、しかもその再スコープが痕跡を一切残さないという物語なのだ。狭められた質問は、狭められたようには見えない。それは「集中」のように見える。期日通りに届き、構造がしっかりしており、弁護の余地もある。だが、見捨てられた質問はどの文書にも登場しないため、誰もそのトレードオフを比較検討することはない。
ひそかに再スコープされる野心
集合的創造性に関する研究は、別のアプローチからも同様の結論に達しつつある。AIの利用は個人の生産性を高める一方で、集団が生み出す成果物の多様性を低下させる傾向があるのだ。個人はより豊かになるが、グループの多様性は失われる。今年、『Nature Reviews Psychology』誌は、この均質化に対する主な防衛策はメタ認知であると主張する論文を掲載した。すなわち、知的謙虚さであり、自分自身の思考がまさに起きている最中にそれに気づく習慣のことである。
じっくり考えてみると、それは奇妙な結論である。圧倒的な規模を持つテクノロジーに対する防衛策が、個人のささやかな内省的注意であることが判明したのだから。
圧倒的な規模を持つテクノロジーに対する防衛策
個人がそれを一人で担うことはできないと私は思う。そのメカニズムが無意識のうちに働き、カレンダー（締切）によって報われるものであるならば、意志の力は間違った道具だ。それは組織の「問いの立て方」そのものに組み込まれなければならない。
具体的には、以下のような取り組みが考えられる。検討されて見送られた質問の記録を目に見える形で残し、野心が痕跡を残すようにする。レビューでは、何が発見されたかだけでなく、何を試さなかったか、そしてそれはなぜかを尋ねる。誰もまだアプローチの方法を知らないという基準を明確に設けて、一定割合の業務に資金を投じる。「この件についてモデルは何も有益なことを言わなかった」という状況を、実現不可能の判決としてではなく、フロンティアのシグナルとして扱うのだ。
実行は安価になった。それによって私たちはより大きな問いを自由に立てられるようになるはずだった。しかしそれが実現するのは、私たちが答えやすい問いにいかに強く惹きつけられているかに気づいたときだけなのだ。
組織が失うものの中で最も高くつくのは、時間ではない。それは、「問わないことに決めたことすら誰も覚えていない問い」である。