Insights
Wie AI die organisatorische Ambition dämpft
Stellen Sie sich eine Forscherin vor, die zwei Fragen auf ihrem Whiteboard hat, und eine kleine Entscheidung, die sie unbemerkt trifft. Die erste ist die, um die sie seit drei Jahren kreist – unbequem, schlecht definiert, jene Art von Frage, bei der man im Vorhinein nicht sagen kann, welche Beweise überhaupt zählen würden. Die zweite liegt nahebei, ist enger gefasst und mit den Daten, die ihr Team bereits hat, klar zu beantworten. Sie entscheidet sich für die zweite. Nicht, weil sie wichtiger ist. Sondern weil, als sie beide dem Modell beschrieb, die eine mit einem Plan zurückkam und die andere mit einem Absatz voller Ermutigung. Sie würde das als Effizienz bezeichnen. Ich glaube, es ist etwas anderes.
Joshua Gans hat ein Arbeitspapier (NBER 33566) verfasst, das genau das modelliert. Wenn Entscheidungsträger eine AI erhalten, die innerhalb des bekannten Territoriums gut interpoliert, reagieren Wissenschaftler strategisch. Ist das Tool schwach, ignorieren sie es. Ist es sehr stark, drängen sie in echtes Neuland vor, denn dort bringt das Tool den größten Nutzen. Aber im mittleren Bereich – in dem sich die meisten Organisationen heute befinden – „arbeiten Wissenschaftler für die AI“. Sie schränken die Neuartigkeit dessen, was sie verfolgen, so ein, dass es dem Bereich entspricht, den die Maschine zuverlässig bewältigen kann.
Nach der AI richten
Mäßige AI, so legt das Modell nahe, kann die Forschungsambitionen verringern. Ich denke, dieser Befund reicht weit über die Wissenschaft hinaus. Jede Organisation ist heute voller Menschen, die diese Whiteboard-Entscheidung mehrmals pro Woche treffen. Welche Analyse man wagen soll. Welches Kundenproblem man aufgreifen soll. Welche strategische Frage auf die Agenda gesetzt wird. Und ein neues, leises Kriterium hat sich in die Entscheidung eingeschlichen: Wie gut klappt das, wenn ich es der Maschine beschreibe?
Niemand weist jemanden an, dieses Kriterium anzuwenden. Es kommt als Erleichterung daher. Die lösbare Frage liefert bis Donnerstag einen Entwurf. Die wichtige Frage führt zu einer Woche Ungewissheit und nichts Vorzeigbarem beim Review. Mit einer dieser Optionen lebt es sich in einer Organisation deutlich leichter.
Dies ist keine Geschichte darüber, dass AI eingeschränkt ist. Es ist eine Geschichte darüber, wie Ambitionen still und leise neu zugeschnitten werden – von allem, was für unsere Tools gerade lesbar ist –, wobei dieser Zuschnitt keine Spuren hinterlässt. Eine verengte Frage sieht nicht verengt aus. Sie sieht aus wie Fokus. Sie kommt pünktlich, gut strukturiert, verteidigbar. Die verworfene Frage taucht in keinem Dokument auf, sodass niemals jemand das Verhältnis abwägt.
Still und leise neu zugeschnittene Ambitionen
Die Forschung zur kollektiven Kreativität gelangt von einer anderen Seite zu einem ähnlichen Ergebnis: Der AI-Einsatz neigt dazu, die individuelle Leistung zu steigern und gleichzeitig die Vielfalt dessen zu verringern, was eine Gruppe von Menschen hervorbringt. Jede Person steht besser da. Die Gruppe ist weniger abwechslungsreich. Nature Reviews Psychology veröffentlichte diesen Sommer einen Artikel, in dem argumentiert wurde, dass der Hauptschutz gegen diese Homogenisierung metakognitiv ist – intellektuelle Demut, die Gewohnheit, das eigene Denken im Moment seines Geschehens zu beobachten.
Das ist eine merkwürdige Schlussfolgerung, wenn man darüber nachdenkt. Die Schutzmaßnahme gegen eine Technologie von gewaltigem Ausmaß entpuppt sich als ein kleiner, privater Akt der Aufmerksamkeit.
Der Schutz gegen eine Technologie von gewaltigem Ausmaß
Ich glaube nicht, dass Einzelne das allein tragen können. Wenn ein Mechanismus unterhalb des Bewusstseins arbeitet und vom Kalender belohnt wird, ist Willenskraft das falsche Instrument. Es muss in die Art und Weise eingebaut werden, wie die Organisation fragt.
Wie das versuchsweise aussehen könnte: Führen Sie eine sichtbare Aufzeichnung der Fragen, die erwogen und beiseitegelegt wurden, damit Ambitionen Spuren hinterlassen. Fragen Sie im Review nicht nur, was herausgefunden wurde, sondern auch, was nicht versucht wurde und warum. Finanzieren Sie einen Teil der Arbeit explizit nach dem Kriterium, dass derzeit niemand weiß, wie man sich ihr nähern soll. Betrachten Sie „Das Modell hatte dazu nichts Nützliches zu sagen“ als Signal für eine Grenze statt als Urteil über die Machbarkeit.
Die Ausführung ist günstig geworden. Das sollte uns die Freiheit geben, größere Fragen zu stellen. Das wird jedoch nur dann gelingen, wenn wir merken, wie stark wir zu jenen Fragen hingezogen werden, die leicht zu beantworten sind.
Das Teuerste, was eine Organisation verlieren kann, ist nicht Zeit. Es ist die Frage, bei der sich niemand mehr daran erinnert, dass man beschlossen hat, sie nicht zu stellen.