अंतर्दृष्टि
AI कैसे चुपचाप संगठन की महत्वाकांक्षा को सीमित करता है
एक शोधकर्ता की कल्पना करें जिसके व्हाइटबोर्ड पर दो सवाल हैं, और वह बिना ध्यान दिए एक छोटा सा निर्णय लेती है। पहला वह सवाल है जिसके इर्द-गिर्द वह तीन साल से घूम रही है—अजीब, खराब तरीके से परिभाषित, एक ऐसा सवाल जहां आप पहले से यह नहीं कह सकते कि कौन सा साक्ष्य मायने रखेगा। दूसरा सवाल इससे सटा हुआ, संकीर्ण है, और उस डेटा से आसानी से उत्तर देने योग्य है जो उसकी टीम के पास पहले से है। वह दूसरे को चुनती है। इसलिए नहीं कि इसका अधिक महत्व है। बल्कि इसलिए कि जब वह दोनों को मॉडल के सामने रखती है, तो उनमें से एक पर एक योजना वापस मिलती है, और दूसरे पर प्रोत्साहन का एक पैराग्राफ मिलता है। वह इसे दक्षता बताएगी। मुझे लगता है कि यह कुछ और है।
जोशुआ गांस के पास एक वर्किंग पेपर (NBER 33566) है जो बिल्कुल इसी का मॉडलिंग करता है। जब निर्णयकर्ताओं को ऐसा AI मिलता है जो ज्ञात क्षेत्र के भीतर अच्छी तरह से प्रक्षेपोलन (interpolate) करता है, तो वैज्ञानिक रणनीतिक रूप से प्रतिक्रिया देते हैं। जब टूल कमजोर होता है, तो वे इसे अनदेखा करते हैं। जब यह बहुत मजबूत होता है, तो वे वास्तव में नए मैदान में आगे बढ़ते हैं, क्योंकि यहीं पर टूल सबसे अधिक मूल्य जोड़ता है। लेकिन मध्यम सीमा में—जहां आज अधिकांश संगठन हैं—वैज्ञानिक “AI के अनुसार काम करते हैं।” वे मशीन द्वारा मज़बूती से संभाले जा सकने वाली सीमा से मेल खाने के लिए अपने द्वारा पीछा की जाने वाली नवीनता को सीमित करते हैं।
AI के अनुरूप काम करना
मॉडल का सुझाव है कि मध्यम AI अनुसंधान की महत्वाकांक्षा को कम कर सकता है। मुझे लगता है कि यह खोज विज्ञान से बहुत आगे तक जाती है। अब हर संगठन ऐसे लोगों से भरा हुआ है जो हफ्ते में कई बार व्हाइटबोर्ड वाला वह निर्णय लेते हैं। कौन सा विश्लेषण करना है। किस ग्राहक समस्या को खोलना है। एजेंडे में कौन सा रणनीतिक सवाल रखना है। और निर्णय में एक नया, शांत मानदंड प्रवेश कर गया है: जब मैं इसे मशीन को समझाता/समझनाती हूँ, तो यह कितना अच्छा होता है?
कोई भी किसी को इस मानदंड को लागू करने का निर्देश नहीं देता है। यह राहत के रूप में आता है। आसान सवाल गुरुवार तक एक ड्राफ्ट तैयार कर देता है। महत्वपूर्ण सवाल हफ्तों की अनिश्चितता और समीक्षा में दिखाने के लिए कुछ न होने का परिणाम देता है। उनमें से किसी एक के साथ संगठन के भीतर एक व्यक्ति होना बहुत आसान होता है।
यह इस बारे में कहानी नहीं है कि AI सीमित है। यह इस बारे में कहानी है कि महत्वाकांक्षा को चुपचाप हमारे उपकरणों द्वारा पढ़े जाने योग्य किसी भी चीज़ द्वारा फिर से दायरे में लाया जा रहा है—और इस पुनर्निर्धारण का कोई निशान नहीं छूटता है। एक संकीर्ण प्रश्न संकीर्ण नहीं दिखता है। यह फोकस जैसा दिखता है। यह समय पर, अच्छी तरह से संरचित, बचाव योग्य तरीके से आता है। छोड़ा गया प्रश्न कभी किसी दस्तावेज़ में दिखाई नहीं देता है, इसलिए कोई भी कभी भी इस सौदे का वजन नहीं करता है।
महत्वाकांक्षा का चुपचाप नए सिरे से दायरा तय होना
सामूहिक रचनात्मकता पर शोध एक अलग दिशा से एक समान स्थान पर पहुंच रहा है: AI के उपयोग से व्यक्तिगत आउटपुट बढ़ने की प्रवृत्ति होती है जबकि लोगों की आबादी जो उत्पादन करती है उसकी विविधता कम हो जाती है। प्रत्येक व्यक्ति बेहतर स्थिति में है। समूह कम विविध है। ‘नेचर रिव्यूज साइकोलॉजी’ ने इस गर्मियों में एक लेख प्रकाशित किया जिसमें तर्क दिया गया कि इस समरूपीकरण के खिलाफ मुख्य सुरक्षा मेटाकॉग्निटिव है—बौद्धिक विनम्रता, घटित होने के दौरान अपने स्वयं के तर्क को देखने की आदत।
जो कि एक अजीब निष्कर्ष है, यदि आप इसके साथ बैठें। भारी पैमाने की तकनीक के खिलाफ सुरक्षा उपाय एक छोटा सा निजी ध्यान का कार्य साबित होता है।
भारी पैमाने की तकनीक के खिलाफ सुरक्षा उपाय
मुझे नहीं लगता कि व्यक्ति इसे अकेले उठा सकते हैं। यदि कोई तंत्र जागरूकता के स्तर से नीचे काम करता है और कैलेंडर द्वारा पुरस्कृत किया जाता है, तो इच्छाशक्ति गलत उपकरण है। इसे इस बात में बनाया जाना चाहिए कि संगठन कैसे पूछता है।
यह कैसा दिखता है, अस्थायी रूप से: उन प्रश्नों का एक दृश्य रिकॉर्ड रखें जिन पर विचार किया गया और उन्हें अलग रखा गया, ताकि महत्वाकांक्षा एक निशान छोड़े। समीक्षा में, न केवल यह पूछें कि क्या पाया गया बल्कि यह भी पूछें कि क्या प्रयास नहीं किया गया और क्यों। स्पष्ट रूप से उस मानदंड पर काम के एक हिस्से को निधि दें कि वर्तमान में कोई नहीं जानता कि इससे कैसे संपर्क किया जाए। “मॉडल के पास इसके बारे में कहने के लिए कुछ भी उपयोगी नहीं था” को अव्यवहार्यता के फैसले के बजाय सीमा के संकेत के रूप में मानें।
निष्पादन सस्ता हो गया है। माना जाता था कि इससे हमें बड़े सवाल पूछने की स्वतंत्रता मिलेगी। यह तभी होगा जब हम ध्यान दें कि उत्तर देने में आसान सवालों की ओर हमें कितनी मजबूती से खींचा जा रहा है।
एक संगठन जो सबसे महंगी चीज़ खो सकता है, वह समय नहीं है। यह वह सवाल है जिसे तय करना कोई याद नहीं रखता कि इसे नहीं पूछना है।