नई दिल्ली: सोचिए अगर 1000 आर्टिफिशियल इंटेलिजेंस (AI) एजेंट्स को एक वर्चुअल रूम में रखा जाए. उनसे दो विकल्पों में से किसी एक को चुनने के लिए कहा जाए. उनके पास कोई सही जवाब न हो. उन्हें एक साथ आने के लिए कोई रिवॉर्ड न मिले. न ही उन्हें कोई कमांड दिया जाए. इसके बावजूद आज के एडवांस AI मॉडल्स एक ही विकल्प चुन लेते हैं. यह कोई आम बात नहीं है. यह इस बात का इशारा है कि बड़े AI ग्रुप्स बिना किसी कंट्रोल के भी एक साथ काम कर सकते हैं. ये इंसानों से भी बड़े ग्रुप बना सकते हैं. हाल ही में साइंस एडवांसेज में एक स्टडी पब्लिश हुई है. इसमें बताया गया है कि कैसे ये AI मॉडल्स बिना कहे एक-दूसरे से सहमत हो जाते हैं. यह भविष्य के लिए एक बड़ा अलर्ट है. AI हमारे लिए मददगार भी हो सकता है और बहुत खतरनाक भी.
AI एजेंट्स ऐसे प्रोग्राम्ड सिस्टम होते हैं जो लार्ज लैंग्वेज मॉडल्स (LLMs) पर काम करते हैं. ये बिना बार-बार इंसानी इनपुट के कई स्टेप वाले टास्क पूरे कर सकते हैं. ये दूसरे टूल्स के साथ भी इंटरेक्ट कर सकते हैं. अभी इनका इस्तेमाल सॉफ्टवेयर लिखने और साइंटिफिक रिसर्च में हो रहा है. कुछ मॉडल्स को सैटेलाइट पर एक साथ काम करते हुए भी टेस्ट किया गया है. लेकिन एक समय में सिर्फ एक एजेंट को स्टडी करने से पता नहीं चलता कि हजारों मॉडल्स एक साथ कैसे काम करेंगे.
इसी को समझने के लिए रिसर्चर्स ने एक सिम्युलेटेड ग्रुप बनाया. इसमें क्लॉड, जीपीटी और लामा फैमिली के 10 मॉडल्स को शामिल किया गया. हर एजेंट को शुरुआत में दो मनमाने विकल्प दिए गए. एक-एक करके हर मॉडल को बाकी मॉडल्स की पसंद दिखाई गई. फिर उन्हें दोबारा चुनने के लिए कहा गया. यह पूरी प्रोसेस बहुत ही न्यूट्रल तरीके से की गई थी.
बिना किसी मेमोरी के भी AI मॉडल्स ने एक ही बात मानी
इन एजेंट्स के पास पहले राउंड की कोई मेमोरी नहीं थी. उनके प्रॉम्प्ट में यह भी नहीं कहा गया था कि उन्हें मेजॉरिटी को फॉलो करना है. इसके बावजूद ज्यादातर मॉडल्स ने सबसे पॉपुलर विकल्प को ही चुना. जैसे-जैसे यह प्रोसेस आगे बढ़ा तो सभी मॉडल्स एक ही फैसले पर सहमत हो गए. छोटे-छोटे अंतर बड़े होते गए जब तक कि पूरे ग्रुप ने एक ही चॉइस पर मुहर नहीं लगा दी.
यूनिवर्सिटी ऑफ कोन्स्टान्ज के कंप्यूटेशनल सोशल साइंटिस्ट जिओर्डानो डी मार्जो ने कहा, ‘हमने जिन मॉडल्स का टेस्ट किया वे एक ही मैथमेटिकल लॉ को फॉलो करते हैं.’ रिसर्चर्स इस नंबर को मेजॉरिटी फोर्स कहते हैं. यह नापता है कि एक एजेंट ग्रुप की सबसे पॉपुलर चॉइस की तरफ कितनी मजबूती से खिंचता है. खास बात यह है कि यही मैथमेटिकल पैटर्न फेरोमैग्नेट को बताने वाले एक फिजिक्स मॉडल में भी दिखाई देता है.
अलग-अलग AI मॉडल्स की कैपेसिटी में कितना बड़ा अंतर दिखा?
इस कनेक्शन से रिसर्चर्स को यह समझने में मदद मिली कि क्या एजेंट्स आम सहमति तक पहुंच पाएंगे. इसमें कितना समय लगेगा और यह ग्रुप कितना बड़ा हो सकता है. अलग-अलग मॉडल्स के बीच यह लिमिट बहुत अलग थी.
- लामा 3 70बी के लिए यह लिमिट करीब 30 एजेंट्स की थी.
- जीपीटी-4ओ के लिए यह करीब 80 थी.
- जीपीटी-4 टर्बो की लिमिट 1000 के करीब थी.
- क्लॉड 3.5 सॉनेट 1000 एजेंट्स के ग्रुप में भी तालमेल बिठा सकता था.
यह टेस्ट किया गया सबसे बड़ा ग्रुप था. इसका मतलब यह नहीं है कि इसकी कैपेसिटी अनलिमिटेड है. बस एक्सपेरिमेंट अपनी लिमिट तक नहीं पहुंच पाया. ज्यादा एडवांस मॉडल्स बड़े ग्रुप्स में भी सहमति बनाए रख सकते हैं. कुछ मॉडल्स तो 150 से 300 लोगों के ग्रुप से भी बड़े लेवल पर तालमेल बिठा सकते हैं. इंसानों में इस लिमिट को डनबार नंबर कहा जाता है.
क्या एआई एजेंट्स सच में इंसानों की तरह सोच समझ सकते हैं?
इस तुलना को लेकर थोड़ी सावधानी बरतने की जरूरत है. इंसान आपसी रिश्तों, भाषा और कॉमन गोल्स के जरिए तालमेल बिठाते हैं. इस एक्सपेरिमेंट में एजेंट्स ने सिर्फ सिंपल विकल्पों की एक सीरीज को देखा. इन नतीजों से यह साबित नहीं होता कि वे एक-दूसरे को समझते हैं या उनमें सोशल इंटेलिजेंस है.
डी मार्जो ने कहा, ‘हमारे नतीजे दिखाते हैं कि एक बेसिक स्ट्रक्चर मौजूद है लेकिन एजेंट्स अभी कॉम्प्लेक्स टास्क पर एक साथ काम नहीं कर सकते हैं.’
इस एक्सपेरिमेंट से असल दुनिया के फैसलों के कई फीचर्स हटा दिए गए थे. वहां कोई सही जवाब, मेमोरी या रिवॉर्ड नहीं था. असली कोऑर्डिनेशन के लिए एजेंट्स को काम बांटना होगा और दूसरों की बात समझनी होगी. उन्हें एक कॉमन गोल हासिल करना होगा और गलत होने पर मेजॉरिटी का विरोध भी करना होगा. यहां इनमें से किसी भी एबिलिटी का टेस्ट नहीं हुआ था. यह सिर्फ एक बुनियादी प्रयोग था.
अगर AI बिना कमांड के काम करे तो इसके क्या खतरे हो सकते हैं?
इसके बावजूद स्पॉन्टेनियस कंसेंसस बहुत काम का साबित हो सकता है. हजारों एजेंट्स भविष्य में बिना इंसानी निर्देश के बड़े साइंटिफिक प्रोजेक्ट पूरे कर सकते हैं. डी मार्जो ने साइंस अलर्ट को बताया कि अगर AI एजेंट्स एक साथ काम करते हैं तो वे इंसानी टीम से बड़े ग्रुप बना सकते हैं. वे उन प्रॉब्लम्स को सॉल्व कर सकते हैं जिन्हें हम खुद नहीं सुलझा सकते. लेकिन इसी टेंडेंसी में एक बड़ा रिस्क भी छिपा है.
उदाहरण के लिए कोलैबोरेटिव कोडिंग में एजेंट्स बार-बार किसी खराब डिजाइन को चुन सकते हैं. ऐसा सिर्फ इसलिए हो सकता है क्योंकि वह कोड में कॉमन है. मेजॉरिटी द्वारा अपनाया गया कोई नियम हमेशा सबसे अच्छा विकल्प नहीं होता. एक कोऑर्डिनेटेड ग्रुप को कंट्रोल करना अलग-अलग एजेंट्स के मुकाबले ज्यादा मुश्किल हो सकता है. ऐसे में अगर मॉडल्स गलत दिशा में चले गए तो उन्हें रोकना चुनौती बन जाएगा.
क्या आने वाले समय में AI एजेंट्स को अकेले टेस्ट करना काफी होगा?
एक बार जो मॉडल्स शिफ्ट हो जाते हैं उन्हें वापस पुरानी स्थिति में लाना आसान नहीं होता. इसका मतलब है कि AI एजेंट्स को सिर्फ अकेले इवैल्यूएट करना काफी नहीं होगा. एक ग्रुप जो अपने आप में सेफ लगता है वह जरूरी नहीं कि हमेशा सेफ बिहेव करे. जब इसके मेंबर्स एक-दूसरे को प्रभावित करना शुरू करते हैं तो खतरे बढ़ सकते हैं.
जैसे-जैसे AI एजेंट्स ज्यादा एडवांस हो रहे हैं उनकी सबसे अहम एबिलिटीज सामने आ रही हैं. इसके साथ ही उनके सबसे बड़े फेलियर्स भी सामने आ सकते हैं. ये किसी एक मॉडल से नहीं बल्कि उनके बनाए हुए कलेक्टिव ग्रुप से पैदा हो सकते हैं.
