आपके एजेंट्स आपकी डेटा रेज़िडेंसी का पालन करते हैं

कनाडाई बैंकिंग में मुझे एक पैटर्न बार-बार मिलता है: आर्किटेक्चर रिव्यू मॉडल की गुणवत्ता पर विफल नहीं होता। यह एक मैप पर विफल होता है। प्रॉम्प्ट कहाँ जाता है, कॉन्टेक्स्ट कहाँ जाता है, और रास्ते में यह कौन सी सीमा पार करता है?

अधिकांश मल्टी-एजेंट रेफरेंस आर्किटेक्चर चुपचाप यह मान लेते हैं कि हर एजेंट दूसरे अधिकार क्षेत्र में एक फ्रंटियर API को कॉल कर सकता है। विनियमित उद्योगों में, यह धारणा पहली मीटिंग में ही खत्म हो जाती है। क्लाइंट डेटा बाहर नहीं जा सकता। कभी-कभी यह नेटवर्क सेगमेंट से भी बाहर नहीं जा सकता।

जो पैटर्न बचता है, वह एजेंटों के बीच एक गोपनीयता सीमा है। संवेदनशील-डेटा एजेंट स्थानीय रूप से, स्थानीय रूप से होस्ट किए गए मॉडलों के खिलाफ चलते हैं। सार्वजनिक-डेटा एजेंट (बाजार अनुसंधान, दस्तावेज़ लुकअप, दीवार के बाहर कुछ भी) जहाँ सबसे अच्छा मॉडल रहता है, वहाँ चल सकते हैं। उनके बीच की प्रोटोकॉल सीम कार्य विवरण और निष्कर्ष ले जाती है, न कि कच्चे रिकॉर्ड। मैंने A2A field guide में इसकी कार्यप्रणाली लिखी है।

इसे बनाने से दो व्यावहारिक बातें सामने आईं। पहला, मॉडल का चुनाव केवल गुणवत्ता का निर्णय नहीं, बल्कि संप्रभुता का निर्णय बन जाता है, यही कारण है कि मैंने प्रोसेस ऑर्केस्ट्रेशन के लिए एक Cohere connector बनाया: एक मजबूत मॉडल जिसमें डिप्लॉयमेंट विकल्प हैं जो दीवार के अंदर फिट होते हैं। दूसरा, सीमा को ऑर्केस्ट्रेशन लेयर द्वारा लागू किया जाना चाहिए, न कि एजेंट के प्रॉम्प्ट द्वारा। एक निर्देश जो कहता है “क्लाइंट डेटा को बाहरी रूप से न भेजें” एक इच्छा है। एक टोपोलॉजी जहाँ बाहरी एजेंट को कभी रिकॉर्ड प्राप्त नहीं होता, वह एक नियंत्रण है।

संप्रभुता केवल कनाडा की एक विशिष्ट चिंता नहीं है। यह हर उस आर्किटेक्चर के लिए आ रही है जो “सबसे अच्छे API को कॉल करें” को एक स्वतंत्र कार्रवाई मानता है।