gabrielmoreira مائیکروسافٹ فاؤنڈری کے ساتھ اسکیل ایبل ایجنٹس کی تعیناتی
سبق 16 – اسکیل ایبل ایجنٹس کی تعیناتی کے ساتھ معاون مہارت۔ اس کا استعمال اس لیے کریں تاکہ ایک سیکھنے والے کو ایک ایجنٹ کو پروٹوٹائپ سے ایک اسکیل ایبل، قابل مشاهدا پروڈکشن تعیناتی میں منتقل کرنے میں مدد ملے۔ ہر تجویز کو سبق کی مواد اور رن ہونے والے نوٹ بک میں قائم کریں؛ فاؤنڈری APIs مت ایجاد کریں۔
ٹریگرز
اس مہارت کو اس وقت فعال کریں جب ایک سیکھنے والا چاہتا ہو:
- ایک ایجنٹ کو مائیکروسافٹ فاؤنڈری پر ہوسٹڈ ایجنٹ کے طور پر تعینات کرے اور اسے ورژن شدہ/قابل مشاهدا بنائے۔
- کلائنٹ-ہوسٹڈ، ہوسٹڈ-ایجنٹ، اور ایجنٹ-ورک فلو تعیناتی کے نمونوں میں انتخاب کرے۔
- ماڈل روٹنگ، ردعمل کیشنگ، یا حد بندی ہم وقتی عمل شامل کرے تاکہ تاخیر اور لاگت کو کنٹرول کیا جا سکے۔
- ایک تقدیر کا گیٹ شامل کرے تاکہ خراب ایجنٹ ورژن کو تعینات نہ کیا جا سکے۔
- اعلی خطرے والے اقدامات کے لیے ایک انسان کے درمیان منظوری قدم شامل کرے۔
- ایک ایجنٹ کو اوپن ٹیلی میٹری ٹریسنگ کے ساتھ آلات سے مزین کرے تاکہ پروڈکشن کی نگرانی کی جا سکے۔
- تعینات کردہ ایجنٹ کو بطور ایک تیز پوسٹ-تعیناتی گیٹ اسموک ٹیسٹ کرے۔
بنیادی ذہنی ماڈل
ایک پروڈکشن ایجنٹ زیادہ تر ماڈل کے گرد عملی ڈھانچہ ہوتا ہے (~80%)، ماڈل خود نہیں۔ ہر تجویز کو ان میں سے ایک خیال سے مربوط کریں:
| خیال | پروٹوٹائپ → پروڈکشن |
|---|---|
| ہوسٹنگ | نوٹ بک → ورژن شدہ ہوسٹڈ سروس |
| شناخت | آپ کا az login → منظم شناخت + محدود RBAC |
| حالت | ان میموری → بیرونی تھریڈ/میموری اسٹور |
| ناکامی | ٹریس بیک → ریٹریز، فالبیکس، الرٹس |
| لاگت | "چند سینٹس" → ٹریک شدہ، روٹیڈ، کیشڈ، بجٹ میں بند |
| معیار | آنکھ سے جائزہ لینا → خودکار جانچ گیٹ |
| اعتماد | آپ کی منظوری → پالیسی + انسان کے درمیان |
تعیناتی کے نمونے (ایک منتخب کریں، یا ملائیں)
- کلائنٹ-ہوسٹڈ — عقلی لوپ آپ کے عمل میں چلتی ہے۔ زیادہ سے زیادہ کنٹرول؛ آپ اسکیلنگ/حالت کے مالک ہیں۔
- ہوسٹڈ ایجنٹ (فاؤنڈری ایجنٹ سروس) — فاؤنڈری لوپ کو ہوسٹ کرتا ہے، تھریڈز کو ذخیرہ کرتا ہے، RBAC/مواد کی سلامتی نافذ کرتا ہے، پورٹل میں ایجنٹ دکھاتا ہے۔ کم کنٹرول، کہیں کم آپریشنل حد۔
- ایجنٹ ورک فلو — متعدد ایجنٹس/اوزار ایک گراف میں شامل کیے جاتے ہیں جس میں شاخ دار، منظوری کے نوڈز، اور دیرپا چیک پوائنٹس ہوتے ہیں۔
لائف سائیکل (وہ لوپ جو ایجنٹ کو جہاز پر بھیجتا ہے)
create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat.
آف لائن جانچ ایک گیٹ ہے، نظر انداز نہیں — ایک ورژن تب تک نہیں جاتا
جب تک وہ حد عبور نہ کرے۔ آن لائن مشاهدا اصلی ناکامیوں کو واپس
آف لائن ٹیسٹ سیٹ میں دیتا ہے۔
اسکیلنگ اور لاگت کے لیورز (ترجیحی ترتیب میں)
- ماڈل کو صحیح سائز دیں — سب سے چھوٹا ماڈل استعمال کریں جو جانچ کے گیٹ کو پاس کرے۔
- پیچیدگی کے لحاظ سے روٹنگ — سادہ درخواستوں کے لیے چھوٹا/تیز ماڈل، اصلی سوچ کے لیے بڑا ماڈل (DIY کلاسیفائر یا فاؤنڈری ماڈل روٹر)۔
- کیش — ماڈل کال کے بغیر قریب تر درخواستوں کو پورا کریں۔
- بے حالت ڈیزائن + محدود ہم وقتی عمل — حالت کو بیرونی کریں؛ بیک آف کے ساتھ دوبارہ کوشش کریں۔
کلیدی نمونے کی تکمیل
نوٹ بک سے سیکھنے والے کو یہ دکھائیں
16-python-agent-framework.ipynb:
- درخواست ہینڈلر: کیش → پیچیدگی کے لحاظ سے روٹ → ٹریس اسپین → چلائیں → کیش۔
- جانچ گیٹ: آف لائن ٹیسٹ سیٹ کو اسکور کریں؛
pass_rate >= thresholdواپس کریں اور تب ہی تعیناتی کریں اگر صحیح ہو۔ - انسانی منظوری:
@tool(approval_mode="always_require")بڑے ریفنڈز جیسے اعمال کے لیے۔ - ٹریسنگ: ہر درخواست کو
tracer.start_as_current_span(...)میں لپیٹیں اور ایسے صفات سیٹ کریں جیسےrouted.model,customer.id۔
تعینات شدہ ایجنٹ کی اسموک ٹیسٹنگ
تعیناتی کے بعد، اس بات کی تصدیق کریں کہ اینڈ پوائنٹ واقعی جواب دیتا ہے (ایک سبز تعیناتی پھر بھی
خاموش ہو سکتی ہے)۔ AI Smoke Test
کو .github/workflows/smoke-test.yml
کے ذریعے استعمال کریں جس کا کیٹلاگ tests/ میں ہے۔ رنر ہر
پرامپٹ کو POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses
پر بھیجتا ہے اور جواب کے متن پر تصدیق کرتا ہے۔ شناخت کو Azure AI User کردار درکار ہے
فاؤنڈری پروجیکٹ حدود پر؛ ٹوکن کا ناظرین https://ai.azure.com/ ہونا چاہیے۔
گیٹس کو ملائیں: اسموک ٹیسٹ (پہنچنے/جواب دینے والا، ہر تعیناتی) → آف لائن جانچ (کافی اچھا برآمدہ، فروغ سے پہلے) → آن لائن جانچ (جنگل میں کیسا ہے، جاری)۔
ادارہ جاتی کنٹرولز
- RBAC: ہر ہوسٹڈ ایجنٹ کو کم از کم مراعات کے ساتھ منظم شناخت دیں۔
- پروڈکشن میں MCP: ہر MCP سرور کو غیر معتبر حد سمجھیں — ورژن کو پن کریں، اس کی شناخت محدود کریں، آؤٹ پٹ کی تصدیق کریں، ریٹ-لمٹ کریں، راز کبھی افشا نہ کریں۔
معاون کے لیے گارڈریل
- کورس میں استعمال ہونے والے معیاری
FoundryChatClient(...)+provider.as_agent(...)پیٹرن کو ترجیح دیں۔ - وہ زندہ-ایزور نتائج نہ دیں جو آپ نے چیک نہ کیے ہوں؛ تعیناتی کی تصدیق کے لیے اسموک ٹیسٹ ورک فلو کی سفارش کریں۔
- جانچ اور لاگت کی نصیحت کو ساتھ رکھیں: جانچ معیار کا فرش طے کرتی ہے، روٹنگ/کیشنگ لاگت کو اس کے قریب رکھتی ہے۔
ڈس کلیمر: یہ دستاویز AI ترجمہ سروس Co-op Translator کے ذریعے ترجمہ کی گئی ہے۔ جبکہ ہم درستگی کے لیے کوشاں ہیں، براہ کرم اس بات سے آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا عدم درستیاں ہو سکتی ہیں۔ اصل دستاویز اپنے مادری زبان میں مستند ماخذ سمجھی جائے گی۔ حساس معلومات کے لیے پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کی ذمہ داری ہم قبول نہیں کرتے۔