Deploying Scalable Agents

Разгръщане на мащабируеми агенти с Microsoft Foundry

Придружаващо умение за Урок 16 – Разгръщане на мащабируеми агенти. Използвайте го, за да помогнете на учащия да премести агент от прототип към мащабируема, наблюдаема производствена среда. Всяка препоръка трябва да се основава на съдържанието на урока и изпълнимия тетрадка; не измисляйте API-та на Foundry.

Активатори

Активирайте това умение, когато учащ иска да:

• Разгърне агент в Microsoft Foundry като хостиран агент и да го направи версиониран/наблюдаем.
• Избере между модели за разгръщане клиент-хостиран, хостиран агент и агент-работен поток.
• Добави маршрутизация на модел, кеширане на отговори или ограничена паралелност за контрол на латентността и разходите.
• Добави вход за оценка, така че лоша версия на агента да не може да бъде пусната в продукция.
• Добави стъпка с одобрение с човешко участие за действия с висок риск.
• Инструментализиране на агент с OpenTelemetry проследяване за наблюдаемост в продукция.
• Извършване на бърз тест на разгърнат агент като бърза проверка след разгръщане.

Основен ментален модел

Производственият агент е предимно оперативният скелет около модела (~80%), а не самият модел. Съпоставяйте всяка препоръка с една от тези области:

Модели за разгръщане (изберете един или комбинирайте)

1. Клиент-хостиран — цикълът за разсъждение се изпълнява във вашия процес. Максимален контрол; вие управлявате мащабирането/състоянието.
2. Хостиран агент (Foundry Agent Service) — Foundry хоства цикъла, съхранява нишки, прилага RBAC/сигурност на съдържанието, показва агента в портала. По-малко контрол, значително по-малък оперативен обхват.
3. Агент-работен поток — множество агенти/инструменти, съставени в граф с разклонения, възли за одобрение и трайни контрольни точки.

Жизнен цикъл (цикълът, който разгръща агент)

създаване → версииране → оценка (вход) → разгъване като хостван → онлайн наблюдение → събиране на грешки → повторение. Офлайн оценката е вход, а не следваща мисъл — версия не се разгръща освен ако не премине прага. Онлайн наблюдаемостта връща реални грешки в офлайн тестовия комплект.

Лостове за мащабиране и разходи (подредени по приоритет)

1. Правилно размер на модела — използвайте най-малкия модел, който преминава входа за оценка.
2. Маршрутизиране по сложност — малък/бърз модел за прости заявки, голям модел за истински разсъждения (самостоятелен класификатор или Foundry Model Router).
3. Кеширане — обслужване на почти дублирани заявки без повикване към модел.
4. Дизайн без състояние + ограничена паралелност — външно състояние; повторни опити с отстъпване.

Ключови модели за възпроизвеждане

Насочете учащия към тези от тетрадката 16-python-agent-framework.ipynb:

• Обработчик на заявки: кеш → маршрутизиране по сложност → проследяваща обвивка → изпълнение → кеш.
• Вход за оценка: оценяване на офлайн тестов комплект; връща pass_rate >= threshold и разгръща само ако е вярно.
• Човешко одобрение: @tool(approval_mode="always_require") за действия като големи възстановявания на средства.
• Проследяване: обвиване на всяка заявка в tracer.start_as_current_span(...) и задаване на атрибути като routed.model, customer.id.

Бързо тестване на разгърнат агент

След разгръщане проверете дали крайна точка действително отговаря (зелено разгръщане може да бъде мълчаливо). Използвайте действие AI Smoke Test чрез .github/workflows/smoke-test.yml с каталога в tests/. Изпълнителят изпраща POST заявка за всяко подканяне към POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses и проверява текста в отговора. Идентичността трябва да има ролята Azure AI User в обхвата на проекта в Foundry; аудиторията на токена трябва да е https://ai.azure.com/.

Слоеве на входовете: бърз тест (достъпен/отговарящ, при всяко разгръщане) → офлайн оценка (достатъчно добър за пускане, преди повишение) → онлайн оценка (как се представя на живо, непрекъснато).

Контроли за предприятия

• RBAC: дайте на всеки хостиран агент управлявана идентичност с най-малките привилегии.
• MCP в продукция: третирайте всеки MCP сървър като ненадеждна граница — фиксирайте версията, ограничете идентичността му, валидирайте изходите, ограничете честотата, никога не разкривайте тайни.

Природозащитни мерки за асистента

• Предпочитайте каноничния модел FoundryChatClient(...) + provider.as_agent(...), използван в целия курс.
• Не обещавайте резултати на живо от Azure, които не сте проверили; препоръчайте работния поток за бърз тест, за да потвърдите разгръщане.
• Дръжте съветите за оценка и разходи свързани: оценяването задава основата за качество, маршрутизирането/кеширането държат разходите близо до тази основа.

Отказ от отговорност: Този документ е преведен с помощта на AI преводачески услуга Co-op Translator. Въпреки че се стремим към точност, моля имайте предвид, че автоматизираните преводи могат да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за каквито и да е недоразумения или неправилни тълкувания, произтичащи от използването на този превод.