Nasazení škálovatelných agentů s Microsoft Foundry
Doplňková dovednost k Lekci 16 – Nasazení škálovatelných agentů.
Použijte ji k pomoci studentovi přesunout agenta z prototypu do škálovatelného,
pozorovatelného produkčního nasazení. Každé doporučení zakládejte na obsahu lekce a
spustitelném notebooku; nevymýšlejte API Foundry.
Spouštěče
Aktivujte tuto dovednost, když chce student:
- Nasadit agenta do Microsoft Foundry jako hostovaného agenta a zajistit jeho verzování/pozorovatelnost.
- Vybrat mezi nasazovacími vzory client-hosted, hosted-agent a agent-workflow.
- Přidat směrování modelů, cache odpovědí nebo omezenou paralelnost pro kontrolu latence a nákladů.
- Přidat evaluační bránu, aby se špatná verze agenta nemohla nasadit.
- Přidat krok schválení člověkem v procesu pro akce s vysokým rizikem.
- Instrumentovat agenta OpenTelemetry trasováním pro produkční pozorovatelnost.
- Provést smoke test nasazeného agenta jako rychlou kontrolu po nasazení.
Základní mentální model
Produkční agent je z velké části provozní kostra kolem modelu (~80%),
nikoli samotný model. Každé doporučení namapujte na jeden z těchto aspektů:
| Aspekt |
Prototyp → Produkce |
| Hosting |
notebook → verzovaná hostovaná služba |
| Identita |
váš az login → spravovaná identita + omezena RBAC |
| Stav |
v paměti → externí úložiště vláken/paměti |
| Selhání |
traceback → opakování, záložní mechanismy, upozornění |
| Náklady |
"několik centů" → sledované, směrované, cachované, rozpočtované |
| Kvalita |
odhadování okem → automatizovaná evaluační brána |
| Důvěra |
vy schvalujete → politika + člověk v procesu |
Nasazovací vzory (vyberte jeden, nebo kombinujte)
- Client-hosted — smyčka rozumování běží ve vašem procesu. Maximální kontrola; vlastníte škálování/stav.
- Hosted agent (Foundry Agent Service) — Foundry hostuje smyčku, ukládá vlákna, vynucuje RBAC/bezpečnost obsahu, zobrazuje agenta v portálu. Méně kontroly, mnohem menší provozní povrch.
- Agent workflow — více agentů/nástrojů složených do grafu s větvením, schvalovacími uzly a trvalými kontrolními body.
Životní cyklus (smyčka, která agentovi umožňuje nasazení)
create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat.
Offline hodnocení je brána, nikoli dodatečná myšlenka — verze se nenasazuje,
pokud neprojde nastaveným prahem. Online pozorovatelnost vrací skutečná selhání
zpět do offline testovací sady.
Škálování a páky nákladů (v pořadí priority)
- Správná velikost modelu — použijte nejmenší model, který projde evaluační bránou.
- Směrování podle složitosti — malý/rychlý model pro jednoduché požadavky, velký model pro skutečné rozumování (vlastní klasifikátor nebo Foundry Model Router).
- Cache — obsluhujte téměř duplicitní požadavky bez volání modelu.
- Bezustavový design + omezená paralelnost — externě uložte stav; opakujte se zpožděním.
Klíčové vzory k reprodukci
Nasměrujte studenta k těmto z notebooku
16-python-agent-framework.ipynb:
- Obslužná funkce požadavků: cache → směrování podle složitosti → trasovací span → spuštění → cache.
- Evaluační brána: vyhodnotit offline testovací sadu; vrátit
pass_rate >= threshold a nasadit pouze, pokud je pravda.
- Lidské schválení:
@tool(approval_mode="always_require") pro akce jako velké refundace.
- Trasování: zabalte každý požadavek do
tracer.start_as_current_span(...) a nastavte atributy jako routed.model, customer.id.
Smoke test nasazeného agenta
Po nasazení ověřte, že endpoint opravdu odpovídá (zelené nasazení může být stále
tiché). Použijte AI Smoke Test
akci přes .github/workflows/smoke-test.yml
s katalogem v tests/. Běhoun odesílá POST každého
promptu na POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses
a kontroluje odpověď textu. Identita potřebuje roli Azure AI User v rámci
rozsahu Foundry projektu; token audience musí být https://ai.azure.com/.
Naskládejte brány: smoke test (dosažitelnost/reakce, každý deploy) → offline
hodnocení (dostatečně dobré k nasazení, před propagací) → online hodnocení (jak si vede v provozu, kontinuálně).
Podnikové kontroly
- RBAC: přiřaďte každému hostovanému agentovi spravovanou identitu s nejmenšími právy.
- MCP v produkci: považujte každý MCP server za nedůvěryhodnou hranici — připněte verzi, omezte jeho identitu, ověřujte výstupy, omezujte rychlost, nikdy nezveřejňujte tajné údaje.
Bezpečnostní opatření pro asistenta
- Preferujte kanonický vzor
FoundryChatClient(...) + provider.as_agent(...) používaný napříč kurzem.
- Neslibujte výsledky živého Azure, které jste neověřili; doporučte workflow smoke-testu k potvrzení nasazení.
- Držte hodnocení a rady ohledně nákladů propojené: hodnocení určuje kvalitativní standard, směrování/cachování drží náklady poblíž této úrovně.
Prohlášení o omezení odpovědnosti:
Tento dokument byl přeložen pomocí AI překladatelské služby Co-op Translator. Přestože usilujeme o co největší přesnost, mějte prosím na paměti, že automatizované překlady mohou obsahovat chyby nebo nepřesnosti. Originální dokument v jeho mateřském jazyce by měl být považován za autoritativní zdroj. Pro kritické informace se doporučuje profesionální lidský překlad. Nejsme odpovědní za jakékoli nedorozumění nebo nesprávné interpretace vzniklé použitím tohoto překladu.
Source: microsoft/ai-agents-for-beginners → translations/cs/.agents/skills/deploying-scalable-agents/SKILL.md
1---
2name: deploying-scalable-agents-5
3description: "Aktivujte tuto dovednost, když chce student: - Nasadit agenta do Microsoft Foundry jako hostovaného agenta a zajistit jeho verzování/pozorovatelnost. - Vybrat mezi nasazovacími vzory client-hosted, hosted-agent a agent-workflow. - Přidat směrování modelů, cache odpovědí nebo omezenou paralelnost pro kontrolu latence a nákladů. - Přidat evaluační bránu, aby se špatná verze agenta nemohla nasadit."
4category: ai-agents-and-harness
5source_repo: microsoft/ai-agents-for-beginners
6source_path: "translations/cs/.agents/skills/deploying-scalable-agents/SKILL.md"
7source_url: https://github.com/microsoft/ai-agents-for-beginners/blob/HEAD/translations/cs/.agents/skills/deploying-scalable-agents/SKILL.md
8metadata:
9 source: https://skillmd.com/skills/microsoft/deploying-scalable-agents-5
10---
11
12# Nasazení škálovatelných agentů s Microsoft Foundry
13
14> Doplňková dovednost k [Lekci 16 – Nasazení škálovatelných agentů](../../../16-deploying-scalable-agents/README.md).
15> Použijte ji k pomoci studentovi přesunout agenta z prototypu do škálovatelného,
16> pozorovatelného produkčního nasazení. Každé doporučení zakládejte na obsahu lekce a
17> spustitelném notebooku; nevymýšlejte API Foundry.
18
19## Spouštěče
20
21Aktivujte tuto dovednost, když chce student:
22- Nasadit agenta do Microsoft Foundry jako **hostovaného agenta** a zajistit jeho verzování/pozorovatelnost.
23- Vybrat mezi nasazovacími vzory **client-hosted, hosted-agent a agent-workflow**.
24- Přidat **směrování modelů**, **cache odpovědí** nebo **omezenou paralelnost** pro kontrolu latence a nákladů.
25- Přidat **evaluační bránu**, aby se špatná verze agenta nemohla nasadit.
26- Přidat krok **schválení člověkem v procesu** pro akce s vysokým rizikem.
27- Instrumentovat agenta **OpenTelemetry** trasováním pro produkční pozorovatelnost.
28- Provést **smoke test** nasazeného agenta jako rychlou kontrolu po nasazení.
29
30## Základní mentální model
31
32Produkční agent je z velké části provozní kostra *kolem* modelu (~80%),
33nikoli samotný model. Každé doporučení namapujte na jeden z těchto aspektů:
34
35| Aspekt | Prototyp → Produkce |
36|---------|---------------------|
37| Hosting | notebook → verzovaná hostovaná služba |
38| Identita | váš `az login` → spravovaná identita + omezena RBAC |
39| Stav | v paměti → externí úložiště vláken/paměti |
40| Selhání | traceback → opakování, záložní mechanismy, upozornění |
41| Náklady | "několik centů" → sledované, směrované, cachované, rozpočtované |
42| Kvalita | odhadování okem → automatizovaná evaluační brána |
43| Důvěra | vy schvalujete → politika + člověk v procesu |
44
45## Nasazovací vzory (vyberte jeden, nebo kombinujte)
46
471. **Client-hosted** — smyčka rozumování běží ve vašem procesu. Maximální kontrola; vlastníte škálování/stav.
482. **Hosted agent (Foundry Agent Service)** — Foundry hostuje smyčku, ukládá vlákna, vynucuje RBAC/bezpečnost obsahu, zobrazuje agenta v portálu. Méně kontroly, mnohem menší provozní povrch.
493. **Agent workflow** — více agentů/nástrojů složených do grafu s větvením, schvalovacími uzly a trvalými kontrolními body.
50
51## Životní cyklus (smyčka, která agentovi umožňuje nasazení)
52
53`create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat`.
54**Offline hodnocení je brána, nikoli dodatečná myšlenka** — verze se nenasazuje,
55pokud neprojde nastaveným prahem. Online pozorovatelnost vrací skutečná selhání
56zpět do offline testovací sady.
57
58## Škálování a páky nákladů (v pořadí priority)
59
601. **Správná velikost modelu** — použijte nejmenší model, který projde evaluační bránou.
612. **Směrování podle složitosti** — malý/rychlý model pro jednoduché požadavky, velký model pro skutečné rozumování (vlastní klasifikátor nebo Foundry Model Router).
623. **Cache** — obsluhujte téměř duplicitní požadavky bez volání modelu.
634. **Bezustavový design + omezená paralelnost** — externě uložte stav; opakujte se zpožděním.
64
65## Klíčové vzory k reprodukci
66
67Nasměrujte studenta k těmto z notebooku
68[`16-python-agent-framework.ipynb`](../../../16-deploying-scalable-agents/code_samples/16-python-agent-framework.ipynb):
69
70- **Obslužná funkce požadavků**: cache → směrování podle složitosti → trasovací span → spuštění → cache.
71- **Evaluační brána**: vyhodnotit offline testovací sadu; vrátit `pass_rate >= threshold` a nasadit pouze, pokud je pravda.
72- **Lidské schválení**: `@tool(approval_mode="always_require")` pro akce jako velké refundace.
73- **Trasování**: zabalte každý požadavek do `tracer.start_as_current_span(...)` a nastavte atributy jako `routed.model`, `customer.id`.
74
75## Smoke test nasazeného agenta
76
77Po nasazení ověřte, že endpoint opravdu odpovídá (zelené nasazení může být stále
78tiché). Použijte [AI Smoke Test](https://github.com/marketplace/actions/ai-smoke-test)
79akci přes [`.github/workflows/smoke-test.yml`](../../../../../.github/workflows/smoke-test.yml)
80s katalogem v [`tests/`](../../../tests/README.md). Běhoun odesílá POST každého
81promptu na `POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses`
82a kontroluje odpověď textu. Identita potřebuje roli **Azure AI User** v rámci
83rozsahu Foundry projektu; token audience musí být `https://ai.azure.com/`.
84
85Naskládejte brány: **smoke test** (dosažitelnost/reakce, každý deploy) → **offline
86hodnocení** (dostatečně dobré k nasazení, před propagací) → **online hodnocení** (jak si vede v provozu, kontinuálně).
87
88
89## Podnikové kontroly
90
91- **RBAC**: přiřaďte každému hostovanému agentovi spravovanou identitu s nejmenšími právy.
92- **MCP v produkci**: považujte každý MCP server za nedůvěryhodnou hranici — připněte verzi, omezte jeho identitu, ověřujte výstupy, omezujte rychlost, nikdy nezveřejňujte tajné údaje.
93
94## Bezpečnostní opatření pro asistenta
95
96- Preferujte kanonický vzor `FoundryChatClient(...)` + `provider.as_agent(...)` používaný napříč kurzem.
97- Neslibujte výsledky živého Azure, které jste neověřili; doporučte workflow smoke-testu k potvrzení nasazení.
98- Držte hodnocení a rady ohledně nákladů propojené: hodnocení určuje kvalitativní standard, směrování/cachování drží náklady poblíž této úrovně.
99
100---
101
102<!-- CO-OP TRANSLATOR DISCLAIMER START -->
103**Prohlášení o omezení odpovědnosti**:
104Tento dokument byl přeložen pomocí AI překladatelské služby [Co-op Translator](https://github.com/Azure/co-op-translator). Přestože usilujeme o co největší přesnost, mějte prosím na paměti, že automatizované překlady mohou obsahovat chyby nebo nepřesnosti. Originální dokument v jeho mateřském jazyce by měl být považován za autoritativní zdroj. Pro kritické informace se doporučuje profesionální lidský překlad. Nejsme odpovědní za jakékoli nedorozumění nebo nesprávné interpretace vzniklé použitím tohoto překladu.
105<!-- CO-OP TRANSLATOR DISCLAIMER END -->
106
107---
108
109**Source:** [`microsoft/ai-agents-for-beginners`](https://github.com/microsoft/ai-agents-for-beginners) → `translations/cs/.agents/skills/deploying-scalable-agents/SKILL.md`