Gpu Dispatch

Use ao despachar modelos locais para GPUs — agendar inferência, escolher uma placa ou gerenciar residência de modelo. Um modelo por GPU, sem derramar para a RAM do sistema, quente durante o loop, descarrega no fim do loop, admissão por verdade medida. Trigger words: gpu, vram, gpu dispatch, model loading, keep alive, resident model, local inference, spill, warm, despacho de gpu, carregar modelo, modelo residente, inferência local, derramar, aquecido.

Tcuzzo Updated 2 repo stars
The Reflex Seam. On the left, a deterministic runtime owns state, files, rules and tests. On the right, a model judgment kernel owns inference, policy, reversib

File contents

Tcuzzo/backs-aios-skills commit 1e503ba1e9

Frequently asked questions

npx get-skill add tcuzzo/gpu-dispatch-6