Futtasson ügynököket felügyelt határmodelleken még ma – vagy béreljen GPU-kapacitást, helyezze üzembe saját súlyozásait, és irányítsa a Digio-feladatokat privát végpontokhoz ugyanazon a munkaterületen.
Rendeljen hozzá alapértelmezett modellt ügynökönként vagy felülbírálja feladatonként. A használatot Digio Tokenben mérik a terv egyenlegéből – ugyanaz a pénztárca, függetlenül attól, hogy az ügyintéző hívja a Sonnet, a GPT-4o vagy a Gemini Flash-t.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
A koordinátor a feladat típusa alapján ajánlhat Sonnet vs Opus és olcsóbb flash modellt. A hatékony felhasználók ügynöki szerepkörenként állítják be az alapértelmezett értékeket – kutatás a Sonneten, végső áttekintés az Opuson, tömeges címkézés a Haiku-n vagy a Gemini Flash-en.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Finomhangolásra, légrés ellenőrző pontra vagy kiszámítható következtetési árképzésre van szüksége? Adjon hozzá dedikált GPU-kapacitást Digio-munkaterületéhez, telepítse a kívánt kiszolgálóvermet, és mutasson ügynököket privát végpontjára.
Óránkénti vagy havi GPU-csomópontok (A100, H100, L40S osztály) a bérlőhöz kapcsolva – elszigetelve a többi ügyféltől.
Töltsön fel széfeket, GGUF-ot, vagy húzza le a rendszerleíró adatbázisból; futtassa a Llama, Mistral, Qwen és egyéni finomhangolásokat.
Az Ön által karbantartott vLLM, TGI, Ollama vagy tárolóképek – a Digio ügynökök OpenAI-kompatibilis alap URL-t hívnak.
A tennivalók, a csapatbeszélgetés, a készségek és az együttműködés változatlanok – csak a következtetési háttér az Öné.
Érzékeny lépéseket küldjön privát GPU-nak, és egyetlen munkafolyamatban használja a Claude-ot vagy a GPT-t nyilvános kutatásokhoz.
VPC társviszony-létesítés, statikus kilépés, ellenőrzési naplók és modell engedélyezési listák a szabályozott csapatokhoz.
Tipikus beállítás nullától a végpontot hívó ügynökökig:
Válassza ki a VRAM-ot, a régiót és az üzemidőt (sorozatfelvétel vs. mindig bekapcsolva). A súlyok tárolására szolgáló tárolót a példányhoz szállítjuk, vagy felszereljük a vödörre.
Indítson el egy kiszolgáló képet vagy SSH-t, telepítse a CUDA illesztőprogramokat, és töltse be az ellenőrzőpontokat. Az állapotfelmérés megerősíti, hogy a modell készen áll.
Adja hozzá az alap URL-t, az API-kulcsot és a modellazonosítót a munkaterület-beállításokban. A Digio az éles indítás előtt ellenőrzi a késleltetést és a token formátumot.
Válassza ki a privát modellt alapértelmezettként a kiválasztott ügynökök számára; A kezelt Claude/GPT modellek egymás mellett állnak rendelkezésre.
A GPU kölcsönzése a Digio előfizetéseitől külön fizetendő. Forduljon hozzánk a kapacitástervezés, az SLA-k és a meglévő következtetési fürtről történő migráció miatt.
A felügyelt API-k és a saját üzemeltetésű következtetések kiválasztása a Digio-n.
Digio-előfizetése az infrastruktúrára, az ügynökökre és a mellékelt Digio-tokenekre vonatkozik. A felügyelt modellhasználat megterheli a jogkivonatot a tényleges bemeneti/kimeneti tokenekkel. A GPU-kölcsönzés egy kiegészítő az Ön által irányított gépekhez.
Igen – minden ügynöknek lehet saját alapértelmezett beállítása. A feladatok és a csevegések felülbírálhatók egyetlen futtatásra a globális alapértelmezés megváltoztatása nélkül.
Az Opust keményebb érvelésre és hosszabb koherens tervekre hangolják; A szonett gyorsabb és olcsóbb a mindennapi ügynökhurkok számára. A haiku és a flash-osztályú modellek a legjobbak a mennyiségi részfeladatokhoz.
A vállalati munkaterületek korlátozhatják a kimenő modellszolgáltatókat, és az összes ügynökforgalmat a GPU-végponthoz irányíthatják. A legtöbb csapatnál a hibrid mód az alapértelmezett.
A kínálat a régiótól és a kereslettől függ – általában 24–80 GB-os VRAM-szintek a 7B–70B osztályú modellekhez és több GPU-s csomópontok a nagyobb kötegekhez. Segítünk a VRAM méretében a paraméterek számából és kvantálásából.
A hangszerelés (ügynökök, feladatok, tárolás) a tervben marad. A GPU-ra vonatkozó következtetés GPU-időként kerül számlázásra; opcionálisan mérheti a token alakú használatot a belső visszaterheléshez.
Ügynökök, feladatok és készségek – a kiválasztott modell körüli munkaterület.
Kezdje el a Claude-ot és a GPT-t még ma, majd adjon hozzá dedikált GPU-t, ha készen áll az egyéni súlyok fogadására – ugyanazok az ügynökök, ugyanazok a feladatok, az Ön következtetése.
