Fristående bevis
Använd appens inbyggda motor och standardmodell för att bevisa en avgränsad arbetsbelastning på verklig ändpunktsmaskinvara.
Varje AI-app kan starta självständigt med sin inbäddade AI-motor. Lägg till AI Server när modeller, beräkning eller API:er behöver delas; lägg till AI Gateway endast när flera servrar behöver en robust frontdörr.
AI-appar behåller sin inbäddade motor och lokala väg även när de ansluter till organisationsplattformen nedan.
Använd appens inbyggda motor och standardmodell för att bevisa en avgränsad arbetsbelastning på verklig ändpunktsmaskinvara.
Lägg till en central modell, beräkning eller API-tjänst endast när affärsbehovet kräver det.
Lägg till medlemmar, rättigheter, serverregistrering, policy och revisionsbevis när central styrning är viktig.
Placera AI Gateway framför flera serverarbetare när motståndskraft, specialisering eller mätt kapacitet krävs.
Distribueringsalternativ inkluderar Windows, macOS, Linux, Docker och Kubernetes. Den rätta topologin beror på arbetsbelastning, hårdvara, identitet, tillgänglighet och efterlevnadskrav.
Anslut kompatibla klienter till chatt-, inbäddnings-, bild-, tal- och visions-tjänster.
Placera modeller och inferens på infrastruktur som kontrolleras av din organisation.
Hantera medlemmar, licenser, registrering, policy, revision och användningsbevis.
Gå från en nod till en gateway-hanterad farm när efterfrågan och bevis ökar.
Distribueringsplaneraren utvärderar inbäddade appar, valfria servrar, Gateway, administration, hårdvara och betalda licensmängder – och skickar sedan endast beställningsbara rader till Store.