Prova autonoma
Usa il motore integrato dell'app e il modello predefinito per dimostrare un carico di lavoro limitato su hardware endpoint reale.
Ogni AI App può partire in modo indipendente con il suo motore AI integrato. Aggiungi AI Server quando modelli, capacità di calcolo o API devono essere condivisi; aggiungi AI Gateway solo quando più server necessitano di un front-end resiliente.
Le AI Apps mantengono il loro motore integrato e il percorso locale anche quando si connettono alla piattaforma organizzativa mostrata qui sotto.
Usa il motore integrato dell'app e il modello predefinito per dimostrare un carico di lavoro limitato su hardware endpoint reale.
Aggiungi un modello centrale, calcolo o servizio API solo quando il caso aziendale lo richiede.
Aggiungi membri, diritti, registrazione server, politica e prove di audit quando la governance centrale è importante.
Posiziona AI Gateway davanti a diversi server worker quando sono necessarie resilienza, specializzazione o capacità misurata.
Le opzioni di distribuzione includono Windows, macOS, Linux, Docker e Kubernetes. La topologia giusta dipende dal carico di lavoro, hardware, identità, disponibilità e requisiti di conformità.
Collega client compatibili ai servizi di chat, embedding, immagini, voce e visione.
Posiziona modelli e inferenza su infrastruttura controllata dalla tua organizzazione.
Gestisci membri, licenze, iscrizioni, policy, audit e prove di utilizzo.
Passa da un nodo a una farm gestita da gateway man mano che domanda e prove crescono.
Il pianificatore di distribuzione valuta app integrate, server opzionali, Gateway, amministrazione, hardware e quantità di licenze a pagamento—poi invia solo le righe ordinabili allo Store.