Conosci il percorso dei dati prima del primo prompt.
“Private AI” dovrebbe descrivere un’architettura, non un’aspirazione. Ecco cosa rimane locale, cosa può essere on-premises e dove un fornitore opzionale può entrare nel percorso.
Modello locale
Sul tuo dispositivo
Prompt, documenti, risultati, cronologia e memoria rimangono sul dispositivo. L’inferenza locale non ha contatore di token.
Nessun cloud Software Tailor richiesto
Può funzionare offline dopo il download del modello
Le prestazioni dipendono dal modello e dall’hardware
On-premises
Sulla tua infrastruttura
AI Server ospita modelli e inferenza all’interno dell’ambiente scelto e gestito dalla tua organizzazione.
Endpoint compatibili OpenAI
Percorso di rete controllato dall’organizzazione
Amministrazione centrale disponibile
Percorso opzionale
Fornitore terzo
Alcune app supportate offrono modelli cloud opzionali. L'app identifica quel percorso prima dell'uso; si applicano quindi i termini del fornitore.
Non richiesto per il percorso locale
Scelto dall'utente
Le modifiche ai confini sono esplicite
Controlli in linguaggio semplice
Ciò che possiamo affermare oggi
Contenuto
Il contenuto dell'inferenza con modello locale rimane sul dispositivo. Il contenuto dell'inferenza on-premises rimane all'interno del percorso infrastrutturale configurato dal cliente.
Telemetria
La telemetria del prodotto è separata da prompt e risultati e può essere disabilitata. Richiede l'opt-in nelle regioni con privacy specificata e nelle build Apple, ma può essere attivata di default altrove.
Identificatori
Gli identificatori di installazione e macchina sono pseudonimi, non anonimi, e possono essere collegati a registrazioni di registrazione, diritti o supporto in strumenti operatore limitati.
Limiti
I confini di privacy non eliminano la necessità di sicurezza degli endpoint, controllo degli accessi, backup, governance dei modelli o politiche utente.
Prove per l'acquirente
Domande da porre a qualsiasi fornitore di AI.
Dove viene eseguita l'inferenza? +
Richiedere una risposta per ogni percorso modello supportato, non una singola dichiarazione generale per l'intero prodotto.
Cosa lascia il dispositivo o la rete? +
Separare i flussi di contenuti, identità, autorizzazioni, diagnostica e telemetria opzionale.
Il percorso utile può funzionare senza un cloud del fornitore? +
Testare il flusso di lavoro reale, inclusi acquisizione del modello, aggiornamenti, controlli di licenza e recupero.
Quali prove possono conservare gli amministratori? +
Definire i requisiti di audit senza raccogliere per impostazione predefinita il contenuto dei prompt.