お使いのデバイス上で
プロンプト、ドキュメント、結果、履歴、メモリはすべてデバイス上に保持されます。ローカル推論にはトークンメーターはありません。
- Software Tailorのクラウドは不要です
- モデルをダウンロード後、オフラインで動作可能
- パフォーマンスはモデルとハードウェアに依存します
データの経路を把握する
最初のプロンプトの前に。
「プライベートAI」は志向ではなく、アーキテクチャを示すべきです。ここでは、どの部分がローカルに留まり、どの部分がオンプレミスで可能か、そしてどこにオプションのプロバイダーが関与できるかを示します。
お客様のインフラストラクチャ上で
AI Serverは、組織が選択し運用する環境内でモデルと推論をホストします。
- OpenAI互換エンドポイント
- 組織管理下のネットワーク経路
- 中央管理機能を利用可能
サードパーティプロバイダー
一部の対応アプリはオプションのクラウドモデルを提供しています。アプリは使用前にそのパスを識別し、その後プロバイダーの利用規約が適用されます。
- ローカルパスには不要です
- ユーザーが選択します
- 境界の変更は明示的です
わかりやすい言葉での制御
現時点で述べられること
ローカルモデルの推論コンテンツはデバイス内に留まります。オンプレミス推論コンテンツは顧客が設定したインフラストラクチャパス内に留まります。
製品のテレメトリはプロンプトや結果とは別であり、無効化可能です。特定のプライバシー地域およびAppleビルドではオプトインが必要ですが、その他の場所では初期設定で有効になる場合があります。
インストールおよびマシン識別子は仮名であり匿名ではなく、制限された運用者ツール内で登録、権利付与、サポート記録と結合可能です。
プライバシー境界はエンドポイントセキュリティ、アクセス制御、バックアップ、モデルガバナンス、ユーザーポリシーの必要性を排除しません。
購入者の証拠
すべてのAIサプライヤーに尋ねる価値のある質問です。
推論はどこで実行されますか？ +
対応する各モデルパスについて回答が必要です。製品全体に対する一般的な声明は不可です。
何がデバイスまたはネットワークから出ていきますか？ ＋
コンテンツ、アイデンティティ、権限、診断およびオプショナルなテレメトリのフローを分離します。
有用なパスはベンダークラウドなしで機能しますか？ ＋
モデル取得、更新、ライセンスチェック、リカバリーを含む実際のワークフローをテストします。
管理者はどのような証拠を保持できますか？ ＋
プロンプト内容を収集せずに監査要件を定義します。