AI Suite 大部分產品均安裝於用戶自有機器上。無租戶概念,亦無需透過雲端登入來限制推理引擎的存取。桌面應用程式會與本地 aisuite-server 程序通訊,該程序會連接至裝置上的模型或客戶自主管理、運行於其網絡內的 AI Server。這種選擇——桌面安裝程式而非 SaaS——是經過深思熟慮的,原因值得詳述。
原因一:受規管買家不能將生產提示放在他人雲端
自 2024 年生效的歐盟 AI 法案將大量企業工作流程歸類為「高風險」,並對部署者施加記錄保存、人為監督及數據處理義務[1]。經合組織成員國亦有相應或類似框架[2],美國聯邦機構在採購 AI 系統時則依據 NIST AI 風險管理框架[3]。這些框架均未禁止雲端 AI,但要求部署者能即時且按需證明資料發送及回傳的具體情況。
實務上,這要求與現時雲端大型語言模型 API 的運作方式相衝突。藥廠合規主管無法從第三方 SaaS 取得處理病人識別資料的每次提示審計記錄,即使該 SaaS 合約上符合 GDPR。他們可能需要提示及回應資料永不離開其自有網絡。最直接的解決方案是以二進位檔形式發佈 AI,讓客戶在自家邊界內執行——這正是我們的做法。
這並非假設性的買家。我們自 2007 年起服務的客戶群中,包含六家《財富》全球 500 強企業,涵蓋製藥、金融、政府、法律、國防及能源等行業[4]。這些行業中,每個至少有一個工作流程,其「推理發生地點」決定了採購對話是否能展開。
原因二:可安裝二進位檔符合企業實際購買軟件的方式
大型 IT 組織對桌面應用的採購流程非常熟悉。應用程式會被打包,透過 SCCM、Intune 或 Jamf 分發,受與 Microsoft Office 相同的群組政策管理,並於筆記型電腦退役時移除。採購、安全審查及終端用戶運算均有數十年歷史的流程。AI Suite 可無縫融入。
相比之下,雲端 SaaS 需要平行流程:按租戶進行供應商風險審查、身份聯合協商、持續審核供應商狀態,以及不斷協商故障時責任歸屬。這對某些軟件類型有用,但不適合我們客戶所建構的 AI 工作流程。
透過發佈可安裝應用程式,並可認證至客戶自有身份提供者—— Microsoft Entra ID 或透過 OpenID Connect 的 Google Workspace ——我們將推理內容排除於 Software Tailor 控制平面之外。組織服務仍會處理運營部署所需的記錄:名冊與角色、權限、政策與伺服器狀態、彙總使用量、管理審計、授權及支援。這些是真正的供應商端記錄,但與本地或客戶託管模型路徑上的提示、回應及客戶文件分離。
理由三:自2007年以來零項目失敗,取決於不依賴他人系統正常運作時間
我們已經交付訂製軟件十九年,自2007年以來保持零項目失敗的紀錄[4]。這紀錄存在的原因是團隊掌控交付的每一層面:程式碼、建置、測試、部署產物。當我們讓客戶的生產工作流程依賴另一間公司的雲端服務可用性時,這紀錄便不再是我們能守護的。
雲端AI供應商會有故障。他們會限流。他們會更改價格。他們會淘汰模型。他們會淘汰整個API。我們服務的製藥及防務客戶,不能因為他們不擁有的模型端點被遷移而令長達一年的監管案件停滯。因此,我們不會將他們的本地模型路徑放在雲端。模型存放於客戶的設備上,推理亦在客戶設備上進行。我們的基礎設施提供身份認證、權限、政策、設備狀態、整體使用量、管理及支援所需的控制平面服務;它並非推理執行環境,且不會在該路徑接收提示或回應內容。
這對評估意味著什麼
如果你是合規主管、資訊總監或技術總監,正在評估企業部署的本地AI,相關問題與雲端SaaS評估有所不同:
- 推理在哪裡進行? 在用戶設備上,或在客戶控制的伺服器上。不是在我們的伺服器上。
- 什麼會離開邊界? 在本地或客戶托管的推理路徑上,沒有提示、回應或文件內容會傳送至Software Tailor。控制平面、授權、安全、遙測(啟用時)及支援記錄有獨立且有文件記錄的數據路徑。
- 審計軌跡是什麼? 不含內容的JSONL,存放於本地,可匯出。模型從未看到未被指示處理的內容,審計記錄亦完全不含內容。
- 供應商消失時會怎樣? 已安裝的二進位檔及免費本地執行環境不依賴託管的推理租戶。訂閱、組織及集中管理的Pro功能仍需有效授權及控制平面服務,因此退出計劃必須考慮這些因素。
這四個問題是我們設計 AI Admin Console 及 Local AI Suite 用以清晰回答的。關於 歐盟AI法規合規及本地部署 的文章則更深入探討監管方面。
參考資料
- 歐洲委員會。『AI 法案 — AI 監管框架。』 https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai。存取日期 2026-06-15。
- 經濟合作與發展組織 AI 政策觀察站。『國家 AI 政策。』 https://oecd.ai/。存取日期 2026-06-15。
- 美國國家標準與技術研究院。『AI 風險管理框架(AI RMF 1.0)。』 https://www.nist.gov/itl/ai-risk-management-framework。存取日期 2026-06-15。
- Software Tailor。『過往客戶。』 https://softwaretailor.com/past-clients.htm。存取日期 2026-06-15。