AI Suite 大部分产品安装在用户自己的机器上。没有租户概念,也没有限制访问推理引擎的云端登录。桌面应用程序与本地 aisuite-server 进程通信,该进程又与设备上的模型或运行在客户网络内、由客户控制的 AI Server 通信。这个选择——桌面安装程序而非 SaaS——是经过深思熟虑的,理由值得记录下来。

理由一:受监管买家不能将生产提示放在他人云端

自 2024 年起生效的欧盟 AI 法案将大量企业工作流程归类为“高风险”,并对部署者施加了记录保存、人类监督和数据处理义务[1]。经合组织成员国也存在类似或平行的框架[2],美国联邦机构在采购 AI 系统时遵循 NIST AI 风险管理框架[3]。这些框架均未禁止云端 AI;它们要求部署者能够实时且按请求证明发送了什么数据到哪里,以及返回了什么。

实际上,这一要求与当前云端大型语言模型 API 的工作方式存在冲突。制药合规负责人无法从第三方 SaaS 中提取处理患者标识符的工作流程的逐条提示审计轨迹,即使该 SaaS 在合同上符合 GDPR 规定。他们可能需要提示和响应永远不离开其自有网络。提供这一路径的最简洁方式是将 AI 作为二进制文件交付,由客户在其自身边界内运行——这正是我们的做法。

这并非假设的买家。自 2007 年以来,我们服务的客户群包括制药、金融、政府、法律、国防和能源领域的六家《财富》全球 500 强企业[4]。这些行业中,每个至少有一个工作流程,其“推理发生地点”的答案决定了采购对话是否启动。

理由二:可安装二进制文件符合企业实际的软件采购方式

大型 IT 组织对桌面应用的采购流程非常熟悉。应用程序被打包,通过 SCCM、Intune 或 Jamf 分发,受与 Microsoft Office 相同的组策略管理,笔记本报废时被移除。采购、安全审查和终端用户计算都有数十年的成熟流程。AI Suite 可无缝融入其中。

相比之下,云端 SaaS 需要并行流程:按租户进行供应商风险评估、身份联合对话、持续审计供应商状态,以及不断协商出现问题时各方责任划分。适合某些类型的软件,但不适合我们的客户构建的 AI 工作流程。

通过发布可安装应用程序,且可认证至客户自有身份提供者—— Microsoft Entra ID 或通过 OpenID Connect 的 Google Workspace ——我们将推理内容排除在 Software Tailor 控制平面之外。组织服务仍处理运营部署所需的记录:人员名单和角色、权限、策略和服务器状态、汇总使用情况、管理审计、许可和支持。这些是真实的供应商端记录,但与本地或客户托管模型路径上的提示、响应和客户文档分开。

理由三:自2007年以来零项目失败,依赖于不依赖他人运行时间

我们已经交付定制软件十九年,自2007年以来项目零失败[4]。这一记录的存在,是因为团队掌控交付的每一层:代码、构建、测试、部署产物。一旦我们让客户的生产工作流依赖于另一家公司云服务的可用性,这一记录就不再是我们能够维护的。

云端AI供应商会出现故障。他们会限流。他们会更改定价。他们会淘汰模型。他们会淘汰整个API。我们服务的制药和国防客户不能因为他们不拥有的模型端点被迁移而导致长达一年的监管案件停滞。因此,我们不会将他们的本地模型路径放在云端。模型存放在客户设备上,推理也在客户设备上进行。我们的基础设施提供身份、权限、策略、设备状态、汇总使用情况、管理和支持所需的控制平面服务;它不是推理运行时,也不会在该路径上接收提示或响应内容。

这对评估意味着什么

如果您是合规负责人、首席信息官或首席技术官,正在评估企业部署的本地AI,相关问题与云SaaS评估有所不同:

  • 推理在哪里发生? 在用户设备上,或在客户控制的服务器上。不是在我们的服务器上。
  • 什么内容会离开边界? 在本地或客户托管的推理路径上,没有提示、响应或文档内容会发送给Software Tailor。控制平面、许可、安全、遥测(启用时)和支持记录有独立的文档化数据路径。
  • 审计轨迹是什么? 无内容的JSONL,本地存储,可导出。模型从未看到未被指示处理的内容,审计记录也完全不包含内容。
  • 当供应商退出时会发生什么? 已安装的二进制文件和免费的本地运行时不依赖托管的推理租户。订阅、组织和集中管理的Pro功能仍可能依赖有效的权限和控制平面服务,因此退出计划必须考虑这些因素。

这就是我们设计 AI Admin ConsoleLocal AI Suite 为之清晰回答的四个问题。关于 欧盟AI法案合规与本地部署 的文章更深入地涵盖了法规方面内容。

参考资料

  1. 欧洲委员会。“人工智能法案——人工智能监管框架。” https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai。访问日期 2026-06-15。
  2. 经合组织人工智能政策观察站。“国家人工智能政策。” https://oecd.ai/。访问日期 2026-06-15。
  3. 美国国家标准与技术研究院。“人工智能风险管理框架(AI RMF 1.0)。” https://www.nist.gov/itl/ai-risk-management-framework。访问日期 2026-06-15。
  4. Software Tailor。“过往客户。” https://softwaretailor.com/past-clients.htm。访问日期 2026-06-15。