今天我们发布了 AI Server v2 —— AI Suite背后共享引擎的全新重建,取代了旧的仅限Windows的版本。它将电脑变成 一个共享的私有AI运行时:托管、下载并运行所有AI Suite应用使用的AI模型——一次模型下载,一个库,一套API密钥,处处可用。

功能介绍

每个AI Suite应用——Chatbot、Translate、Notepad、PDF Reader及其他——都将其AI功能卸载到AI Server,而不是捆绑自己的引擎。因此模型只需下载 一次 ,并为所有应用提供服务,且数据不会离开您的设备。您可以仅为当前会话运行它,或安装为后台 Windows服务 ,即使注销或重启后仍持续提供服务。

您可以从一个地方管理所有内容: 模型 用于下载和管理模型的页面——并且可以将整个模型库移动到另一个驱动器,无需重新下载——一个 提供者 用于使用您自己的密钥连接云端 AI 的页面,实时 连接,活动请求,使用情况日志 页面,让您可以准确查看发生了什么。底层它在一个 API 后托管多个引擎,并根据模型选择合适的引擎,同时支持 OpenAI/v1/*)和 Ollama/api/*)API,因此第三方工具如 Open WebUI 或简单的 curl 脚本也能正常工作。

v2 新功能

  • 统一运行时。 统一模型下载和库,服务于每个 AI Suite 应用——无需重复下载多个数 GB 的文件。
  • 运行于会话期间,或作为服务运行。 在后台持续运行,支持重启后保持服务(专业版),或仅在工作时运行。
  • 在一个控制台中统一管理。 模型、云服务提供商和实时连接,活跃请求、使用情况和日志。
  • 迁移您的模型库,无需重新下载。 安全地将整个模型存储迁移到另一驱动器,切换前进行验证。
  • 设计上注重隐私。 服务器访问密钥以安全哈希形式存储;任何配置的第三方提供商凭证必须可恢复,并单独保护。使用报告不包含内容,且可选的产品遥测遵循应用设置及隐私政策中的区域/平台默认。
  • 平滑升级。 现有设置自动继承,连接到之前AI Server的旧版应用继续正常工作。
  • 支持16种语言和无界面命令行界面 适合高级用户和自动化。

免费版、专业版及受管版

AI Server提供三种版本,免费版本身就非常实用:

  • 免费版 — 本地AI Server。 运行于 此电脑 (回环地址),为每个AI Suite应用提供无限本地AI,永久免费。管理模型和提供商,迁移您的模型库。
  • 专业个人版 — 网络AI Server。 将您的本地模型服务于 其他设备 在您的网络上,选择端口和显示名称,并将 AI Server 作为后台服务运行。
  • 专业商业版 — 受管控的 AI Server。 包含个人版的所有功能外,还提供完整的 治理 套件 — API 密钥、每密钥速率限制、使用配额和预算、内容过滤、签名审计导出、模型生命周期策略和区域合规性 — 多主机 AI Gateway 用于服务器间的负载均衡,以及 组织注册 通过 AI Admin Console 实现集中多设备管理。

守护进程是网络服务的记录门,因此边界由服务器本身强制执行,而不仅仅是用户界面。免费应用所做的一切仍然免费;专业版则用于超出本机的服务和流量治理。

本地 AI 服务器的重要性

人们最想保密的 AI 工作往往正是不能上传云端的内容——内部文档、客户数据、半成型的想法。在本地模型路径上,AI Server 将模型带到您的数据:提示和响应保留在您的基础设施内,服务器访问密钥经过哈希处理,使用记录不包含提示和响应内容。选择已配置的云服务提供商会创建通往该提供商的不同数据路径。这使得本地路径适合注重隐私的家庭、提示和回复不能离开受控硬件的合规工作流程,以及离线或隔离环境。这是 Software Tailor 构建所有产品背后的同一基于本地、隐私优先的原则。 <a href="#ref-1">[1]</a>

它也是服务器连接型应用的基础。 AI Client v2 本身不含引擎;它的十一个工作区会将 AI 请求发送到所选的 AI Server 或服务提供商,而客户端则将本地工作区保留在 PC 上。

获取

AI Server v2 现已在 Microsoft Store 上提供 Windows 版本免费下载,专业版可在您需要为网络提供服务并添加治理时购买 <a href="#ref-2">[2]</a>随附一个无头命令行界面(CLI),文档中提供了快速入门、API客户端、Kubernetes、许可和运维指南 <a href="#ref-3">[3]</a>完整功能介绍请参阅<a href="../ai-server.htm">产品页面</a>。