独立验证
使用应用内嵌引擎和默认模型,在真实终端硬件上验证单一有界工作负载。
每个AI应用都可以独立启动其内嵌的AI引擎。当需要共享模型、计算资源或API时,添加AI Server;仅当多个服务器需要一个高可用的前端入口时,才添加AI Gateway。
即使连接到下方展示的组织平台,AI应用仍保留其内嵌引擎和本地路由。
使用应用内嵌引擎和默认模型,在真实终端硬件上验证单一有界工作负载。
仅在业务需求时添加中央模型、计算或 API 服务。
在中央治理重要时,添加成员、权限、服务器注册、策略和审计证据。
当需要弹性、专业化或可测容量时,在多个服务器工作节点前部署 AI Gateway。
部署选项包括Windows、macOS、Linux、Docker和Kubernetes。合适的拓扑结构取决于工作负载、硬件、身份、可用性和合规需求。
连接兼容客户端以使用聊天、嵌入、图像、语音和视觉服务。
将模型和推理部署在由您的组织控制的基础设施上。
管理成员、许可证、注册、策略、审计和使用证据。
随着需求和证据增长,从单节点迁移到由网关管理的集群。
部署规划器评估嵌入式应用、可选服务器、AI Gateway、管理、硬件和付费许可证数量——然后仅将可订购项发送到商店。