Prueba independiente
Usa el motor integrado de la aplicación y el modelo predeterminado para demostrar una carga de trabajo limitada en hardware real de punto final.
Cada aplicación de IA puede comenzar de forma independiente con su motor de IA integrado. Añada AI Server cuando sea necesario compartir modelos, capacidad de cómputo o APIs; añada AI Gateway solo cuando varios servidores necesiten una puerta de enlace resistente.
Las aplicaciones de IA conservan su motor integrado y ruta local incluso cuando se conectan a la plataforma de la organización que se muestra a continuación.
Usa el motor integrado de la aplicación y el modelo predeterminado para demostrar una carga de trabajo limitada en hardware real de punto final.
Agrega un modelo central, cómputo o servicio API solo cuando el caso de negocio lo requiera.
Agrega miembros, derechos, inscripción de servidores, política y evidencia de auditoría cuando la gobernanza central sea importante.
Coloca AI Gateway delante de varios servidores trabajadores cuando se requiera resiliencia, especialización o capacidad medida.
Las opciones de despliegue incluyen Windows, macOS, Linux, Docker y Kubernetes. La topología adecuada depende de la carga de trabajo, hardware, identidad, disponibilidad y necesidades de cumplimiento.
Conecta clientes compatibles con servicios de chat, incrustación, imagen, voz y visión.
Coloca modelos e inferencias en infraestructura controlada por tu organización.
Gestiona miembros, licencias, inscripciones, políticas, auditorías y evidencias de uso.
Pasa de un nodo a una granja gestionada por Gateway a medida que crecen la demanda y la evidencia.
El planificador de despliegue evalúa aplicaciones integradas, servidores opcionales, Gateway, administración, hardware y cantidades de licencias pagadas, y luego envía solo las líneas ordenables a la Store.