Oracle ha anunciado un a cuerdo plurianual con Microsoft para apoyar el crecimiento explosivo de los servicios de IA. Microsoft está utilizando la infraestructura de IA de Oracle Cloud Infrastructure (OCI), junto con la infraestructura de IA de Microsoft Azure, para la inferencia de modelos de IA que se están optimizando para potenciar las búsquedas conversacionales diarias de Microsoft Bing. Aprovechando Oracle Interconnect for Microsoft Azure, Microsoft es capaz de utilizar servicios gestionados como Azure Kubernetes Service (AKS) para orquestar OCI Compute a escala masiva con el fin de soportar la creciente demanda de búsqueda conversacional de Bing.
La búsqueda conversacional de Bing requiere potentes clústeres de infraestructura informática que soporten la evaluación y el análisis de los resultados de búsqueda llevados a cabo por el modelo de inferencia de Bing.
Los modelos de inferencia requieren miles de instancias de computación y almacenamiento y decenas de miles de GPUs que puedan funcionar en paralelo como un único superordenador a través de una red multiterabit.
