CoreWeave se ha posicionado como un líder en computación en la nube, proporcionando un amplio acceso a los sistemas NVIDIA GB200 NVL72. Entidades líderes en inteligencia artificial (IA), incluyendo Cohere, IBM y Mistral AI, ya están aprovechando estos recursos para refinar modelos y aplicaciones de IA.
Como el primer proveedor de nube en ofrecer NVIDIA Grace Blackwell de manera general, CoreWeave ha demostrado notables resultados en las pruebas de referencia MLPerf utilizando NVIDIA GB200 NVL72. Esta poderosa plataforma, diseñada para el razonamiento y los agentes de IA, ahora está accesible para la clientela de CoreWeave, ofreciendo acceso a miles de GPUs NVIDIA Blackwell.
‘Colaboramos estrechamente con NVIDIA para asegurar que nuestros clientes tengan las soluciones más avanzadas para el entrenamiento e inferencia de modelos de IA’, afirmó Mike Intrator, CEO de CoreWeave. ‘Con los nuevos sistemas Grace Blackwell a escala de rack, nuestros clientes están entre los primeros en experimentar los beneficios de rendimiento de la innovación de IA a escala’.
El despliegue de miles de GPUs NVIDIA Blackwell facilita la rápida conversión de datos brutos en inteligencia accionable, con planes de expansión adicionales.
Las empresas que utilizan proveedores de nube como CoreWeave están en proceso de integrar sistemas construidos sobre NVIDIA Grace Blackwell. Estos sistemas están preparados para transformar los centros de datos en fábricas de IA, produciendo inteligencia a escala y convirtiendo datos brutos en conocimientos con mayor velocidad, precisión y eficiencia.
Los líderes globales de IA están aprovechando las capacidades de GB200 NVL72 para diversas aplicaciones, incluyendo agentes de IA y el desarrollo de modelos avanzados.
Agentes de IA Personalizados
Cohere está utilizando Grace Blackwell Superchips para mejorar el desarrollo de aplicaciones de IA empresarial seguras, aprovechando la investigación avanzada y las metodologías de desarrollo de modelos. Su plataforma de IA empresarial, North, capacita a los equipos para crear agentes de IA personalizados para la automatización segura de flujos de trabajo empresariales e información en tiempo real.
Al utilizar NVIDIA GB200 NVL72 en CoreWeave, Cohere ha observado un aumento de rendimiento de hasta tres veces en el entrenamiento de modelos de 100 mil millones de parámetros en comparación con las GPUs NVIDIA Hopper de la generación anterior, incluso sin optimizaciones específicas de Blackwell.
Optimizaciones adicionales que aprovechan la memoria unificada de GB200 NVL72, la precisión FP4 y un dominio NVIDIA NVLink de 72 GPU mejoran el rendimiento. Cada GPU opera en concierto, ofreciendo mayor rendimiento con un tiempo más corto para el primer token y los siguientes, para una inferencia más performante y rentable.
‘Con acceso a algunos de los primeros sistemas NVIDIA GB200 NVL72 en la nube, estamos complacidos con la facilidad con la que nuestras cargas de trabajo se portan a la arquitectura NVIDIA Grace Blackwell’, dijo Autumn Moulder, vicepresidente de ingeniería de Cohere. ‘Esto desbloquea una increíble eficiencia de rendimiento en toda nuestra pila, desde nuestra aplicaciónNorth integrada verticalmente que se ejecuta en una sola GPU Blackwell hasta el escalado de trabajos de entrenamiento a través de miles de ellas. Esperamos lograr un rendimiento aún mayor con optimizaciones adicionales pronto’.
Modelos de IA para Empresas
IBM está utilizando uno de los despliegues iniciales del sistema NVIDIA GB200 NVL72, escalando a miles de GPUs Blackwell en CoreWeave, para entrenar sus modelos Granite de próxima generación. Estos modelos de IA de código abierto y listos para la empresa ofrecen un rendimiento de vanguardia al tiempo que garantizan seguridad, velocidad y rentabilidad. La familia de modelos Granite está respaldada por un robusto ecosistema de socios, incluyendo empresas de software líderes que integran modelos de lenguaje grandes en sus tecnologías.
Los modelos Granite sirven como base para soluciones como IBM watsonx Orchestrate, que permite a las empresas desarrollar e implementar agentes de IA que automatizan y aceleran los flujos de trabajo.
El despliegue de NVIDIA GB200 NVL72 de CoreWeave para IBM también utiliza el IBM Storage Scale System, que ofrece almacenamiento de alto rendimiento para IA. Los clientes de CoreWeave pueden acceder a la plataforma de almacenamiento de IBM dentro de los entornos dedicados y la plataforma de nube de IA de CoreWeave.
‘Estamos emocionados de ver la aceleración que NVIDIA GB200 NVL72 puede aportar al entrenamiento de nuestra familia de modelos Granite’, dijo Sriram Raghavan, vicepresidente de IA en IBM Research. ‘Esta colaboración con CoreWeave aumentará las capacidades de IBM para ayudar a construir modelos avanzados, de alto rendimiento y rentables para potenciar aplicaciones de IA empresarial y de agentes con IBM watsonx’.
Recursos de Cómputo a Escala
Mistral AI ahora está integrando sus primeros mil GPUs Blackwell para construir la próxima generación de modelos de IA de código abierto.
Mistral AI, un líder con sede en París en IA de código abierto, está aprovechando la infraestructura de CoreWeave, ahora equipada con GB200 NVL72, para acelerar el desarrollo de sus modelos de lenguaje. Con modelos como Mistral Large que ofrecen robustas capacidades de razonamiento, Mistral requiere recursos de cómputo rápidos a escala.
Para entrenar e implementar estos modelos de manera efectiva, Mistral AI necesita un proveedor de nube que ofrezca grandes clústeres de GPU de alto rendimiento con redes NVIDIA Quantum InfiniBand y una gestión de infraestructura confiable. La experiencia de CoreWeave en el despliegue de GPUs NVIDIA a escala, combinada con la confiabilidad y resistencia líderes en la industria a través de herramientas como CoreWeave Mission Control, satisfacen estas necesidades.
‘Desde el primer momento y sin ninguna optimización adicional, vimos una mejora de 2 veces en el rendimiento para el entrenamiento de modelos densos’, dijo Thimothee Lacroix, cofundador y director de tecnología de Mistral AI. ‘Lo que es emocionante acerca de NVIDIA GB200 NVL72 son las nuevas posibilidades que abre para el desarrollo e inferencia de modelos’.
Ampliando la Disponibilidad de Instancias Blackwell
CoreWeave no solo ofrece soluciones a largo plazo para los clientes, sino que también proporciona instancias con NVIDIA NVLink a escala de rack a través de 72 GPUs NVIDIA Blackwell y 36 CPUs NVIDIA Grace, escalando hasta 110,000 GPUs con redes NVIDIA Quantum-2 InfiniBand.
Estas instancias, aceleradas por la plataforma de computación acelerada a escala de rack NVIDIA GB200 NVL72, ofrecen la escala y el rendimiento necesarios para desarrollar e implementar la próxima ola de modelos y agentes de razonamiento de IA.
Análisis Profundo de la Infraestructura Tecnológica de CoreWeave
CoreWeave se ha establecido como un actor fundamental en el ámbito de la computación en la nube, en gran medida debido a su compromiso de proporcionar soluciones de hardware de vanguardia y una infraestructura robusta adaptada a las demandas de las cargas de trabajo de IA y aprendizaje automático. La integración de los sistemas NVIDIA GB200 NVL72 subraya esta dedicación. Estos sistemas no son meras actualizaciones incrementales; representan un salto significativo en potencia computacional y eficiencia, lo que permite a las organizaciones abordar desafíos que antes se consideraban insuperables.
La arquitectura del NVIDIA GB200 NVL72 está meticulosamente diseñada para maximizar el rendimiento en un espectro de aplicaciones de IA. Al integrar 72 GPUs NVIDIA Blackwell con 36 CPUs NVIDIA Grace, la plataforma proporciona un entorno de computación equilibrado y potente. Este equilibrio es crítico para las cargas de trabajo que requieren tanto una computación intensiva como capacidades sustanciales de procesamiento de datos. La utilización de la tecnología NVLink de NVIDIA mejora aún más la eficiencia del sistema al permitir una comunicación de alta velocidad entre las GPUs, minimizando así la latencia y maximizando el rendimiento.
La infraestructura de CoreWeave también se caracteriza por su escalabilidad. La capacidad de escalar hasta 110,000 GPUs utilizando redes NVIDIA Quantum-2 InfiniBand permite que la plataforma admita incluso los proyectos de IA más exigentes. Esta escalabilidad no se trata solo de potencia computacional bruta; también implica asegurar que la infraestructura de red pueda manejar los flujos de datos masivos asociados con el entrenamiento e inferencia de IA a gran escala. Las redes NVIDIA Quantum-2 InfiniBand proporcionan el ancho de banda necesario y la baja latencia para mantener un rendimiento óptimo a medida que el sistema escala.
La Importancia Estratégica de la Adopción Temprana
El enfoque proactivo de CoreWeave para adoptar nuevas tecnologías como las GPUs NVIDIA Grace Blackwell la ha posicionado como un socio estratégico para las empresas a la vanguardia de la innovación en IA. Al ser uno de los primeros proveedores de nube en ofrecer estos recursos avanzados, CoreWeave permite a sus clientes obtener una ventaja competitiva en sus respectivos mercados. Este acceso temprano permite a las empresas experimentar con nuevos modelos, optimizar sus flujos de trabajo existentes y, en última instancia, acelerar su tiempo de comercialización.
Los beneficios de la adopción temprana se extienden más allá del mero acceso al hardware avanzado. También implica una estrecha colaboración con proveedores de tecnología como NVIDIA, lo que permite a CoreWeave ajustar su infraestructura y pila de software para aprovechar al máximo las capacidades del nuevo hardware. Esta colaboración da como resultado una plataforma más optimizada y eficiente, lo que se traduce en un mejor rendimiento y ahorro de costos para los clientes de CoreWeave.
Además, la estrategia de adopción temprana de CoreWeave fomenta una cultura de innovación dentro de la empresa. Al superar constantemente los límites de lo que es posible con la computación en la nube, CoreWeave atrae a los mejores talentos y se establece como un líder en la industria. Esto, a su vez, refuerza su capacidad para proporcionar soluciones de vanguardia y mantener su ventaja competitiva.
Implicaciones para el Desarrollo de Modelos de IA
El despliegue de GPUs NVIDIA Grace Blackwell en la plataforma de CoreWeave tiene profundas implicaciones para el desarrollo de modelos de IA. La potencia computacional y la eficiencia mejoradas de estas GPUs permiten a los investigadores e ingenieros entrenar modelos más grandes y complejos en una fracción del tiempo en comparación con las generaciones anteriores de hardware. Esta aceleración del proceso de entrenamiento es fundamental para mantenerse a la vanguardia en el campo de la IA en rápida evolución.
Además, los sistemas NVIDIA GB200 NVL72 facilitan el desarrollo de modelos de IA más sofisticados que pueden realizar tareas más complejas. Por ejemplo, estos sistemas son particularmente adecuados para entrenar modelos que requieren amplias capacidades de razonamiento, como los utilizados en el procesamiento del lenguaje natural y la visión artificial. La capacidad de procesar vastas cantidades de datos y realizar cálculos intrincados hace que estos modelos sean más precisos, confiables y capaces de manejar escenarios del mundo real.
El impacto en aplicaciones específicas es sustancial. En el procesamiento del lenguaje natural, el nuevo hardware permite la creación de modelos de lenguaje más potentes que pueden comprender y generar texto similar al humano con mayor fluidez y coherencia. Esto conduce a mejoras en aplicaciones como chatbots, asistentes virtuales y traducción automática. En la visión artificial, la potencia computacional mejorada permite el desarrollo de sistemas de reconocimiento de objetos más precisos, que son esenciales para aplicaciones como vehículos autónomos, imágenes médicas y vigilancia.
El Papel de CoreWeave en la Democratización de la IA
Los esfuerzos de CoreWeave para hacer que los recursos informáticos avanzados sean accesibles a un público más amplio desempeñan un papel importante en la democratización de la IA. Al proporcionar acceso rentable a hardware de vanguardia, CoreWeave permite que las empresas más pequeñas y las instituciones de investigación compitan con las organizaciones más grandes que tradicionalmente han dominado el panorama de la IA. Esta democratización de la IA fomenta la innovación y promueve una gama más diversa de perspectivas en el desarrollo de tecnologías de IA.
La disponibilidad de potentes recursos basados en la nube también reduce la barrera de entrada para las personas y las empresas emergentes interesadas en explorar la IA. Al eliminar la necesidad de grandes inversiones iniciales en hardware, CoreWeave permite que los aspirantes a desarrolladores de IA se centren en sus ideas e innovaciones. Esto puede conducir a la creación de nuevas aplicaciones y soluciones que de otro modo no habrían sido posibles.
Además, el compromiso de CoreWeave de proporcionar una plataforma fácil de usar y servicios de soporte integrales contribuye aún más a la democratización de la IA. Al facilitar a los usuarios el acceso y la utilización de recursos informáticos avanzados, CoreWeave los empodera para alcanzar sus objetivos y contribuir al avance de la IA.
Transformando Industrias con IA
Los avances permitidos por el despliegue de GPUs NVIDIA Grace Blackwell de CoreWeave están preparados para transformar varias industrias. La potencia computacional y la eficiencia mejoradas de estos sistemas impulsarán la innovación y crearán nuevas oportunidades en sectores que van desde la atención médica hasta las finanzas.
En la atención médica, la IA se está utilizando para desarrollar herramientas de diagnóstico más precisas, personalizar planes de tratamiento y acelerar el descubrimiento de fármacos. La disponibilidad de recursos informáticos avanzados permite a los investigadores analizar vastas cantidades de datos médicos e identificar patrones que serían imposibles de detectar manualmente. Esto puede conducir a avances en el tratamiento de enfermedades y mejorar los resultados de los pacientes.
En las finanzas, la IA se está utilizando para detectar fraudes, gestionar el riesgo y automatizar los procesos de negociación. La capacidad de procesar grandes volúmenes de datos financieros en tiempo real permite a las empresas tomar decisiones más informadas y responder rápidamente a las condiciones cambiantes del mercado. Esto puede conducir a una mayor eficiencia, costos reducidos y una mayor rentabilidad.
Otras industrias que probablemente se transformarán con la IA incluyen la fabricación, el transporte y el comercio minorista. En la fabricación, la IA se está utilizando para optimizar los procesos de producción, mejorar el control de calidad y reducir los residuos. En el transporte, la IA está permitiendo el desarrollo de vehículos autónomos y sistemas logísticos más eficientes. En el comercio minorista, la IA se está utilizando para personalizar las experiencias de los clientes, optimizar los precios y mejorar la gestión de la cadena de suministro.
La Visión de CoreWeave para el Futuro
El despliegue de GPUs NVIDIA Grace Blackwell de CoreWeave no es solo un evento único; es parte de una visión más amplia para el futuro de la computación en la nube y la IA. CoreWeave se compromete a invertir continuamente en nuevas tecnologías y a expandir su infraestructura para satisfacer las necesidades cambiantes de sus clientes. Esto incluye explorar nuevas arquitecturas, desarrollar software más eficiente y fomentar colaboraciones con proveedores de tecnología líderes.
La visión de CoreWeave se extiende más allá de simplemente proporcionar recursos informáticos avanzados. También implica la creación de un ecosistema vibrante de desarrolladores, investigadores y empresas que están trabajando para superar los límites de la IA. Al fomentar la innovación y la colaboración, CoreWeave pretende acelerar el desarrollo y la adopción de tecnologías de IA en todas las industrias.
El compromiso de la empresa con la sostenibilidad también es una parte clave de su visión. CoreWeave está trabajando activamente para reducir su impacto ambiental mediante el uso de fuentes de energía renovables y la implementación de tecnologías de eficiencia energética. Esto refleja una creciente conciencia de la importancia de la sostenibilidad en la industria tecnológica y un compromiso de crear un futuro más responsable con el medio ambiente.