La IA de NVIDIA Logra Grandes Avances en Habla, Sistema de Recomendación e Inferencia de Hiperescala

El día de hoy, NVIDIA anunció importantes actualizaciones para su plataforma de IA, un conjunto de software que aborda una amplia variedad de cargas de trabajo de IA, lo que incluye sistemas de habla, sistemas de recomendación, inferencia de hiperescala y más. Además, esta plataforma ha sido adoptada por los líderes mundiales de la industria, como Amazon, Microsoft y Snap.

La compañía también anunció el programa Aceleración de IA con NVIDIA®, que ayuda a garantizar el rendimiento y la confiabilidad de las aplicaciones de IA desarrolladas por los socios de software y soluciones de NVIDIA. El programa aumenta la visibilidad a una amplia gama de aplicaciones comprobadas y aceleradas por IA, lo que permite a los clientes empresariales implementarlas con confianza en la plataforma de IA de NVIDIA. Adobe, Red Hat y VMware se encuentran entre los más de 100 socios participantes en el lanzamiento.

«La IA de NVIDIA es la caja de herramientas de software de la comunidad de IA del mundo, desde investigadores de IA y científicos de datos hasta equipos de operaciones de datos y machine learning», dijo Jensen Huang, fundador y CEO de NVIDIA. «Nuestra versión de GTC 2022 es enorme, ya sea mediante la creación de chatbots y asistentes virtuales más atractivos, el desarrollo de recomendaciones más inteligentes para ayudar a los consumidores a tomar mejores decisiones de compra o la organización de servicios de IA a la escala más grande, tu recurso más valioso se encuentra en la IA de NVIDIA».

La IA de NVIDIA está disponible de forma gratuita para los desarrolladores e incluye NVIDIA Riva para la IA de voz y NVIDIA Merlin™ para las recomendaciones inteligentes. Ahora, ambos disponibles de forma general. También se han realizado actualizaciones en toda la suite de software, incluidas herramientas como NVIDIA Triton, NeMo, Maxine y el Kit de Herramientas TAO. 

Además, NVIDIA AI Enterprise 2.0 ahora está optimizado, certificado y es compatible con todos los principales centros de datos y plataformas en la nube, incluidos los servidores bare-metal, la infraestructura virtualizada y los sistemas de CPU. La suite ahora es compatible con Red Hat OpenShift y VMware vSphere con Tanzu.

Herramientas de Software para Desarrollar Aplicaciones de IA Líderes en la Industria

La IA de NVIDIA se compone de los SDK y herramientas clave para  acelerar la implementación, la administración y el escalado de cargas de trabajo de IA en varios nodos a fin de impulsar las cargas de trabajo complejas de entrenamiento y machine learning. Estas son algunas:

• NVIDIA Triton™: NVIDIA Triton es una solución versátil de inferencia de modelos de hiperescala de código abierto. La última versión contiene tres actualizaciones clave: un Navegador de Modelos para la implementación acelerada de modelos optimizados, el Servicio de Administración para escalar de forma eficiente en Kubernetes y la Biblioteca de Inferencia de Bosque que permite la inferencia en modelos basados en árboles con explicaciones para una IA rápida, optimizada y escalable en cada aplicación.
• NVIDIA Riva 2.0: un SDK de IA de habla de clase mundial que está previamente entrenado con tasas de reconocimiento líderes, lo que les permite a los desarrolladores personalizar las aplicaciones de IA en tiempo real para su industria con el doble de precisión que los servicios genéricos. Riva 2.0 incluye reconocimiento de voz en 7 idiomas, texto a voz basado en deep learning humano con voces masculinas y femeninas, así como ajuste personalizado con el  Kit de herramientas NVIDIA TAO. NVIDIA también anunció NVIDIA Riva Enterprise, una oferta pagada que incluye soporte empresarial de NVIDIA.
• NVIDIA NeMo Megatron 0.9: Es un framework más rápido para el entrenamiento de grandes modelos de idiomas (LLM). NeMo Megatron permite a los investigadores y empresas entrenar cualquier modelo para la convergencia y escalar a trillones de parámetros para aplicaciones como la IA conversacional, los recomendadores y la genómica. La versión más reciente incluye nuevas optimizaciones que reducen el tiempo de entrenamiento integral y agregan compatibilidad para el entrenamiento en el cloud. Los primeros usuarios de los LLM en la computación acelerada de NVIDIA incluyen JD.com, AI Sweden, Naver y la Universidad de Florida.
• NVIDIA Merlin 1.0: Un framework de IA acelerado e integral para desarrollar recomendadores de alto rendimiento a escala, que incluye dos nuevas bibliotecas, Merlin Models y Merlin Systems. Esto les permite a los científicos de datos y los ingenieros de machine learning determinar qué características y modelos son los más adecuados para su caso de uso e implementar pipelines de recomendadores como microservicios.
• NVIDIA Maxine: un SDK para la mejora de la calidad de audio y video que reinventa las comunicaciones en tiempo real con IA e introduce la cancelación del eco acústico y la superresolución de audio. Las dos nuevas funciones mejoran la calidad del audio, lo que brinda una experiencia de comunicación más clara.

Los Clientes Adoptan la IA de NVIDIA

Los líderes de la industria están utilizando la IA de NVIDIA para mejorar la rentabilidad, crear experiencias de clientes más atractivas y optimizar las capacidades de las aplicaciones de IA.

«En Snapchat, nuestra comunidad juega con lentes más de 6,000 millones de veces al día», dijo Alan Bekker, Jefe de IA Conversacional de Snap. «Snap está utilizando NVIDIA Riva para optimizar nuestras capacidades de voz basadas en IA y ofrecerlas a los creadores de Lens Studio para construir una nueva generación de experiencias de AR atractivas».

«La función de traducción de documentos dentro de Translator, un Servicio Cognitivo de Microsoft Azure, permite que las interacciones de las empresas a los clientes sean eficientes, ya que traducen documentos manteniendo el formato y la estructura como en el documento de origen», dijo Xuedong Huang, Miembro Técnico de Microsoft y CTO de IA de Azure. «Con NVIDIA Triton, podemos implementar el último modelo de código Z para lograr una calidad de traducción de documentos significativamente mejorada con la baja latencia, lo que proporciona a nuestros usuarios servicios de traducción inigualables».

NVIDIA AI Enterprise Es Compatible con la IA en Contenedores de Data Centers y el Cloud

El conjunto de software NVIDIA AI Enterprise 2.0 acelera el desarrollo de IA para las industrias y ofrece certificación para Red Hat OpenShift, la plataforma empresarial de Kubernetes líder en la industria. La actualización permite a los clientes usar herramientas de machine learning en contenedores para crear, escalar y compartir más fácilmente sus modelos en sistemas bare-metal o en sistemas virtualizados, mediante VMware vSphere.

«La certificación de Red Hat OpenShift para NVIDIA AI Enterprise y la disponibilidad de OpenShift en NVIDIA LaunchPad, une las mejores herramientas para el desarrollo de IA con una base de cloud híbrida consistente», dijo Stefanie Chiras, vicepresidenta senior de Éxito del Ecosistema de Socios, Red Hat. «Ahora, los equipos de TI y los científicos de datos pueden crear y administrar la IA de NVIDIA en Red Hat OpenShift para ayudar a las empresas a acelerar la entrega de aplicaciones inteligentes en producción».

NVIDIA AI Enterprise 2.0 también presenta más contenedores de software de IA de NVIDIA para admitir el entrenamiento y la inferencia. La compatibilidad con el Kit de Herramientas NVIDIA TAO permite a los desarrolladores empresariales para ajustar y optimizar los modelos de IA previamente entrenados de NVIDIA, a fin de simplificar la creación de modelos personalizados y listos para la producción, sin necesidad de tener experiencia en IA ni grandes datos de entrenamiento. El último lanzamiento del Servidor de Inferencia NVIDIA Triton también se incluye en el conjunto de software.

NTT Communications (NTT Com), el proveedor global líder de soluciones de tecnología de la información y las comunicaciones dentro de NTT Group ha adoptado NVIDIA AI Enterprise para acelerar sus equipos de investigación y desarrollo que desarrollan aplicaciones de NLP y análisis de video inteligente.

«Muchos de nuestros desarrolladores de aplicaciones ahora usan la computación acelerada y necesitan una infraestructura interna que proporcione un entorno rentable y fácil de usar habilitado para GPU», dijo Shoichiro Henmi, director de la División de Tecnología del Centro de Innovación de NTT Communications. Confiamos en que NVIDIA AI Enterprise proporcionará una solución ideal como una plataforma lista para IA que es compatible con el desarrollo a gran escala en nuestra infraestructura de cloud, Kubernetes y VMware vSphere.

Los clientes pueden obtener licencias de NVIDIA AI Enterprise para ejecutarlo en Sistemas Certificados por NVIDIA o en los mismos modelos de servidores sin las GPU de NVIDIA, que están disponible mediante fabricantes líderes como Cisco, Dell Technologies, H3C, Hewlett Packard Enterprise, Inspur, Lenovo, Nettrix y Supermicro.

Las empresas también pueden elegir implementar en servidores alojados en los data centers de Equinix Metal de todo el mundo. Instancias de cloud de proveedores globales, incluyendo Google Cloud  y Microsoft Azure también están ahora respaldados. Nvidia AI Enterprises está incluido con los sistemas NVIDIA DGX.

Disponibilidad

La colección de software de IA de NVIDIA está disponible para los desarrolladores como parte del Programa para Desarrolladores de NVIDIA.

Las empresas pueden experimentar el software de IA de NVIDIA en laboratorios seleccionados para los equipos de TI y desarrolladores de IA en NVIDIA LaunchPad, alojado en las ubicaciones de Equinix y disponible de forma gratuita. Los nuevos laboratorios LaunchPad incluyen un nuevo laboratorio de IA de habla para Riva, así como laboratorios de NVIDIA AI Enterprise, que cuentan con Red Hat OpenShift, VMware vSphere with Tanzu, el Kit de herramientas TAO y el Servidor de Inferencia Triton con el backend de FIL. 

Para obtener más información sobre la IA de NVIDIA, mira el discurso destacado de GTC 2022 a cargo de Jensen Huang y regístrate en GTC de forma gratuita para asistir a sesiones con NVIDIA y líderes de la industria.