Zoho Corporation, una empresa tecnológica global, ha anunciado una colaboración con NVIDIA para integrar su plataforma de computación acelerada por inteligencia artificial (IA) en sus Modelos de Lenguaje Extenso (LLM, por sus siglas en inglés). Zoho utilizará NVIDIA NeMo, parte del software NVIDIA AI Enterprise, para desarrollar y desplegar sus LLMs en sus aplicaciones SaaS, lo que beneficiará a sus más de 700,000 clientes en todo el mundo a través de sus divisiones ManageEngine y Zoho.
Una inversión significativa en IA
Durante el último año, Zoho ha invertido más de 10 millones de dólares en tecnología de IA y GPUs de NVIDIA, y se ha comprometido a invertir otros 10 millones en el próximo año para continuar con su expansión en IA. El anuncio se realizó en el NVIDIA AI Summit en Mumbai, India, destacando la creciente importancia de la inteligencia artificial en el ecosistema empresarial.
Ramprakash Ramamoorthy, Director de IA en Zoho, señaló que muchos de los LLMs actuales están diseñados para consumidores, limitando su valor en entornos empresariales. “En Zoho, nuestra misión es desarrollar LLMs específicamente para una amplia gama de casos empresariales. Al ser propietarios de nuestra propia pila tecnológica, podemos integrar el elemento clave para hacer que la IA sea verdaderamente efectiva: el contexto”, comentó Ramamoorthy.
IA diseñada para empresas
A diferencia de los LLMs más comunes en el mercado, que suelen estar adaptados para uso masivo por parte de los consumidores, Zoho está enfocada en desarrollar modelos que atiendan necesidades específicas de las empresas. Esto permite a los usuarios empresariales aprovechar mejor la IA en diversos escenarios, obteniendo inteligencia contextual para la toma de decisiones y mejorando el retorno de la inversión.
La compañía ha desarrollado su tecnología de IA durante más de una década, integrándola de manera contextual en su portafolio de más de 100 productos, abarcando desde herramientas de TI hasta soluciones empresariales. El enfoque multimodal de Zoho en la IA permite a sus usuarios recibir recomendaciones basadas en un análisis profundo y relevante del contexto, lo que facilita decisiones empresariales más acertadas.
Diversidad en los modelos y compromiso con la privacidad
Zoho también ha desarrollado modelos de lenguajes estrechos, pequeños y medianos, que se diferencian de los LLMs. Esta variedad de opciones ofrece flexibilidad a las empresas para elegir el modelo que mejor se adapte a sus necesidades, lo que permite un equilibrio entre rendimiento y rentabilidad. Además, la compañía subraya que sus modelos no se entrenarán con datos de los clientes, manteniendo la privacidad como un pilar clave en su estrategia de IA.
Vishal Dhupar, Director General de Asia Sur en NVIDIA, destacó: “La capacidad de elegir entre una gama de tamaños de modelos de IA permite a las empresas adaptar sus soluciones de manera precisa a sus necesidades. Con la plataforma de computación acelerada de NVIDIA, Zoho está construyendo modelos que ayudan a satisfacer las diversas necesidades de sus clientes”.
Optimización y rendimiento mejorado con NVIDIA
Zoho ya ha comenzado a acelerar sus LLMs utilizando las GPUs Hopper de NVIDIA y la plataforma integral NVIDIA NeMo, lo que incluye el desarrollo de IA generativa personalizada, IA multimodal, visión e IA de voz. La compañía también está probando NVIDIA TensorRT-LLM para optimizar el rendimiento de sus modelos, obteniendo resultados notables: un aumento del 60% en el rendimiento y una reducción del 35% en la latencia, en comparación con el marco de código abierto que utilizaban previamente.
Zoho también está utilizando la infraestructura de computación acelerada de NVIDIA para acelerar otras cargas de trabajo, como la conversión de voz a texto, reforzando su compromiso con la innovación y la mejora continua de sus soluciones de IA.
Comentario
Con esta colaboración, Zoho y NVIDIA están marcando un hito en la evolución de la IA para empresas. La integración de tecnología avanzada y un enfoque en la privacidad hacen que Zoho sea una opción atractiva para empresas que buscan soluciones tecnológicas potentes y seguras.
