{"id":15331,"date":"2025-06-06T09:50:17","date_gmt":"2025-06-06T14:50:17","guid":{"rendered":"https:\/\/syspertec.com.co\/web\/?p=15331"},"modified":"2025-06-06T09:50:33","modified_gmt":"2025-06-06T14:50:33","slug":"red-hat-libera-la-ia-generativa-para-cualquier-modelo-y-acelerador-en-toda-la-nube-hibrida-con-red-hat-ai-inference-server","status":"publish","type":"post","link":"https:\/\/syspertec.com.co\/web\/red-hat-libera-la-ia-generativa-para-cualquier-modelo-y-acelerador-en-toda-la-nube-hibrida-con-red-hat-ai-inference-server\/","title":{"rendered":"Red Hat libera la IA generativa para cualquier modelo y acelerador en toda la nube h\u00edbrida con Red Hat AI Inference Server"},"content":{"rendered":"\n

Red Hat AI Inference Server, impulsado por vLLM y mejorado con tecnolog\u00edas Neural Magic, ofrece una inferencia de IA en la nube h\u00edbrida m\u00e1s veloz, de mayor rendimiento y a bajo costo.<\/em><\/p>\n\n\n\n

BOSTON. RED HAT SUMMIT. 20 DE MAYO DE 2025. <\/strong>Red Hat, el proveedor l\u00edder mundial de soluciones open source, present\u00f3 el Red Hat AI Inference Server, que constituye un gran avance hacia la democratizaci\u00f3n de la IA generativa (gen AI) en la nube h\u00edbrida. Este servidor de inferencia para la empresa es una nueva oferta dentro de Red Hat AI, que nace a partir del potente proyecto comunitario vLLM y est\u00e1 optimizado por la integraci\u00f3n de las tecnolog\u00edas Neural Magic de Red Hat. Esto hace posible ejecutar cualquier modelo de IA generativa en cualquier acelerador de IA, en cualquier entorno de nube, m\u00e1s r\u00e1pido, con mayor eficiencia del acelerador y a bajo costo y ayudar a cumplir con la visi\u00f3n de Red Hat. Ya sea que se la implemente de forma aut\u00f3noma o como componente integrado de Red Hat Enterprise Linux AI (RHEL AI) y Red Hat OpenShift AI, esta plataforma revolucionaria permite a las organizaciones implementar y escalar la IA generativa en modo de producci\u00f3n con mayor confianza.<\/p>\n\n\n\n

La inferencia es el motor de ejecuci\u00f3n cr\u00edtico de la IA, en el que los modelos preentrenados traducen los datos en un impacto tangible. Es el punto clave de la interacci\u00f3n con el usuario, que exige respuestas r\u00e1pidas y precisas. A medida que los modelos de IA generativa se vuelven cada vez m\u00e1s complejos y las implementaciones de producci\u00f3n aumentan, la inferencia puede convertirse en un importante cuello de botella que acapara recursos de hardware y amenaza con reducir la capacidad de respuesta e inflar los costos operativos. Para liberar el verdadero potencial de la IA a gran escala, los servidores de inferencia potentes ya no son un lujo, sino una necesidad, dado que sortean las complejidades subyacentes con mayor facilidad.<\/p>\n\n\n\n

Red Hat hace frente a estos desaf\u00edos en forma directa con Red Hat AI Inference Server, una soluci\u00f3n de inferencia abierta dise\u00f1ada para lograr un alto rendimiento y equipada con herramientas l\u00edderes en compresi\u00f3n y optimizaci\u00f3n de modelos. Esta innovaci\u00f3n facilita que las organizaciones aprovechen al m\u00e1ximo el poder transformador de la IA generativa al ofrecer experiencias de usuario significativamente m\u00e1s eficaces y una libertad inigualable para elegir aceleradores de IA, modelos y entornos de TI.<\/p>\n\n\n\n

<\/a>vLLM: mayor innovaci\u00f3n en inferencia<\/strong><\/p>\n\n\n\n

Red Hat AI Inference Server se basa en el proyecto vLLM, l\u00edder del sector, iniciado por UC Berkeley a mediados de 2023. Este proyecto comunitario ofrece una inferencia de IA generativa de alto rendimiento, admite contextos de entrada de gran tama\u00f1o, aceleraci\u00f3n de modelos de m\u00faltiples GPU y compatibilidad con el procesamiento continuo por lotes, entre muchas otras caracter\u00edsticas.<\/p>\n\n\n\n

El amplio soporte de vLLM para modelos open source, sumado a la integraci\u00f3n de D\u00eda 0 de los modelos de vanguardia l\u00edderes, como DeepSeek, Gemma, Llama, Llama Nemotron, Mistal y Phi, entre otros, as\u00ed como modelos de razonamiento de nivel empresarial y de c\u00f3digo abierto como Llama Nemotron, lo posiciona como un est\u00e1ndar de facto para la innovaci\u00f3n futura en inferencia de IA. Los principales proveedores de modelos de vanguardia est\u00e1n adoptando los vLLM cada vez m\u00e1s, consolidando as\u00ed la funci\u00f3n clave que desempe\u00f1an en el futuro de la IA generativa.<\/p>\n\n\n\n

<\/a>Presentaci\u00f3n de Red Hat AI Inference Server<\/strong><\/p>\n\n\n\n

Red Hat AI Inference Server re\u00fane la innovaci\u00f3n l\u00edder de los vLLM y la transforma en las capacidades de Red Hat AI Inference Server de grado empresarial. Red Hat AI Inference Server est\u00e1 disponible como una soluci\u00f3n en contenedores independiente o como parte de RHEL AI y Red Hat OpenShift AI.<\/p>\n\n\n\n

Red Hat AI Inference Server proporciona a los usuarios una distribuci\u00f3n de vLLM compatible y m\u00e1s segura, adem\u00e1s de:<\/p>\n\n\n\n