全球领先的开源解决方案提供商红帽公司和AMD(
通过将红帽行业领先的开源平台与世界一流的AMD Instinct GPU和AMD EPYC CPU相结合,我们正提供客户所需的性能和效率,以加速AI、
虚拟化和混合云创新。
随着AI的引入导致工作负载需求和多样性持续增加,
AMD与红帽:推动更高效生成式AI的实现
红帽和AMD正将红帽AI的强大能力与AMD基于x86架构的处
AMD Instinct GPU现已全面支持红帽OpenShift AI,为客户提供在混合云环境中部署AI所需的高性能处理能力,
为了进一步提升性能加速和调优能力,红帽与AMD正在上游vLL
- AMD GPU性能提升:通过将AMD内核库上游化并优化Triton内
核及FP8等组件,红帽与AMD正在提升密集型和量化模型的推理 性能,使vLLM在AMD Instinct MI300X加速器上实现更快速、更高效的执行。 - 增强的多GPU支持:通过提升集合通信和优化多GPU工作负载,
可为更具可扩展性和能效的AI部署打开大门,这对需要跨多个GP U进行分布式计算的工作负载尤为有利, 可减少瓶颈并提升整体吞吐量。 - 扩大的vLLM生态系统合作:红帽、AMD与IBM等其他行业领
导者之间的交叉协作,有助于加速上游开发,推动vLLM项目与A MD GPU优化的持续改进,进而为依赖AMD硬件进行AI推理和训练 的vLLM用户带来益处。
基于在vLLM社区中的此次合作,AMD Instinct GPU将原生支持红帽AI推理服务器(Red Hat AI Inference Server)——红帽的企业级vLLM发行版,
AMD EPYC™处理器还可实现端到端的AI性能,是托管GPU驱动系
重塑现代数据中心
通过优化现有数据中心布局,企业能够更高效、
基于AMD EPYC处理器的红帽OpenShift虚拟化可助力企业优化在
支持证言
红帽高级副总裁兼首席产品官Ashesh Badani
“充分实现AI的价值意味着企业必须拥有选择和灵活性,以优化其
AMD执行副总裁及首席商务官Philip Guido
“随着企业客户工作负载日益多样化和严苛,
Additional Resources
- 了解更多红帽全球峰会相关信息
- 查看红帽全球峰会新闻中心
新闻摘要
红帽与AMD深化合作,推动AI能力发展并优化虚拟化基础设施。
Mentioned in this article
红帽AI, 红帽OpenShift, 红帽OpenShift虚拟化, AMD
了解更多信息
- 了解更多红帽全球峰会相关信息
- 查看红帽全球峰会新闻中心
- 关于红帽
红帽是开放混合云技术的领导者,为变革性的IT创新和AI应用提供可信、一致且全面的基础。红帽的云、开发者、AI、Linux、自动化和应用平台等技术产品组合,协助企业从数据中心到边缘跨环境部署任意应用。作为全球领先的企业级开源软件解决方案提供商,红帽积极投入开放生态系统和社区,解决未来的IT挑战。通过与合作伙伴和客户紧密协作,帮助他们构建、连接、自动化、保护和管理IT环境,并提供咨询服务以及屡获殊荣的培训和认证方案。
- 前瞻性声明
- 除本新闻稿中所载的历史信息与讨论外,其他陈述可能构成1995年《美国私人证券诉讼改革法案》项下的前瞻性声明。此类声明基于公司对未来业务和财务表现的当前预期与假设,涉及多项风险、不确定性及其他可能导致实际结果与预期大相径庭的因素。本新闻稿中的任何前瞻性声明仅反映其发布当日的情况。除非法律另有规定,公司不承担更新或修订任何前瞻性声明的义务。
###
红帽、Red Hat Enterprise Linux、红帽标识及OpenShift均为Red Hat, Inc.或其子公司在美国及其他国家的商标或注册商标。Linux®是Linus Torvalds在美国及其他国家的注册商标。
AMD、AMD标识、EPYC、AMD Instinct及其组合为Advanced Micro Devices, Inc.的商标。