AMD 推出针对 Zen 5 EPYC 系列的深度学习优化神经网络库 ZenDNN 5.0 版本

2024年11月15日上午,AMD 发布最新版本的深度神经网络库 ZenDNN 5.0 ,与英特尔的 oneDNN API 和基础设施兼容。ZenDNN 5.0 现已针对 AMD Zen 5 处理器(如EPYC 9005系列)进行了优化。ZenDNN 5.0 还通过其 PyTorch 插件为生成式大型语言模型 (LLM) 提供了性能增强。

ZenDNN 5.0 针对第五代 AMD EPYC“Turin”处理器进行了优化,同时它在新的 Ryzen 9000 系列 Zen 5 台式机处理器上的表现也将比之前的 ZenDNN 版本更好。 ZenDNN 5.0 还兼容 AMD BLIS 5.0 库、EPYC 特定的 MATMUL 运算符和相关融合增强功能、BF16 的自动调整、专注于 LLM 的性能增强、优化的标量点积注意力 (SDPA)、PyTorch 中推荐系统模型对 BF16 精度的支持,以及 PyTorch 插件中的图形优化和模式匹配改进。

ZenDNN 5.0 已使用 TensorFlow 2.16+ 和 PyTorch 2.0+ 进行了测试。ZenDNN 5.0 发布公告指出:

“ZenDNN 5.0 版本的重点是提供对 Zen5 AMD EPYC™ 架构的支持,以及通过 PyTorch 插件增强生成式 LLM 模型的性能。支持的模型列表包括 Llama2 和 Llama3、Phi2、Phi3、Qwen、ChatGLM 和 GPT 等架构。该版本还为 BERT 等非生成式 LLM 模型提供了性能改进。”

AMD ZenDNN 在 Apache 2.0 许可下可用。

猜你喜欢

精品国产乱码久久久兰草影视:探索其背后的深厚文化价值与社会影响
精品国产乱码久久久兰草影视:探索其背后的深厚文化价值与社会影响

精品国产乱码久久久兰草影视,为众多影视爱好者所熟知,然其背后却藏有诸多未解之谜。此一影视作品不仅仅为大众所好,而其深厚文化根基与社

沙月芽衣(さつき芽衣)的详细介绍及个人背景资料
沙月芽衣(さつき芽衣)的详细介绍及个人背景资料

沙月芽衣(さつき芽衣 )是三年前也就是2020年出道的,二年多时间里面拍了二百多部作品也是够厉害的,演技一般但是耐不住人家作品拍的多,光

哔哩哔哩情侣进入高峰期,浪漫视频陪伴爱情!:情侣们的新欢
哔哩哔哩情侣进入高峰期,浪漫视频陪伴爱情!:情侣们的新欢

最近,哔哩哔哩平台上的情侣推荐视频正逐渐成为年轻人追逐爱情的一种新潮流。随着天气渐暖,许多情侣的感情也迎来了升温的阶段,哔哩哔哩的

大钟奖主办方宣布破产,韩国本土电影行业面临多重困境与挑战
大钟奖主办方宣布破产,韩国本土电影行业面临多重困境与挑战

近日,据韩国《中央日报》消息,首尔回生法院于12月12日在官网发布公告,表示当前韩国电影人总联合会的债务已超过资产,且难以通过自身营业

好莱坞编剧罢工背后的原因及国产剧编剧的深刻领悟
好莱坞编剧罢工背后的原因及国产剧编剧的深刻领悟

作者|符琼尹编辑| 张友发“在业内,一些人将今年的罢工行动称为‘奈飞罢工’。”有媒体这样报道近期的好莱坞罢工。这一方面是因为,罢工影

糖心Vlog破解版免费下载版:深入体验美食与生活中的真实时刻
糖心Vlog破解版免费下载版:深入体验美食与生活中的真实时刻

在这个快节奏的时代,很多人都希望能通过短视频来记录自己的生活、分享美食。糖心Vlog破解版免费版正好满足了这样的需求。这个平台为用户提

告别时刻~WE战队官方宣布选手Heng正式离队的消息
告别时刻~WE战队官方宣布选手Heng正式离队的消息

直播吧12月5日讯 今日WE官方发布人员变动公告, 称打野Heng选手正式离队!经过双方友好沟通与协商,在充分尊重选手个人意愿的前提下,即

欧美超级好看的ppt:探索高效呈现内容的最佳实践与技巧
欧美超级好看的ppt:探索高效呈现内容的最佳实践与技巧

欧美超级好看的ppt,诚为一种美学与实用兼备之展示工具。在现代商务、教育等领域,PPT已成为信息传达的重要载体。设计一份引人入胜的PPT,

领袖魅力!NiKo凭借1.65的超高Rating助力团队成功晋级淘汰赛
领袖魅力!NiKo凭借1.65的超高Rating助力团队成功晋级淘汰赛

上海Major正赛阶段第四轮比赛,G2以2-0轻松战胜FaZe,以3-1的成绩成功进入淘汰赛阶段。这场比赛G2全员Rating过1 1,队内明星步枪手Nikola

《维修工人的绝遇》:关于维修工人职业困境与社会认可之延伸
《维修工人的绝遇》:关于维修工人职业困境与社会认可之延伸

《维修工人的绝遇》焉,叙述一位维修工人于繁忙都市之际,遭遇种种艰难困苦,然其人心存敬业,终以卓越技艺赢得生计。文章描绘其日常工作,