gov-1000-75
京华网
京华网  >   财经  >  正文

最高9.9倍,微软推出Olive工具:大幅优化AMDGPU运行AI模型性

评论

,微软公司近日发布新闻稿,介绍了全新的 Microsoft Olive 工具,最多可以让 AMD 旗下的 GPU 显卡运行模型性能提升 9.9 倍。

Microsoft Olive 是由 Python 语言开发的工具,可以大幅优化 AMD GPU 运行大语言模型的性能。

新闻稿中表示 Radeon RX 7900 XTX GPU 在启用 Microsoft Olive 工具之后,以运行 Stable Diffusion 模型为例,基于文本生成图像性能明显提升。

Microsoft Olive 可以转换、优化、量化和自动调优模型,从而最大化性能输出。AMD 在官方测试中表示,在默认 PyTorch 路径上运行,AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代;不过开启 Microsoft Olive 工具优化模型之后,该 GPU 每秒可以迭代 18.59 次。

IT之家在此附上博文链接,感兴趣的用户可以深入阅读。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。



声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

ad11
bottom1 bottom3 2015123002 cert2017 dbtp01 ft02

注:凡注明来源非本站的作品,均转载自其它媒体,并不代表本网赞同其观点和对其真实性负责。

京华网致力于资讯传播,希望建立合作关系。若有任何不当请我们,我们将会在24小时内删除。

http://www.jhar.cn All Right Reserve 版权所有

版权为京华网所有 未经同意不得复制或镜像