编辑 | 伊风
出品 | 51CTO技术栈(微信号:blog51cto)
AMD的旗舰AI GPU加速器,被曝软件存在大量bug,几乎无法用于训练AI模型?!
这事挺让人意外的,因为它可是AMD用来阻击霸主英伟达的一张王牌。
去年12月,AMD在自家的“Advancing AI”活动中,首次宣布推出了MI300X,其性能比英伟达的 H100 足足高出 60%!
图片
一年过去了,已经投产的AMD MI300X是否真有当时宣传的那么强劲?
技术分析公司SemiAnalysis发了一份真实、详尽的报告,感觉太打脸了……他们对 @NVIDIA H100/H200 GPU 和 @AMD MI300X 的性能进行了比较,揭开了发布会数据与现实的残忍鸿沟!
这份报告有多真实呢?报告中一点拐弯抹角也没有,直接说:AMD 的软件体验充满了 bug,使得 MI300X 的开箱即用训练几乎不可能。
报告中还给了个细节:这份历时五个月的调查报告,本来计划几个月前就发布——但都被AMD的软件bug给生生耽误了!
报告团队直接联系了 AMD技术人员一起debug!“为了让 MI300X 的表现不因软件栈的 bug 而受限,我们花费了大量时间定位和修复 AMD 软件的 bug,而非仅仅展示开箱性能问题。”
报告中提到:我们与 AMD 的反复互动旨在确保我们的测试能够客观地评估实际用户可能遇到的体验。
这个体验差不说。主要问题是,不是所有用户都有机会联系上AMD副总裁解决这些bug吧……
看来,英伟达的“CUDA护城河”依然稳稳的很安心。
MI300X暂时无法匹敌对手的芯片,报告说,AMD的改进仍有许多的工作要做,”如果软件没有实质性的改进,AMD可能会进一步落后,尤其是在Nvidia即将推出下一代Blackwell芯片的情况下。”
那么AMD的MI300X关键问题有哪些?我们梳理了这份报告的Key Findings ,然后看看已经囤了AMD卡的该如何“补救”一下。
一、“如果不是AMD工程师帮助,其效能会远低于Nvidia”
SemiAnalysis团队透露,他们和苏姿丰会面谈了1.5个小时,并向苏妈给了很多的建议。
苏妈承认 AMD 软件栈中存在缺陷。并且也大方回复,表示听劝。
图片
我们详细看看报告中AMD MI300X 问题的部分: