目前在人工智能热潮下英伟达股价水涨船高,因为人工智能模型训练依靠英伟达提供的 A100/H100 加速卡。
至少在之前业内基本都认同英伟达的加速卡提供最佳的性能,所以英伟达的这些专用加速卡被各大公司哄抢。
人工智能初创公司MosaicML在详细评测后称大家不应该迷信英伟达芯片 , 因为AMD米兰芯片的性能并不差。
该公司使用多种工具对英伟达A100加速卡和AMD MI250加速卡进行测试,测试显示MI250加速卡也足够用。
两款加速卡的对比:
英伟达A100加速卡和AMD MI250加速卡均为上一代产品,最新产品是英伟达H100/AMD MI300系加速卡。
选择这两款相对来说价格划算点的加速卡进行测试,然后在不改变底层软件代码的情况下用来训练LLM算法。
MosaicML称在基于实际工作负载测试中,LLM训练堆栈保持稳定且性能良好,不需要进行额外的各种配置。
其中AMD MI250加速卡的每GPU数据吞吐量相当于英伟达A100 40GB版的 80%,是A100 80GB版的73%。
因此确实有差距但差距并不算大,对人工智能公司来说并不是非得高价抢购英伟达显卡,其他加速卡也能用。
AMD软件优化有望提升性能:
MosaicML还提到一点是加速卡制造商的主要弱点在于软件,也就是如何通过软件优化加速卡提供最佳性能。
AMD目前在软件优化方面不断改进,预计AMD新推出的HPCGPU会更出色,从而提供更好的性能用于计算。
对于这份评测报告AMD很高兴,因为这支持了AMD「开放且易于实施的软件生态系统」用于AI行业的战略。
英伟达对此则是拒绝评价,毕竟这报告对英伟达来说可能不算是好消息,所以不如保持沉默继续高价卖卡吧。
MosaicML 公司发布的测试报告原文可以点击这里查看: https://www.mosaicml.com/blog/amd-mi250
版权声明:感谢您的阅读,除非文中已注明来源网站名称或链接,否则均为蓝点网原创内容。转载时请务必注明:来源于蓝点网、标注作者及本文完整链接,谢谢理解。