微软成AMD AI GPU最大买家 定价是H100四分之一
2024-02-04 20:30:46 小编:吕嘉俭 我要评论
AMD在2023年12月6日举办了主题为“Advancing AI”的活动,推出了新一代针对数据中心的Instinct MI300系列计算卡。其中Instinct MI300X为纯GPU设计,采用了CDNA 3架构,可为HPC和AI工作负载提供突破性的性能。
据Seeking Alpha报道,根据花旗集团的分析报告,显示微软的数据中心部门是Instinct MI300X的最大买家,已开始为GPT-4这类大型语言模型(LLM)工作。此前AMD首席执行官苏姿丰博士表示,AMD在2024年AI芯片的销售额预计将达到35亿美元,高于之前20亿美元的预期。
虽然AMD没有公开Instinct MI300X的定价,不过有知情人士透露,每块计算卡的售价为1.5万美元,相比于英伟达的产品是比较实惠的。目前H100 PCIe 80GB HBM2E版本在市场上的售价大概为3万美元到4万美元,甚至更高一些,而性能更强的H100 SXM5 80GB HBM3版本的定价则更高。花旗集团的分析师表示,Instinct MI300X的定价或仅为后者的四分之一。此前AMD首席执行官苏姿丰博士表示,AMD在2024年AI芯片的销售额预计将达到35亿美元,高于之前20亿美元的预期。
Instinct MI300X采用了小芯片设计,混用5nm和6nm工艺,晶体管数量达到了1530亿个。其使用了第四代Infinity Fabric解决方案,共有28个模块芯片,其中包括8个HBM和4个计算芯片,而每个计算芯片拥有2个基于CDNA 3架构的GCD,共80个计算单元,意味着有320个计算单元和20480个流处理器。出于良品率的考虑,AMD削减了部分计算单元,实际使用数量为304个计算单元和19456个流处理器。此外,HBM3容量达到192GB,提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。