导读: AMD专为AI及高性能计算(HPC)开发的Instinct MI300X芯片在外界引领期盼之下,终于在近日正式交货。
AMD专为AI及高性能计算(HPC)开发的Instinct MI300X芯片在外界引领期盼之下,终于在近日正式交货。长期与AMD合作的AI服务厂商LaminiAI表示,近日已收到多台内置8个MI300X芯片的运算设备。
AMD Instinct MI300系列产品自2023年就开始出货,且AMD宣称该系列可望成为公司史上营收最快破10亿美元的产品系列,但号称性能胜过英伟达H100芯片的MI300X迟迟未出货,这回是第一次有客户证实MI300X开始大量出货,象征AMD终于达成重要里程碑。
LaminiAI专门训练商用大规模语言模型,因此向AMD采购多台内置8个MI300X芯片的运算设备。
LaminiAI CEO晒出图片表示,第一批AMD MI300X芯片正在运算中。内置8个MI300X芯片的设备已经上线,就像刚出炉的面包一样新鲜。LaminiAI新一批大语言模型已经上线。
AMD先前推出的MI300A芯片已经是数据中心等级,内置x86 CPU及GPU,并采用支持AI运算的CDNA 3架构。MI300X虽然没内置CPU,但CDNA 3芯片数量更多,共有304个运算单元,远胜MI300A的228个运算单元。
MI300X被视为AMD对抗英伟达H100芯片的最佳武器,因为MI300X内置HBM3 192GB内存,胜过H100的HBM3 80GB内存,且MI300X内存带宽高达每秒5.2TB,反观H100内存带宽每秒3.35TB。业界人士甚至认为MI300X足以和英伟达即将推出的H200 141GB GPU抗衡。
在客户方面,微软和Meta已采购大量的MI300系列,LaminiAI则是首个公开采用MI300X的客户。