导读 近日,在AMD周二刚刚举行的发布会中,发布了最新款的AI芯片GPU-MI300X,这款芯片可以为生成式AI提供巨大的内存和数据吞吐量,苏妈在发布会…
近日,在AMD周二刚刚举行的发布会中,发布了最新款的AI芯片GPU-MI300X,这款芯片可以为生成式AI提供巨大的内存和数据吞吐量,苏妈在发布会中介绍这款芯片为生成式AI加速器,表明芯片是专门为AI和高性能计算量身打造的,通过多个小芯片的组合方式,将共享内存和网络链接连接到一个单一的封装组合中,该芯片将会在今年晚些时候正式面向客户发货。
据了解,该芯片的CPU是换成了两个额外的cdna 3芯片组,除此之外,在晶体管的数量方面从原先的1460亿分加到1530亿,共享内存更是从原先的一百二十八千兆字节提升到一百九十二千兆字节,在演讲中,苏妈反复强调这款芯片是非常具有战略意义的,因为它能够去混合匹配多种不同类型的计算,可以完全做到替换CPU或者是GPU。
这款芯片将会提供更高的内存密度和内存带宽,生成式AI的格局目前已经改变,对于整体的计算需求也在呈现不断的增长趋势,无论是训练模型还是进行各种计算推理方面,都需要更大的计算运力,语言模型需要更多计算,是因为他们是建立在神经网络参数上的,这款芯片可以流畅的在内存中运行大规模的神经网络,避免在外部内存中来回对数据移动操作。
苏妈还针对竞争对手的芯片做了比较,从比较中可以看出,这款芯片提供了2.4倍的内存,这意味着能够有额外的内存容量,通过这种方式,可以直接在内存中运行更大的大语言模型,这也意味着更大的模型会减少gpu的数量,从而能够提升整体的性能和推理速度,从另一方面来看也会降低总体的成本。
未经允许不得转载:87头条 » AMD放大招 苏妈甩出最强AI芯片叫板老黄