H100最强竞品正式发布!推理快1.6倍,内存高达192GB,来自AMD

值得一看   2023-12-07 23:37   53   0  

AMD近日发布了针对英伟达H100的竞品,Instinct MI300X GPU。Instinct MI300X GPU包含了较多的优势,例如,更大的内存容量,达到了192GB,是H100的两倍以上;更先进的生产技术;以及更高的计算性能。Instinct MI300X GPU在AI推理任务方面的性能比H100高出1.6倍,Instinct MI300X是AMD有史以来最大的芯片,包含1530亿个晶体管。

在实际应用中,Instinct MI300X在训练Llama 2 70B模型速度方面,相对于H100有显著的提升。此外,与上一代软硬件组合相比,使用Instinct MI300X和ROCm 6跑Llama 2 70B文本生成,AI推理速度提高了约8倍。另一款Instinct MI300A数据中心APU也同时发布,专供生成式AI领域。

在市场反应方面,微软、Meta、OpenAI和Oracle等公司已承诺购买AMD的这款GPU。根据市场预计,AMD的MI300系列在2024年的出货量约为30~40万颗,最大客户为微软和谷歌。

展望未来,AMD预计,到2027年,AI芯片总市场将达到4000亿美元,表现出对AI芯片市场的巨大信心。同时,英伟达也已针对H100的升级版H200 GPU提上发布时间表,预计将于2024年问世,届时将进一步加强AI芯片市场的竞争。

博客评论
还没有人评论,赶紧抢个沙发~
发表评论
说明:请文明发言,共建和谐网络,您的个人信息不会被公开显示。