老黄H100再破纪录,4分钟训完GPT-3,全新「特供版」H20、L20和L2曝光,性能史诗级缩水

值得一看   2023-11-10 20:05   310   0  

英伟达的H100 GPU在MLPerf基准测试中再次刷新记录,这次英伟达的Eos AI超级计算机搭载了10752个H100 Tensor Core GPU和NVIDIA的Quantum-2 InfiniBand网络,将训练GPT-3的时间缩短至了3.9分钟,比此前记录提高了近3倍,展现了其在AI领域的卓越性能。

此外,英伟达也宣布将推出三款针对中国市场的AI芯片,分别为HGX H20、L20 PCle和L2 PCle。这三款芯片是基于英伟达H100改良而来,虽然性能有所下降,但仍然具有一定的市场竞争力。特别是HGX H20,它在LLM推理中的速度比H100快20%,性能接近于英伟达明年年初将发布的新款GPU。然而这些芯片与H100、H800等产品在性能上仍存在较大差距,对于大规模的算力集群和万亿级大模型训练需求仍难以满足。

此次H100 GPU性能的提升来自于软件和硬件规模扩充的优化结合,不仅使得英伟达在MLPerf基准测试中表现出色,也在应对新规的情况下通过推出“特供版”芯片来维护其在中国的市场份额。


博客评论
还没有人评论,赶紧抢个沙发~
发表评论
说明:请文明发言,共建和谐网络,您的个人信息不会被公开显示。