售价超25万 NVIDIA旗舰显卡抢购到明年:台积电加急生产
分享
原本PC、服务器市场需求陷入了下降周期,然而今年由于AIGC人工智能技术的火爆,NVIDIA的高端GPU反而供不应求,最顶 级的H100显卡售价超过25万元,现在订单都排到了明年。
ChatGPT引发的AI热潮仍在继续,AI算力成为各大厂商投资的重点,而在这个领域中NVIDIA的AI显卡几乎是唯 一选择,因此今年涌入了大量急单,导致NVIDIA的订单已经排到了2024年,很多厂商要半年甚至近一年才能拿到产品。
订单在手,NVIDIA也紧急向台积电下单增产A100、H100等高性能AI显卡,导致后者的5nm产能利用率几近满载,现在台积电采用的是超级急件的方式给NVIDIA生产。即便如此,订单到今年底都是满载的,实在是太火了。
H100基于GH100 GPU核心,定制版台积电4nm工艺制造,800晶体管,集成18432个CUDA核心、576个张量核心、60MB二级缓存,支持6144-bit HBM高带宽内存,支持PCIe 5.0。H100计算卡有SXM、PCIe 5.0两种样式,其中SXM版本15872个CUDA核心、528个Tensor核心,PCIe 5.0版本14952个CUDA核心、456个Tensor核心,功耗最 高达700W。
性能方面,FP64/FP32 60TFlops(每秒60万亿次),FP16 2000TFlops(每秒2000万亿次),TF32 1000TFlops(每秒1000万亿次),都三倍于A100,FP8 4000TFlops(每秒4000万亿次),六倍于A100。
0人已赞