AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色

    NVIDIA长期以来在AI算力领域占据主导地位，然而据国外媒体报道，AMD的最 新GPU产品MI300X在性能上终于展现出与NVIDIA H100/200相媲美的实力。根据The Information发布的评测报告，AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当，表明AMD在高性能AI计算领域取得了显著进展。

    这份评测报告由MLCommons提供数据，测试了AMD的MI300X GPU及NVIDIA的H100和H200 GPU。结果显示，在AI推理任务中，MI300X GPU的性能与H100 GPU不相上下，结合对GPU成本及系统总成本的估计，MI300X GPU的表现可以与H100和H200 GPU相媲美。

    需要注意的是，这些测试仅使用了来自Meta的Llama 2 70B，尽管测试存在一定局限性，但这一结果仍然表明AMD的MI300X GPU在处理大型AI模型方面展现了强大的潜力。业内人士对AMD在AI领域的发展前景持乐观态度，认为其未来有望进入主流市场。

    Transformer作者及Cohere公司创始人之一艾丹·戈麦斯也对AMD及其技术持积极看法，认为AMD和其他平台如Tranium将很快在主流市场中占据一席之地。