• 快科技12月13日消息,早在四年前,AMD就曾设定目标,到2025年EPYC系列服务器处理器和Instinct系列AI芯片的能效,较2020年提高30倍。如今,MI300X AI芯片基本上实现目标,时间提了早一年。据THW报道,AMD两个64核心EPYC 9575F CPU、八个Instinct MI300X AI芯片及2304GB DDR5内存的服务器,Llama3.1-70B(vLLM 0.6.1.post2、TP8)测试推理性能,...

    分类:AMD 阅读: 次 评论:0 发布时间:2024-12-13
1