AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化
快科技2月5日消息,AMD宣布已将新的DeepSeek-V3模型集成到Instinct MI300X GPU上,该模型旨在与SGLang一起实现最佳性能。AMD表示,DeepSeek V3是目前最强的开源LLM,甚至超过了GPT-4o。AMD还透露,SGLang和DeepSeek团队通力合作,使DeepSeek V3 FP8从首发当天就能在英伟达和AMD GPU上运行。
此外,AMD还感谢了美团搜索与推荐算法平台团队以及DataCrunch提供GPU资源。DeepSeek-R1大模型自发布以来,短短几天内便登顶中美两区苹果应用市场免费榜榜单,包括亚马逊、微软在内的科技巨头宣布接入DeepSeek模型。曾经扬言要起诉DeepSeek的OpenAI也改变口风。OpenAI首席执行官奥尔特曼在东京表示,OpenAI没有起诉DeepSeek的计划,“公司将继续打造出色的产品,并以模型能力引领世界,我认为这会很棒”。奥尔特曼同时赞扬DeepSeek“无疑是一个令人印象深刻的模型”,并对有了一个新的竞争者表示高兴。
标签: DeepSeek模型集成到GPU
相关阅读
评论
精彩评论