凭借发布的新品,AMD正式向英伟达的AI芯片王者地位发起挑战。
美东时间6月13日周二,AMD举行了新品发布会,其中最重磅的新品当属性用于训练大模型的ADM最先进GPU Instinct MI300。
AMD CEO苏姿丰介绍,生成式AI和大语言模型(LLM)需要电脑的算力和内存大幅提高。她预计,今年,数据中心AI 加速器的市场将达到300亿美元左右,到2027 年将超过1500 亿美元,复合年增长率超过 50%。
(相关资料图)
苏姿丰演示介绍,AMD的Instinct MI300A号称全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。
它采用CDNA 3 GPU架构和24个Zen 4 CPU内核,配置128GB的HBM3内存。相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在发布会稍早介绍,新的Zen 4c内核比标准的Zen 4内核密度更高,比标准Zen 4的内核小35%,同时保持100%的软件兼容性。
AMD推出一款GPU专用的MI300,即MI300X,该芯片是针对LLM的优化版,拥有192GB的HBM3内存、5.2TB/秒的带宽和 896GB/秒的Infinity Fabric 带宽。AMD将1530亿个晶体管集成在共12个5纳米的小芯片中。
AMD称,MI300X提供的HBM密度最高是英伟达AI芯片H100的2.4倍,其HBM带宽最高是H100的1.6倍。这意味着,AMD的芯片可以运行比英伟达芯片更大的模型。
苏姿丰介绍,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。
LLM需要的GPU更少,给开发者带来的直接好处就是,可以节约成本。
AMD还发布了AMD Instinct 平台,它拥有八个MI300X,采用行业标准OCP设计,提供总计1.5TB 的HBM3 内存。
苏姿丰称,适用于CPU和GPU的版本MI300A现在就已出样,MI300X和八个GPU的Instinct 平台将在今年第三季度出样,第四季度正式推出。
除了AI芯片,AMD此次发布会还介绍了第四代EPYC(霄龙)处理器,特别是在全球可用的云实例方面的进展。
AMD第四代EPYC(霄龙)在云工作负载的性能是英特尔竞品处理器的1.8倍,在企业工作负载中的处理速度是英特尔竞品的1.9倍。
AMD称,第四代EPYC(霄龙)启用新的Zen 4c内核,比英特尔Xeon 8490H的效率高1.9倍。由于绝大多数AI在CPU上运行,AMD在CPU AI领域具有绝对的领先优势。
亚马逊周二宣布,在用AWS Nitro和第四代EPYC 处理器打造新的实例。亚马逊云的EC2 M7a实例现已提供预览版,性能比M6a实例高50%。
AMD也将在内部工作中运用EC2 M7a实例,包括芯片设计的EDA软件。AMD还宣布,今年7月,甲骨文将推出Genoa E5实例。
AMD发布的EPYC Bergamo处理器是业界首款x86原生CPU,有128个内核,每个插槽256个线程。这意味着一个普通的2U 4 节点平台将有 2048 个线程。
Bergamo比前代Milan的性能高2.5倍,现在就可以向AMD的云客户发货。
Meta的公司代表介绍,Meta在基础设施中使用EPYC处理器。Meta也对基于AMD的处理器设计开源。Meta方面称,计划为其基础设施使用云处理器Bergamo,还要将Bergamo用于其存储平台。
AMD同时推出本周二上市的CPU Genoa-X。它将增加超过1GB 的96核L3缓存。它共有四个SKU,16到 96 个内核。因为SP5插槽兼容,所以它可以与现有的EPYC 平台一起使用。
微软的公司代表和AMD一道展示了微软云Azure HPC的性能,在EPYC处理器的帮助下,Azure四年内的性能提升四倍。
Azure宣布,搭载Genoa-X的HBv4和HX系列实例、以及新的HBv3实例全面上市。Azure还称,性能最高可较市面基准提升5.7倍。
AMD此前通过收购Pensando获得DPU技术。此次AMD称,其P4 DPU架构是世界上最智能的DPU,它能减少数据中心的网络开销,并提高了服务器的可管理性。AMD的Pensando SmartNICs是这种新数据中心架构不可或缺的组成部分。
AMD还提到有自己的AI芯片软件,名为ROCm。AMD总裁Victor Peng称,在构建强大的软件堆栈方面,AMD取得了真正的巨大进步,ROCm软件栈可与模型、库、框架和工具的开放生态系统配合使用。
风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。标签:
MI300X的HBM密度高达英伟达AI芯片H100的2 4倍,HBM带宽高达H100的1 6倍
日前,上汽大众官方宣布,旗下朗逸新锐将于今日(6月13日)正式上市,
1、PE是privateequity,私募股权基金简单说就是几个有钱人或机构集中资
1、《果树栽培学程设计》是2014年中国农业大学出版社出版的图书,作者
1、如果在修业年限后,完成了教学计划规定的全部课程,全部科目合格者
工会会员专属福利:百万元消费券等您来抢(主题)沈阳日报讯(沈阳日报
1、企业办理AAA信用等级认证最大的作用,就是代表一个公司形象和投标时
近日,AMD即将举办一场数据中心和AI技术活动,预计将发布包括代号Berga
投资要点集团重整计划获批,困境突破再出发公司控股股东兴业集团的负债
相信大家对家里房顶水箱怎么清理,水箱怎么清理?的问题都很疑惑,这个
虽然目前为止国足本期集训尚未安排11对11的全场范围分组对抗训练,但在
1、二本c山西都有哪些学校山西三本院校录取分数线文科405分理科392分。
据报道,丰田计划在2027年最早推向市场全固态电池的纯电动汽车(EV)。
➤➤天津市学校集体户毕业生在津落户办理指南受理单位:拟落户地公安派
天眼查显示,近日,米哈游科技(上海)有限公司起诉广州三七网络科技有限
洛水碧幽蓝,夏阳如火箭。三夏农忙时,机声人沸然。布谷声渐老,芒
比亚迪副总裁BUmjQo李柯近日透露,美国新出台的气候法案《抑制通胀法案
宁波天一广场的一家热门烘焙店开张后,顾客络绎不绝,为了买到心仪的产
余额宝上线第十年:累计为用户赚了3867亿元收益-驱动号_媒体平台
PyroninY(PyroninG)是一种染料,可嵌入RNA并将其染成红色,并已显示在
抽水蓄能电站是电力系统中一种比较特殊的电源,主要有两个方面作用:一
1、寺庙挂的是佛幡,不挂锦旗,你送了人家也不一定挂出来。2、记住,人
截至发稿,扬杰科技(300373)报42 6元 股,成交量2 565万手,换手率0
1、【问题描述】:如何设置开机密码【原因分析】:无【简易步骤】:点
这个还是有的,只要符合计划生育政策,有准生证,那么费用是可以报销的
A股小幅低开,汽车零部件板块延续涨势,a股,个股,涨停,汽车零部件,太平
2021年11月12日,许绍普因工作调整辞去亳州药都农商银行董事长等职务,
日前记者了解到,兰州市自然资源局深入实施“优化营商环境攻坚突破年”
6月11日,2023年海口市新媒体协会第一届第二次全体会员大会在海口会
兰陵金氏的人在《魔道祖师》里面的容貌都非常出色,就算是心思深沉的金
Copyright © 2015-2023 今日服装网版权所有 备案号:沪ICP备2023005074号-40 联系邮箱:5 85 59 73 @qq.com