英特尔推出新款AI芯片:推理性能比英伟达H100快50%
澎湃新闻
2024-04-10 11:36:47
0

原标题:英特尔推出新款AI芯片:推理性能比英伟达H100快50%

美国当地时间4月9日,英特尔在面向客户和合作伙伴的英特尔on产业创新大会上,英特尔CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。

英特尔表示,Gaudi 3 AI加速器可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。

英特尔表示,Gaudi 3能够比英伟达上一代H100处理器训练特定大型语言模型的速度快40%,在推理端比英伟达H100快50%。

基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。但是他没有给出具体数据。

值得注意的是,外媒指出,H100是英伟达Hopper产品线中的老款芯片,在2022年发布。英伟达在去年又发布了H200,将于今年二季度正式开售,2024年3月英伟达展示了新的Blackwell B100和B200芯片。

英特尔表示,Gaudi 3已经在Meta大模型Llama上做了测试,可以有效地训练或部署AI大模型,包括文生图的Stable Diffusion和语音识别的Whisper等等。

在现场,基辛格也展示了集成最新英特尔芯片的AI PC,能够快速处理的多项任务,例如快速处理邮件、语音处理、图像渲染等。

据了解,英特尔Gaudi 3采用台积电5纳米工艺制造。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。

当天,英特尔还分享了企业AI各细分领域的下一代产品和服务的最新信息。英特尔为面向数据中心、云和边缘发布了下一代处理器英特尔至强6。配备能效核(E-cores)的英特尔至强6处理器将于2024年第二季度推出,配备性能核(P-cores)的英特尔至强6处理器将紧随其后推出,带来更高的AI性能。

英特尔想要打造一个广泛的AI生态联盟,推动企业在AI领域创新。

英特尔概述了面向开放的、可扩展的AI系统的战略,其中包括硬件、软件、框架和工具。当天,英特尔联合多家公司宣布,将创建一个开放平台助力企业推动AI创新。这一计划旨在开发开放的、多供应商的生成式AI系统,通过RAG(检索增强生成)技术,提供部署便利性、性能和价值。RAG可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型(LLM)功能的增强,加速生成式AI在企业中的应用。

进入4月以来,英特尔股价累计跌幅超过13%。外媒指出,新的人工智能芯片能否帮助英特尔找到股价上涨的动能值得关注,在9日盘中,英特尔一度下跌1.7%,或创出约三年半来最差六日表现,但在发布新的芯片后,英特尔股价开始上涨。截至9日美股收盘,英特尔收涨0.92%,市值1632亿美元,

相关内容

热门资讯

正版授权“拼三张金花房卡找谁购... 新漫游牛牛是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:160470940许多玩家在游戏中会购买房...
科技实测!金花房卡批发九尾大厅... 微信游戏中心:九尾大厅房卡在哪里买打开微信,添加客服微信【88355042】,进入游戏中心或相关小程...
推荐一款!金花房卡如何购买新老... 新老夫子是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:【3329006910】或QQ:332900...
微信金花房卡找谁拿/上下分金花... 牛牛是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:86909166许多玩家在游戏中会购买房卡来享受...
终于发现!玩炸金花房卡从哪里买... 微信游戏中心:炸金花房卡,添加微信【71319951】,进入游戏中心或相关小程序,搜索“微信炸金花房...
玩家必备!微信炸金花房卡如何购... 炸金花是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:82606316许多玩家在游戏中会购买房卡来享...
正规平台有哪些,怎么买斗牛房卡... 今 日消息,蜜瓜大厅房卡添加微信33549083 苹果今日发布了 iOS 16.1 正式版更新,简单...
IA解析/游戏推荐牛牛房卡出售... 天酷大厅房卡更多详情添加微:33549083、 2、在商城页面中选择房卡选项。 3、根...
终于发现!怎么创建拼三张房间卡... 微信游戏中心:拼三张房卡,添加微信【56001354】,进入游戏中心或相关小程序,搜索“微信拼三张房...
科技实测!金花房卡官网新九游/... 科技实测!金花房卡官网新九游/飞鹰互娱/微信链接房间卡怎么购买新九游/飞鹰互娱是一款非常受欢迎的游戏...
一分钟推荐“牛牛链接房卡那里有... 新518互游是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:160470940许多玩家在游戏中会购买...
玩家必备!微信牛牛房卡如何充值... 斗牛是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:82606316许多玩家在游戏中会购买房卡来享受...