英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

如何推动无处不在AI时代的到来?先用AI武装自己。

走入2023英特尔on技术创新大会的现场,能看到各个合作伙伴展台上无处不在的AI,听英特尔公司首席执行官帕特·基辛格(Pat Gelsinger)的主题分享,也会发现AI贯穿一个半小时的演讲。

基辛格的演讲透露了一个非常重要的时间点,2023年12月14日,这一天英特尔会正式发布288核的第五代至强处理器。

同一天,英特尔首款集成的神经网络处理器(NPU)的酷睿Ultra处理器也会发布,这是一款采用Intel4制程的处理器,但它更重要的意义是开启AI PC的新时代。

对于英特尔on技术创新大会的主角——开发者,也需要关注AI无处不在背后的“芯经济”。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

基辛格分享,“如今,芯片形成了规模达5740亿美元的产业,并驱动着全球约8万亿美元的技术经济(tech economy)。

英特尔如何用更高算力、AI PC、更易用的开发平台,以及制程、封装和多芯粒解决方案推动AI无处不在的发展?

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

首次公布的AI芯片路线路,288核至强明年上市

路线图对于当下的英特尔非常重要,按照路线图的时间交付产品,能给客户和开发者极大的信心,也能实现AI策略。

基辛格在2023英特尔on技术创新大会上分享了未来一年英特尔大幅拓展AI技术的计划。

根据基辛格首次公布了AI芯片的路线图,2024年,采用5nm制程的Gaudi 3将推出,再下一代AI芯片代号为Falcon Shores。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

已经推出的Gaudi 2在最近一期的MLPerf AI推理性能测试结果中表现不错,有些模型的推理表现超越业界标杆英伟达A100。

Guadi2也已然得到客户的认可,小编了解到,一台大型AI超级计算机将完全采用英特尔至强处理器和4000个英特尔Gaudi2加速器打造,Stability AI是其主要客户。

Guadi3还将大幅升级,算力将是Gaudi 2的两倍,网络带宽、HBM容量是Gaudi 2的1.5倍。

Guadi在高性能AI计算领域开疆拓土,已经在云端AI推理中被广泛应用的至强也有最新进展。

第五代英特尔至强处理器将于12月14日发布,将在相同的功耗下为全球数据中心提高性能和存储速度。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

具备高能效的能效核(E-core)处理器Sierra Forest将于2024年上半年上市。与第四代至强相比,拥有288核的该处理器预计将使机架密度提升2.5倍,每瓦性能提高2.4倍。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

紧随Sierra Forest发布的是具备高性能的性能核(P-core)处理器Granite Rapids,与第四代至强相比,其AI性能预计将提高2到3倍2。

第四代至强处理器在加速阿里云通义千问大模型效果显著。阿里云首席技术官周靖人表示,英特尔技术大幅缩短了模型响应时间,平均加速可达3倍。

展望至强的下一代产品,英特尔将在2025年推出代号Clearwater Forest的下一代至强能效核处理器,采用Intel 18A制程节点。

首款集成NPU的酷睿,开启AI PC新时代

基辛格的主题分享中,数次提到了AI PC,显然这是推动AI无处不在的关键。

“AI将通过云与PC的紧密协作,进而从根本上改变、重塑和重构PC体验,释放人们的生产力和创造力。”基辛格相信,“我们正迈向AI PC的新时代。”

AI PC新时代的基石是英特尔的一个转折点产品——酷睿Ultra处理器(产品代号为Meteor Lake),注意,与下一代至强处理器易用,酷睿Ultra处理器也将在12月14日发布。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

酷睿Ultra处理器作为英特尔客户端处理器路线图的一个转折点,拥有诸多亮点,采用Intel4制程节点实现性能和功耗低大幅进步,是备英特尔首款集成的神经网络处理器(NPU)的酷睿产品,也是首个采用Foveros封装技术的客户端芯粒设计。

除此之外,酷睿Ultra处理器还集成英特尔锐炫显卡,带来了独立显卡级别的性能。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

这些性能提升,带来的是全新的端侧应用。

可以在基于酷睿Ultra处理器的个人电脑上,用生成式AI模型生成一段泰勒·斯威夫特曲风的歌曲。

也可以用AI提取音频和视频内容,在断网的情况下,由英特尔OpenVINO驱动完全在PC本地运行大语言模型,与AI聊天机器人进行实时问答,这是英特尔与Rewind AI的合作。

还能在线上视频会议不得不暂时离开时,记录和翻译会议内容,回到会议时,利用AI就能提取会议重点内容,十分高效便捷。

这些英特尔和合作伙伴深入合作展示的应用,打开了AI PC时代的想象空间。

据悉,宏碁将率先推出搭载酷睿Ultra处理器的宏碁笔记本电脑。

宏碁首席运营官高树国说:“我们与英特尔团队合作,通过OpenVINO工具包共同开发了一套宏碁AI库,以充分利用英特尔酷睿Ultra平台,还共同开发了AI库,最终将这款产品带给用户。”

这里提到的英特尔的AI推理和部署运行工具套件OpenVINO,正是开发者发挥创造力,让AI在云端和端侧都无处不在的重要工具。

开发者驱动芯经济的工具

软件是开发者的工具,也是驱动芯经济的武器。

基辛格认为,未来的人工智能必须为整个生态系统可访问性、可扩展性、可见性、透明度和信任度的提升贡献力量。

这意味着从云端到终端都需要有非常好用的软件和平台。

高树国提到的OpenVINO,有了最新的发行版OpenVINO工具套件2023.1版,这个版本包含了针对跨操作系统和各种不同云解决方案的集成而优化的预训练模型,例如生成式AI模型Llama 2。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

借助OpenVINO工具套件,ai.io开发出了评估运动员的表现的产品,Fit:Match开发出了帮助消费者找到更合身的衣服的服务。

2023英特尔on技术创新大会上,基辛格宣布英特尔开发者云平台全面上线。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

开发者云最大的优势在于可以提前一年左右,开发者就能使用英特尔尚未量产的芯片开发产品,如第五代英特尔至强可扩展处理器和英特尔数据中心GPU Max系列1100和1550,能够大幅缩短产品上市时间。

英特尔开发者云平台建立在支持多架构、多厂商硬件、多编程模型的oneAPI之上,能为开发者提供硬件选择,并摆脱了专有编程模型,以支持加速计算、代码重用和满足可移植性需求。

在使用英特尔开发者云平台时,开发者可以构建、测试并优化AI以及科学计算应用程序,还可以运行从小规模到大规模的AI训练、模型优化和推理工作负载,以实现高性能和高效率。

除了OpenVINO和英特尔开发者云,基辛格还透露了将于2024年推出的Strata项目以及边缘原生软件平台。

这是一个有前瞻性布局的软件平台,目前AI的开发和应用大都依赖云端,随着AI技术的发展和成熟,边缘和终端侧将承载更多的AI计算和应用,是实现AI无处不在的关键所在。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

Strata项目以及边缘原生软件平台,是一种横向扩展智能边缘(intelligent edge)和混合人工智能(hybrid AI)所需基础设施的方式,是使开发人员能够构建、部署、运行、管理、连接和保护分布式边缘基础设施和应用程序。

先进封装和多芯粒延续摩尔定律

无论是芯片性能的提升,还是软件开发平台体验的升级,基础都是制程、封装。

基辛格表示,英特尔的“四年五个制程节点”计划进展顺利,Intel 7已经实现大规模量产,Intel 4已经生产准备就绪,Intel 3也在按计划推进中,目标是2023年年底。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

基辛格主题演讲时展示了将在明年推出,基于Intel 20A制程节点打造的英特尔Arrow Lake处理器的首批测试芯片。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

Intel 20A将是首个应用PowerVia背面供电技术和新型全环绕栅极晶体管RibbonFET的制程节点。同样将采用这两项技术的Intel 18A制程节点也在按计划推进中,目标是2024年下半年。

制程在朝着重回领先地位发展,封装技术也在创新。

英特尔找到了推进摩尔定律的另一路径——使用新材料和新封装技术,如玻璃基板(Glass Substrates)。

玻璃基板将于2020年代后期推出,继续增加单个封装内的晶体管数量,有助于整个行业更接近2030年在单个封装内集成1万亿个晶体管的目标。

玻璃基板对于需要更大尺寸封装和更快计算速度的应用和工作负载,包括数据中心、AI、图形计算等应用将首先展现出优势。

还有一个重要的进展,和芯粒(Chiplet)密切相关的通用芯粒高速互连开放规范(UCIe),目前UCIe开放标准已经得到超过120家公司的支持。

摩尔定律的下一波浪潮将由多芯粒封装技术所推动,如果开放标准能够解决IP集成的障碍,它将很快变成现实。”基辛格认为。

英特尔无处不在的AI:云端超强288核至强,端侧AI PC跨时代

基辛格展示了英特尔和新思科技合作的测试芯片,集成了基于Intel 3制程节点的英特尔UCIe IP芯粒,和基于TSMC N3E制程节点的Synopsys UCIe IP芯粒。这些芯粒通过EMIB(嵌入式多芯片互连桥接)先进封装技术互连在一起。

可以看出,英特尔代工服务(Intel Foundry Services)、TSMC和Synopsys携手推动UCIe的发展,体现了三者支持基于开放标准的芯粒生态系统的承诺。

英特尔on技术创新大会的一系列进展让大家看到,从制造到封装,从芯片到软件,从端侧到云端,AI无处不在的时代正在到来。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:3164780!

(0)
AIIAW的头像AIIAW本站编辑
上一篇 2023-12-08 13:52
下一篇 2023-12-12 08:44

相关推荐