您的位置 首页 科技

大算力时代的“冷革命”:散热模块“背刺”Nvidia

最近几个月来,我国台湾股市最炽热的新闻事情之一就是AI及散热,包括首要散热概念股简直全数大涨,尤其是与液冷散热相关的部分上市公司出现数倍上涨。鉴于我国台湾是全球数据中心服务器最大产…

最近几个月来,我国台湾股市最炽热的新闻事情之一就是AI及散热,包括首要散热概念股简直全数大涨,尤其是与液冷散热相关的部分上市公司出现数倍上涨。鉴于我国台湾是全球数据中心服务器最大产地以及散热模组工业展开相对老到,这一事情或成工作展开风向标。

本钱商场走俏背后,是散热技术愈发成为约束芯片等电子产品功用晋级的阿喀琉斯之踵。

在工作人士看来,人工智能的竞赛追根问底是算力竞赛,而高算力芯片的一个首要瓶颈就是散热才干,未来几年AI工作中或许会出现算力被散热“卡脖子”的情况。此外,鉴于散热模组工作供给则和需求侧的敌对不断加剧,散热乃至现已成为电子信息领域展开的最大痛点,亟待业界携力攻坚。

与此一同,跟着散热需求越来越高、功耗瓦数不断增大和单价持续增加,散热模组商场以快速强大之态势,成为前景宽广的蓝海工业。而当散热大战逐步进入千瓦功耗时代,一场洗牌大变局或不可避免,原有商场格局将遭到史无前例的冲击,一些立异公司或新式技术有望走向舞台中心,其间破局之道就在于通过创造性、颠覆性的技术探寻出最优处理方案。

算力时代 热成“祸首”

毋庸置疑,跟着芯片效能越来越高以及大算力时代到来,芯片散热技术正变得越发重要。

中科创星董事总经理卢小保对集微网表明,散热现已成为电子信息领域展开的最大痛点,没有之一。“其时,海量数据正推动对芯片面积和数量需求的迸发式增加,一同芯片工艺微缩发生的功耗也在持续增加,这进一步加剧了工作供给侧和需求侧的间隔与敌对。在这一工作形势下,散热技术已变得至关重要,比如现在数据中心的要害痛点就是耗电和散热。”

在ChatGPT掀起全球AI热潮后,数据中心的耗电量还将大幅增加,因为其间触及的各种CPU、GPU、存储芯片、AI芯片、交换机芯片和光模块等功耗都十分大,需求把它们发生的热量传导出去,不然芯片就会烧坏。卢小保还指出,“有逾越55%的芯片失效都是来源于热传不出去或温度升高而引起,并且芯片在70度以上,温度每升高10度其可靠性就会降低50%。”

在许多细分领域,散热技术的重要性清楚明了。芯瑞微创始人、董事长兼CEO郭茹进一步称,在芯片的有限体积内,如何将高集成、高能量密度发生的热值和热效应精确核算并顺利排出,现已成为多源异构芯片3D封装中最具应战的问题。因为其间一旦对热的分析不到位,在影响上小则引发系统失效,大则会导致整个系统烧掉。

因为热源众多且分布不均匀,散热或热处理可谓是一个十分复杂的系统工程。正因如此,业界需求将相关热处理、散热技术快速提高,才干满足芯片等电子信息产品的持续迭代晋级。

在迅猛展开的AI、数据中心强需求影响下,散热模组技术的展开元年现已敞开,并且正从风冷技术转向散热才干更强的液冷技术方案。广州力及热处理科技(NeoGene Tech)创始人陈振贤表明,“半导体工艺一旦进入2nm,芯片的晶体管数量和算力天然会高倍数提高,但AI算力飚升的场景对超高功率芯片的解热及散热将持续带来巨大应战。毕竟真正能保证高算力IC芯片发挥其规划极致功用的将是针对这些IC推出的超高功率解热及散热技术。”

他还称,人工智能的竞赛追根问底是算力竞爭,而高算力芯片毕竟的瓶颈是“热”。以往散热工业只能算是芯片工业附庸,位置不高、竞赛剧烈。但ChatGPT的上线不仅推动了高算力芯片快速展开,必定也将摧生顶尖的散热技术公司。跟着高算力芯片的功率及功率密度急速攀升,拥有顶极散热技术的厂商必定将成为头部算力公司不可或缺的亲密合作伙伴。

千亿蓝海 且看我国

在工作展开格局方面,其时散热技术已基本构成了完好的全球工业链,并显现出勃勃生机。

卢小保分析概述称,从传统散热器视点,我国台湾地区的企业相对做得更好,整个工业现已展开到较高水平;在水冷板领域,北美企业相较更具优势;在氟化液等新式散热技术领域,日本企业因在材料方面具有优势更具竞赛力,但国内不少立异公司也已做得不错。

就国内全体商场情况而言,郭茹指出,国内散热工业起步比较晚,相应热分析的工业软件更是尚在襁褓期,在“产学研用”等方面都未构成系统化、规划化的工业效应,比如运用侧还没有引起满足注重,以及国内涵通用化和标准化上的阅历堆集和相关专家还不多。但在AI和数据中心推动下,这一短板问题也在逐步改进和加强。

不过,陈振贤则对集微网表明,全世界90%以上的散热模组厂都集中在国内,包括热导管、均温板、3D VC散熱模组等等,其间许多是我国台湾地区的上市公司,但工厂基本都分布在大陆,可以说传统的散热模组工业现已比较老到。他还提及,在高算力芯片的影响下,散热工作从风冷转向水冷的过程中会对原有格局构成一些冲击。这是因为之前大大小小的散热模组厂太多,遭到冲击再所不免。

另一方面,作为各工作刚需及痛点,散热工业也显示出宽广商场前景,并愈发受本钱认可。

鉴于散热模组与AI高算力芯片是“连体婴”,英伟达万亿市值美元效应连带高算力散热商场走俏。例如从本年2月初步,我国台湾AVC和双鸿(AURAS)的股价一路飙升,较4个月前均完结翻倍。而在这背后,作为全球最大散热模组厂商,AVC是英伟达AI服务器系统DGX H100的风冷散热系统供货商,双鸿则是Supermicro服务器散热系统的供货商。

在商场规划方面,卢小保分析称,以对散热比较刚需的服务器为例,其时全球服务器全年出货量大约2000多万台,大致可以折算成每台需求三个芯片散热器。一同,假定300瓦(W)散热模组成为工作主力以及每瓦对应一元多的本钱,那么服务器商场的容量约为180亿元。别的,手机、平板的VC散热模组大约在1美金左右,PC里的热管再加电扇约几十元,更高端的技术方案可以抵达两三百元等,以及功率器材、激光器、大功率照明等场景中的散热需求也很明晰且巨大。

总体上,现在电子信息领域相关散热商场规划逾越千亿元等级,这还不包括新能源汽车电池等散热领域。卢小保展望道,“未来,跟着散热需求越来越高,功耗瓦数不断增大和技术含量增加带来的每W单价持续增加,以及运用场景持续增多,散热技术商场规划将进一步快速增大。”

散热大战 催生革新

在高算力芯片功率不断升高一同,半导体工业界天然也掀起了芯片散热技术竞赛,并纷繁拿出其“杀手锏”。

陈振贤指出,高算力芯片的散热首要在于热规划功耗(TDP),英特尔其时在售的CPU最高TDP值是350瓦,下一年推出新CPU功率会抵达500瓦,而AMD届时推出的产品或许会抵达600瓦。相比之下,英伟达现在的GPU H100的TDP规划标准现已抵达700瓦,是业界最高功率的芯片。到了下一年,单颗高功用AI芯片的热规划功耗将会打破1000瓦。

“当单颗高算力芯片功率抵达1000瓦时,现有散热技术都将会被革新。未来,芯片大战行将转为散热大战。”陈振贤补偿道,现在业界首要几家散热大厂都在开发选用风冷方案的3D VC散热模组,加上电扇散热才干可以抵达六七百瓦,但害处是体积过分巨大。比如现在英伟达DGX H100服务器搭载了8颗H100 GPU,选用3D VC散热模组,服务器为4U尺度。因为液冷方案可以把体积做小,英伟达已方案将其晋级成液冷方案。因此,对数据中心、高端运算而言,风冷3D VC散热模组将只会是一个过渡性产品。

英伟达H100芯片

全体而言,业界现在比较遍及的散热技术包括热传导、热对流、热辐射和相变散热等。但跟着功耗持续增加,水冷板等新式散热方式愈发遭到注重,未来或将成为工作干流。进一步来看,因为散热技术或热处理是十分复杂的系统工程,以及在各个环节中都需求想办法提高散热才干和效率,未来散热模组工作竞赛也将充满机遇和变化。

在展开趋势方面,卢小保认为,散热工业通过多年展开现已存在一些头部公司,但在新的大变局时期,原有技术方案已不能满足新的需求,并且本来的既得利益者或龙头企业面对的应战最大。在这种形势下,必定会有许多新式技术锋芒毕露,或者至少本来非干流的一些技术或许会成为新的主角,乃至本来完全不存在的技术未来也或许会成为干流。

虽然工作抢先的公司会在新技术方面投入,但并不必定能坚持其一线位置。陈振贤亦表明,“AI商场竞赛才刚刚初步,后续则是路遥知马力。一旦高算力芯片的TDP初步飚升,液冷技术商场很快就要面对新的革新,而现在商场上的当红炸子鸡未必能笑到最终。”

卢小保进一步着重,“传统的散热技术是制作业,也没有特别的技术含量。但现在的散热瓶颈越来越多,亟待引进十分多新技术。未来几年,散热工作的展开是依据技术逻辑,需求技术立异型企业,而不是单单是局限于传统的制作业技术。不论国内仍是国外,都将诞生散热技术立异型的企业,以及或许会有新的巨子出现,或新技术成为工作主导。”

破局之道:立异“最优”

从芯片到器材到毕竟产品,可谓每一个层级都存在散热需求,并且其间触及不同的底层材料和技术道路等。但在“供需”敌对不断加剧下,散热技术现已约束许多工业链环节的晋级展开。

卢小保表明,从散热工作现状来看,或许不单单是国内被“卡脖子”的问题,可以说整个工作都面对技术转型晋级和换代的痛点。但现在还没有出现特别老到的技术可以去替换,距抱负的处理方案还有必定间隔。关于这一问题,需求业界在材料、散热结构、规划和本钱等各个点上极力做出自己的贡献,而其间的要害在于要依托一些立异性的技术和处理方案。

“如果只是在散热工程技术上争夺改进,在原有方案上做一些微调或优化,那么行进晋级的速度会比较慢,供给的散热才干与高功用、高算力等需求之间的间隔会越来越大。”卢小保着重,只要通过一些创造性、颠覆性的散热技术,从根本上完结规划数量级或数倍的才干提高,才或许处理其时运用传统技术所面对的芯片功用散热供需间隔不断扩大的问题。

虽然开发立异技术处理方案成为打破工业瓶颈的重要通路,但陈振贤指出,问题是立异并非那么简略,也不或许全部公司都能完结立异打破,最终商场只能承受少数几家的处理方案,因此很有或许构成赢者通吃的局面。对其它散热模组厂商而言,可以通过选择制作代工等工业链环节和细分方案等方式寻找一些机遇。

在散热技术立异展开进程中,不论是芯片仍是电子设备,产品的体积、规划本钱、可靠性等方面都是企业绕不过去的门槛,这些也是散热技术有必要平衡处理的问题。针对各种散热材料、技术以及运用场景,业界可以用不同的组合技术开发产品,然后找出现阶段的方式最优解。

此外,郭茹对集微网表明,业界要抓住散热技术展开的趋势破局,就需求从曾经的阅历式散热技术转变成以工业软件建模、核算为教导并贯穿于热规划的全体环节;重新结构、新材料两个方向做技术打破,然后完结最优化的散热规划。依据此,在各类新式技术的开发和运用过程中,才干让高效、方便、环保的散热技术成为企业产品的高度竞赛力以及“准入门槛”。

在其时工业环境下,散热技术的自主可控、自立自强也变得尤为重要。郭茹称,“在全球都在重视散热技术的布景下,咱们要怎样完结自主可控的展开,如何可以站在商场上站得住脚以及成为工业展开的重要支撑,确实是咱们整个业界企业和相关人士都应该考虑的一些问题。”

免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。
返回顶部