正在12月5日举办的2023天下5G大会先导论坛上,中国工程院院士、清华大学企图机科学与身手系教育郑纬民,盘绕中国算力“破局”近况分享了我方的主张。
他先容半岛BOB,如今共有三种增援大模子陶冶的算力体例:其一是基于英伟达公司的GPU体例,也是许多人应用的;其二是基于国产AI芯片的体例;另一个是基于超等企图机的体例半岛BOB。
他开展了解道硬件,英伟达的GPU体例长处是硬件本能好半岛BOB,且编程生态好,于是许多人爱好用这个别例做大模子半岛BOB。但惋惜的是,美国当局不许诺它的芯片再卖到中国,现正在能买到的(芯片)从12月初步涨了一倍,要害是一卡难求,买不到。
正在科技造裁的情状下,中国加疾了自研芯片的步骤。他表现,国内现正在差不多有30家公司坐蓐好像的芯片,但要害题目正在于国内卡的生态体例不太好,国产的卡用户不爱好用。
郑纬民注释道,所谓生态体例好与欠好,要害要看软件是否易于移植半岛BOB郑纬民院士:国产芯片合键题目正在于生态体系不敷好生态做好了硬件稍弱也行,以及可挪用的库是否统统。
“比方原先一个软件是基于表洋体例写的,现正在思把它移植到国内体例来,假如移植起来对比顺遂那注释体例还不错,不然这个生态体例即是欠好。别的,假如思写一个软件,写起来对比顺遂,不要让我一写没这个库,一写没谁人挪用方式,那这个别例即是好的。”
讲及若何能把国产体例芯片升级到更好,郑纬民列出了极少要害因素,网罗要做好编程框架、抬高卡的并行加快才智、还要做好通讯库半岛BOB、算子库、编译器、调理器、内存分拨体例、容错体例以及存储体例。
他表现,并不是说国内的30家公司都没有做这些,而是说成效做的还不足齐,本能还不足好。他夸大硬件,“肯定要下时期把这些做好,才具真正叫做好了生态。”
“咱们不条件国产芯片一会儿要比别人的更好,假如国产AI芯片硬件本能能够到达表洋芯片的60%,并把以上罗列到的要害点做好,将会让更多的用户惬意。由于大大都用户不会由于60%的本能觉得不惬意,不惬意的是生态体例做的还不足好。假如生态做好了,硬件稍衰弱一点也行半岛BOB。生态欠好,硬件很行也没有效。”他填补道,“当然硬件也很厉重,硬件都没做出来的话,生态就更讲不上了。”
看待超等企图机体例而言,郑纬民以为这也是能够用来陶冶大模子的一种形式。他表现,国内现正在有14个国度一级超算核心,有些地方呆板用的还不是很满,齐备能够以租用的形式举行陶冶大模子,用度本钱根基是英伟达的六分之一。
结尾,郑纬民指出,除了要发达算力体破例,巩固次序员对现有多品种软硬件体例的认知才智也绝顶厉重,云云才具做好职业分拨,将现有摆设本能表现出最大效用。
他表现,过去一台呆板,根基即是“CPU+内存+硬盘”的形式,但现正在除了CPU以表,尚有GPU、TPU等各式各样的形式。硬盘也是,有许多新的存储器件出来。软件也不相似了,不管是人为智能运用软件,依旧基于图数据的图企图运用,原来都正在爆发改变。
“10年前,做气候预告体例的人懂‘FORTRAN措辞’,懂数据构造,清晰若何把软件写好就行。但现正在须要更深度地判辨现有的这些更纷乱的软硬件体例,领略如何将软硬件更好地做立室,否则编出来的软件要么转不起来,要么转起来了但本能会很差。”