亚洲AV无一区二区三区,精品国产成人AV在线,一区二区三区四区精品五码,精品国产免费1区

AI“大躍進(jìn)”時(shí)代,芯片還夠嗎?

2023-05-04 17:23:54 徐繼 17

pcba


在ChatGPT帶來(lái)的AI熱潮中,繼百度之后,360、華為、騰訊、阿里甚至是科大訊飛、商湯、創(chuàng )維等企業(yè)均表示將推出自己的大語(yǔ)言模型。

盡管ChatGPT及一眾主流大模型背后的芯片主力仍是GPU,但嚴峻的挑戰已經(jīng)擺到眼前:生成式AI所需計算量不斷增加,而算力增長(cháng)空間卻即將觸頂。

4月5日,OpenAI暫停ChatGPT Plus的注冊,隨后又重新恢復,其中原因是算力需求量超載。此前,ChatGPT還因訪(fǎng)問(wèn)量過(guò)大而大規模封號,并禁止使用亞洲節點(diǎn)登錄,主要還是算力不足造成的。

盡管OpenAI踩下“剎車(chē)”,但大洋彼岸的A股算力概念股依舊掀起巨浪,一時(shí)間炙手可熱。業(yè)內稱(chēng),如今AI的“iPhone時(shí)刻”已經(jīng)來(lái)臨,作為人工智能時(shí)代的底層基座,誰(shuí)掌握了算力資源,誰(shuí)就擁有了引領(lǐng)數字經(jīng)濟發(fā)展的“終極武器”。在這個(gè)歷史性的變革時(shí)刻,中國不能缺席。

 

01、AI模型開(kāi)啟算力軍備競賽

 

作為人工智能三大核心要素(數據、算法、算力)之一,算力被譽(yù)為人工智能“發(fā)動(dòng)機”。在A(yíng)I風(fēng)暴的催化下,浪潮中的AI大算力芯片公司面臨著(zhù)摩爾定律瀕臨極限之外的技術(shù)挑戰:以更低的系統成本、更少的能源消耗,支撐起龐大且持續增加的參數量所帶動(dòng)的高算力需求。

根據OpenAI測算,自2012年以來(lái)全球頭部AI模型訓練算力需求每3-4個(gè)月翻一番,每年頭部訓練模型所需算力增幅高達10倍。AI深度學(xué)習正在逼近現有芯片的算力極限,也對芯片設計廠(chǎng)商提出了更高要求。

在技術(shù)架構層面,AI芯片可分為GPU(圖形處理器)、ASIC(專(zhuān)業(yè)集成電路)、FPGA(現場(chǎng)可編程門(mén)陣列)和類(lèi)腦芯片。隨著(zhù)現象級AI產(chǎn)品ChatGPT的走紅,以大型語(yǔ)言模型為代表的前沿AI技術(shù)走向聚光燈之下,這類(lèi)模型所需的數據量、計算量龐大,成本高昂。

例如,目前采購一片英偉達頂級GPU成本為8萬(wàn)元,GPU服務(wù)器成本超過(guò)40萬(wàn)元。對于ChatGPT而言,支撐其算力基礎設施至少需要上萬(wàn)顆英偉達GPU A100,一次模型訓練成本超過(guò)1200萬(wàn)美元。

根據浙商證券研報,ChatGPT背后的算力支撐主要來(lái)自GPU或CPU+FPGA。由于具備并行計算能力,可兼容訓練和推理,GPU目前被廣泛應用。

除了GPU以外,CPU+FPGA的方案也能夠滿(mǎn)足AI龐大的算力需求。FPGA全稱(chēng)為現場(chǎng)可編程門(mén)陣列,是一種可以重構電路的芯片。作為可編程芯片,FPGA芯片可以針對特定功能進(jìn)行擴展。通過(guò)與CPU結合,FPGA能夠實(shí)現深度學(xué)習功能,兩者共同應用于深度學(xué)習模型。

近期,英特爾透露,計劃將在今年推出15款新FPGA,這將刷新英特爾該品類(lèi)的年度推新紀錄。其實(shí)在3月初,英特爾就發(fā)布了Agilex7 FPGA F-Tile,并配備FPGA收發(fā)器,其每個(gè)通道的帶寬都較上一代提升了一倍,在給產(chǎn)品提供更高的數據流量的同時(shí)也降低了功耗。

目前,FPGA領(lǐng)域的本土化程度較低。中國市場(chǎng)主要由賽靈思Xilinx(現已被AMD收購)和英特爾兩大廠(chǎng)商主導,占據了超過(guò)70%的市場(chǎng)份額。國內廠(chǎng)商安路科技、紫光國微、復旦微電等總份額約為15%。

寒武紀作為科創(chuàng )板AI芯片第一股,是全球少數全面掌握AI芯片技術(shù)的企業(yè)之一。其產(chǎn)品矩陣涉及云端產(chǎn)品、邊緣產(chǎn)品和IP授權及軟件,前兩者對標英偉達、AMD,IP授權則對應英國的ARM。云端芯片就是目前大語(yǔ)言模型最為需要的動(dòng)能來(lái)源,在該領(lǐng)域,英偉達A100、H100系列占據金字塔頂尖位置。

作為追趕者,寒武紀推出了思元系列,思元290、思元370等已經(jīng)進(jìn)入浪潮、聯(lián)想、阿里云等多家頭部客戶(hù)。去年3月,寒武紀正式發(fā)布新款訓練加速卡“MLU370-X8”,其搭載了思元370,主要面向AI訓練任務(wù)。

 

02、差距懸殊 彎道難以超車(chē)

 

作為當前唯一可以實(shí)際處理ChatGPT的GPU供應商,英偉達是當之無(wú)愧的“AI算力王者”。

6年前,黃仁勛親自向OpenAI交付了第一臺搭載A100芯片的超級計算機,幫助后者創(chuàng )造ChatGPT,并成為AI時(shí)代的引領(lǐng)者。

在2023年3月22日召開(kāi)的GTC大會(huì )上,黃仁勛又展示了速度比現有技術(shù)快10倍的英偉達HGX A100,可將大語(yǔ)言模型的處理成本降低一個(gè)數量級。

目前,英偉達市值飆升到6678億美元(約合4.6萬(wàn)億人民幣),幾乎是傳統芯片巨頭英特爾市值的五倍,成為全球最大市值的芯片企業(yè)。英偉達在PC的GPU市場(chǎng)上占據了近70%的份額,在獨顯市場(chǎng)的份額更是高達70%-80%。

據TrendForce分析,運行1800億參數的GPT-3.5大型模型需要2萬(wàn)顆GPU芯片,大模型商業(yè)化的GPT則需要超過(guò)3萬(wàn)顆。

然而,根據相關(guān)報道,國內目前擁有超1萬(wàn)顆GPU的企業(yè)不超過(guò)5家,擁有1萬(wàn)顆英偉達A100芯片的可能最多只有一家,絕大部分中國公司都只能采購英偉達的中低端性能產(chǎn)品。

即使國內頭部公司,從算力上跟美國的英偉達等公司相比,差距也非常明顯。

就GPU細分賽道而言,國內自研GPU的領(lǐng)軍企業(yè)主要包括景嘉微、壁仞科技、芯動(dòng)科技等。其中,其中,景嘉微是成立最早的一家,自2006年開(kāi)始研發(fā)擁有自主知識產(chǎn)權的GPU產(chǎn)品,現在已經(jīng)推出了一系列產(chǎn)品線(xiàn),且均采用國內成熟制程工藝和自主架構。

景嘉微的主打產(chǎn)品是JH920獨立顯卡。根據行業(yè)專(zhuān)家的評測,從性能參數上來(lái)看,JH920的性能與英偉達2016年發(fā)布的GTX 1050相當,雖然兩者僅相差6年,但由于GTX 1050是英偉達10系列顯卡中的入門(mén)級產(chǎn)品,無(wú)法代表當時(shí)的整體水平。

要想找到與GTX 1050性能相當的英偉達產(chǎn)品,需要回溯到2010年推出的GTX 580,這意味著(zhù)景嘉微JH920基本上達到了英偉達12年前的水平。

所以整體而言國產(chǎn)GPU的現狀并不算樂(lè )觀(guān),雖然在特殊領(lǐng)域能夠自給自足,但在中高端領(lǐng)域依舊捉襟見(jiàn)肘。

與此同時(shí),中美地緣關(guān)系的博弈氣息日漸濃厚,這給高度依賴(lài)先進(jìn)制程的AI芯片創(chuàng )業(yè)公司提出了技術(shù)之外的新難題。

去年,在美國總統拜登正式簽署芯片法案(《CHIPS and Science Act》)一個(gè)月之后,美國政府對華實(shí)施了高端GPU芯片的出口禁令。同時(shí),國內GPU設計商壁仞科技的GPU芯片BR100在臺積電的試產(chǎn)也被迫叫停并主動(dòng)修改設計,以滿(mǎn)足出口禁令的要求。

A100和H100被禁止后,中國企業(yè)只能奢望其替代品A800和H800。2022年11月7日,英偉達向中國的供應商提供其重新封裝的A800芯片。據稱(chēng),國內幾家頭部互聯(lián)網(wǎng)企業(yè)都向英偉達下了1.5萬(wàn)左右的A800和H800訂單。但即使是最佳替代品A800,也只是A100的“閹割版”,其傳輸速度和運算性能較A100下降了50%。

被美國等國聯(lián)合封堵的我們,或許在較長(cháng)時(shí)間內都無(wú)法制造出比肩英偉達等國際頂級公司的高水準AI芯片。面對一個(gè)新的時(shí)代,我們又該如何破局?

 

03、換道行駛,續命摩爾定律

 

一直以來(lái),頭部廠(chǎng)商通過(guò)不斷提升制程工藝和擴大芯片面積推出算力更高的芯片產(chǎn)品。雖然GPU、CPU+FPGA等芯片已經(jīng)對現有模型構成底層算力支撐,在應對生成式AI及大模型對算力基礎設施提出的新要求,都多少顯得有些捉襟見(jiàn)肘。

伴隨著(zhù)摩爾定律逼近物理極限,制程升級和芯片面積擴大帶來(lái)的收益邊際遞減,架構創(chuàng )新或成為提升芯片算力另辟蹊徑的選擇。

Chiplet及先進(jìn)封裝方案能夠彌補先進(jìn)制程落后的劣勢,通過(guò)將來(lái)自不同生產(chǎn)廠(chǎng)商、不同制程工藝的芯片組件“混搭”,降低實(shí)現目標性能所需的成本。研究數據顯示,當5nm芯片的面積達到200㎜2以上,采用5Chiplet方案成本將低于單顆SoC,并將大幅降低因面積增加帶來(lái)的良率損失。

除了成本和良率端的優(yōu)勢,Chiplet技術(shù)帶來(lái)高速的Die to Die互連,使多顆計算芯粒得以集成在一顆芯片中,實(shí)現算力的大幅提升。

臺積電是Chiplet工藝的領(lǐng)軍者,目前其技術(shù)平臺下有CoWoS、InFO、SoIC三種封裝工藝。其中,早在2016年英偉達Tesla P100 AI數據中心GPU就已經(jīng)應用CoWoS工藝,AMD的最新GPU、CPU也廣泛采用了該工藝。此外,三星、Intel等龍頭廠(chǎng)商亦推出了各自用于Chiplet的封裝技術(shù),如三星I-Cube(2.5D封裝),X-Cube(3D封裝),英特爾EMIB(2.5D封裝),英特爾Foveros(3D封裝)。

不止在國際,近幾年Chiplet在中國大陸也非?;鸨?,特別是美國開(kāi)始打壓中國半導體業(yè)以來(lái)。Chiplet既能減少先進(jìn)制程用量,同時(shí)又能帶來(lái)先進(jìn)制程的好處,這為國內芯片企業(yè)提供“換道行駛”的機會(huì )。

目前國內封測巨頭相關(guān)技術(shù)積累已初顯成效。例如長(cháng)電科技的XDFOI Chiplet高密度多維異構集成系列工藝已進(jìn)入穩定量產(chǎn)階段;通富微電與AMD密切合作,已大規模生產(chǎn)7nm Chiplet產(chǎn)品;華天科技的Chiplet系列工藝也實(shí)現量產(chǎn)。

Chiplet設計主要用于大型CPU和GPU等處理器。雖然當下國產(chǎn)CPU特別是大芯片與國際大廠(chǎng)存在明顯差距,但華為海思、寒武紀科技等少數企業(yè)正重點(diǎn)研發(fā)并采用7nm及更先進(jìn)制程的服務(wù)器芯片和AI芯片。

在GPU方面,英偉達等國際GPU龍頭企業(yè)已經(jīng)構建了牢固的專(zhuān)利墻。無(wú)論是老牌企業(yè)如景嘉微和海光,還是新興創(chuàng )業(yè)公司,如芯動(dòng)科技、壁仞科技、摩爾線(xiàn)程、沐曦集成電路、天數智芯等,大多還處于發(fā)展初期,且所設計的芯片規模有限,采用Chiplet設計的還不多。

不過(guò),一些GPU企業(yè),特別是創(chuàng )業(yè)公司,雖然短期內難以在大芯片領(lǐng)域形成規模,但長(cháng)期發(fā)展前景仍值得期待。例如,近幾年天數智芯在云端GPGPU方面異軍突起,其推出的7nm制程云端訓練和推理GPGPU,能夠為云端AI訓練和HPC通用計算提供高算力和高能效比。類(lèi)似這樣的芯片成為中國本土Chiplet技術(shù)發(fā)展的希望。

近期,中國成立了自己的Chiplet聯(lián)盟,由多家芯片設計、IP、以及封裝、測試和組裝服務(wù)公司組成,并推出相應的互連接口標準ACC 1.0。這一聯(lián)盟的成立,頗有與由AMD、Arm、英特爾、臺積電等主導的UCIe聯(lián)盟分庭抗禮的意味,也反映出中國相關(guān)企事業(yè)單位要從底層做起,發(fā)展本土Chiplet的愿望。

通過(guò)標準的設立,可以將自己生產(chǎn)的芯片變成Chiplet企業(yè)使用的“標準產(chǎn)品”,被不斷地集成到各種終端應用中,從而為芯片行業(yè)開(kāi)辟出一片新天地。


04、結尾

 

算力的每一次提升,都掀起技術(shù)與產(chǎn)業(yè)變革的浪潮:CPU帶領(lǐng)人類(lèi)進(jìn)入PC時(shí)代,移動(dòng)芯片掀起移動(dòng)互聯(lián)網(wǎng)浪潮,而AI芯片打破了AI產(chǎn)業(yè)此前長(cháng)達數十年的算力瓶頸。如今,“人工智能的iPhone時(shí)刻”已經(jīng)來(lái)臨,走向下一個(gè)時(shí)代的路,或許早已擺在我們眼前。

正如阿里巴巴集團董事會(huì )主席張勇所言,面向AI時(shí)代,所有產(chǎn)品都值得用大模型重新升級。過(guò)去一年消費電子的低迷使得一些GPU公司的產(chǎn)品找不到應用場(chǎng)景。但隨著(zhù)ChatGPT出現,相關(guān)芯片的應用場(chǎng)景開(kāi)始增加,并發(fā)展成AI基礎研究和產(chǎn)業(yè)化落地的一大趨勢。

AI往前發(fā)展,超高算力需求毋庸置疑AI大算力芯片技術(shù)提供了一種可行的解決方案。未來(lái)幾年,中美兩國將成為大模型的主要誕生地,并不計成本地帶動(dòng)對算力芯片的需求。不管是彎道超車(chē)還是換道行駛,在這場(chǎng)AI的征途中,中國算力企業(yè)萬(wàn)象競逐的畫(huà)卷才剛剛展開(kāi)。


微信公眾號