過去半年，生成式 AI 讓很多人為之激動(dòng)，也讓很多人憂慮。一些插畫師的工作已經(jīng)直接受到了 Midjourney、Stable Diffusion 等 AI 的沖擊，ChatGPT、Notion AI 也讓大量程序員和文字工作者感到了莫大的壓力。

　　但恐慌沒有必要。一方面面臨失業(yè)風(fēng)險(xiǎn)的不只是包括筆者在內(nèi)的內(nèi)容創(chuàng)作者，生成式 AI 也進(jìn)入了藥物研發(fā)的流程，接下來還會(huì)有更多行業(yè)將不可避免引入，反正可能失業(yè)的遠(yuǎn)不止你我，甚至不少公司也焦慮于如何免于被淘汰。

　　另一方面以太平洋兩岸的中 美兩國為核心，巨頭們都在蜂擁進(jìn)入 AI 大模型的戰(zhàn)場(chǎng)，很多媒體稱其為「百模大戰(zhàn)」。還有不少科技公司高管也與其他創(chuàng)業(yè)者一樣跳入 AI 創(chuàng)業(yè)的浪潮，比如谷歌 AR/VR 負(fù)責(zé)人 Clay Bavor、阿里副總裁賈揚(yáng)清、英特爾首席架構(gòu)師 Raja Koduri。

　　就像是一百多年前的淘金熱。

　　1849 年，美國加州發(fā)現(xiàn)金礦的消息傳開后，淘金熱開始了。數(shù)十萬人涌入這片新土地，他們有的來自美國其他地方，有的來自歐洲，還有來到美國的*代華人移民，他們剛開始把這個(gè)地方稱為「金山」，而后又改稱「舊金山」，以對(duì)比在澳大利亞墨爾本發(fā)現(xiàn)的「新金山」。

　　但在那場(chǎng)淘金熱中，絕大部分趕來的淘金者并沒有積累到過多的財(cái)富，反而是大量賣褲子、賣鏟子、賣水的商人賺得盆滿鍋滿�；�于這段歷史，后來的人習(xí)慣將產(chǎn)業(yè)鏈上游的公司比作「賣鏟人」，而不管下游公司的亂戰(zhàn)有多激烈，一些上游公司總能是贏家，比如英偉達(dá)。

　　甚至于，一百多年后生成式 AI 浪潮正在澎湃的此刻，英偉達(dá)的「鏟子」已經(jīng)賣到不夠賣了。

　　英偉達(dá)的GPU，云服務(wù)器廠商也沒貨了

　　上周，3D 游戲先驅(qū)、前 Oculus CTO 約翰·卡馬克(John Carmack)在推特上感嘆：一張英偉達(dá)的 *** GPU 在 eBay 上已經(jīng)賣到了超過 4 萬美元。

　　圖/eBay

　　由于擅長大規(guī)模并發(fā)計(jì)算，從谷歌大腦開始，GPU 被廣泛應(yīng)用于深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理等場(chǎng)景，全面替代了 CPU。根據(jù) OpenAI 的研究報(bào)告顯示，自 2012 年起，全球頭部 AI 模型訓(xùn)練算力需求每 3-4 個(gè)月翻一番，每年頭部訓(xùn)練模型所需算力增長幅度高達(dá) 10 倍。

　　僅以 ChatGPT 為例，在推出前訓(xùn)練階段消耗的總算力就達(dá)到 3640 PF-days(即 1 PetaFLOP/s 效率跑 3640 天)，成本也達(dá)到了單次 500 萬美元。

　　同時(shí)在過去幾個(gè)月，越來越多的公司加入到 AI 大模型和生成式 AI 的競(jìng)爭，僅國內(nèi)已經(jīng)發(fā)布或預(yù)告發(fā)布的公司就達(dá)到了十家之多：百度、阿里、騰訊、字節(jié)、華為、知乎、商湯、360、訊飛、昆侖萬維，此外還有美團(tuán)聯(lián)合創(chuàng)始人王慧文領(lǐng)銜的光年之外、前搜狗 CEO 王小川的百川智能等創(chuàng)業(yè)公司。

　　可想而知，在此期間 AI 訓(xùn)練和推理的算力需求持續(xù)狂飆，雪花般的訂單涌向各大云計(jì)算平臺(tái)。但云計(jì)算平臺(tái)是真的賺錢都賺不過來。據(jù) The Information報(bào)道，近期包括亞馬遜 AWS、微軟 Azure、谷歌 GCP 和甲骨文在內(nèi)的主要云計(jì)算平臺(tái)都在限制客戶對(duì)云服務(wù)器的使用，一些客戶稱租用硬件的等待時(shí)間已經(jīng)長達(dá)數(shù)月。

　　無獨(dú)有偶，21 世紀(jì)經(jīng)濟(jì)報(bào)道也表示，國內(nèi)主流公有云計(jì)算平臺(tái)也都出現(xiàn)了云端 GPU 算力供不應(yīng)求的情況，包括阿里云、騰訊云和京東云，提供英偉達(dá) A100 GPU 的云產(chǎn)品在多個(gè)區(qū)域都已售罄，或是僅少量可選。

　　圖/英偉達(dá)

　　GPU 的大規(guī)模短缺，一方面當(dāng)然離不開需求的激增。作為最近一個(gè)宣布進(jìn)入 AI 大模型戰(zhàn)爭的巨頭，亞馬遜也在*時(shí)間就購買了數(shù)萬張英偉達(dá) *** GPU。稍早幾天，媒體報(bào)道馬斯克購買了約一萬張高性能 GPU。此外，由于美國政府對(duì) A100、*** 等英偉達(dá)高算力 GPU 的禁令，國內(nèi)公司在禁令生效前一直在向云服務(wù)器廠商購買包含英偉達(dá) GPU 的云產(chǎn)品，也在加劇高端 GPU 的缺貨狀況。

　　但另一方面，包括 OpenAI 在內(nèi)，誰也沒有預(yù)想到 ChatGPT 今天的影響規(guī)模和發(fā)展速度，以及隨后引發(fā)的各方反應(yīng)。再加之去年下半年，受大環(huán)境疲軟影響，全球企業(yè)都在強(qiáng)調(diào)降本增效，主要云廠商也削減了采購力度，就連這場(chǎng)「百模大戰(zhàn)」*的贏家——英偉達(dá)也沒有準(zhǔn)備好足夠多的計(jì)算卡：

　　否則臺(tái)積電的產(chǎn)能利用率也不會(huì)降至 80%。

　　大模型或許會(huì)輸，但總有一些公司肯定贏

　　4 月 11 日，科大訊飛對(duì)外表示，公司將于 5 月 6 日舉辦大模型的產(chǎn)品發(fā)布會(huì)。

　　又一個(gè)大模型。今年以來，國內(nèi)多家廠商發(fā)布了自己的大模型，從互聯(lián)網(wǎng)巨頭百度、阿里到商湯、360 和昆侖萬維，AI 大模型的準(zhǔn)入門檻似乎已經(jīng)被中國公司拉到了新低。在產(chǎn)品推出并開放使用之前，我們很難知道這些大模型的實(shí)際表現(xiàn)。

　　但不同于 ChatGPT 這類 AI 應(yīng)用，AI 大模型的未來大概率不會(huì)走向「百花齊放」。不管是巨額的持續(xù)投入，還是考慮到生態(tài)的群聚效應(yīng)，大模型可能都會(huì)走向比大部分互聯(lián)網(wǎng)領(lǐng)域更強(qiáng)的「贏者通吃」。換句話說，這場(chǎng)「百模大戰(zhàn)」中的幸存者只會(huì)很少，絕大部分大模型只會(huì)被殘忍地淘汰。

　　然而，不管誰家的大模型能夠活下來并獲得成功，在「百模大戰(zhàn)」背后提供「軍備」的供應(yīng)商，總是贏家，尤其是現(xiàn)階段無可替代的英偉達(dá)。

　　根據(jù) New Street Research 報(bào)告顯示，全世界用于進(jìn)行深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的 GPU 中，95%都是英偉達(dá)的 GPU。其中英偉達(dá) A100 是當(dāng)前最主流的高性能 GPU，ChatGPT 的訓(xùn)練和推理，最早就是基于大量的 A100 GPU，后來更新為英偉達(dá)去年剛發(fā)布的 *** GPU。

　　包括谷歌、特斯拉和 Facebook 等*的 AI 公司也都采用了大量英偉達(dá) GPU，用于 AI 的訓(xùn)練和推理。在國內(nèi)也有大量公司依賴于英偉達(dá)的高端 GPU，包括阿里、騰訊、百度等云廠商和浪潮、聯(lián)想、新華三等服務(wù)器廠商。

　　就在上周，騰訊云正式發(fā)布面向大模型訓(xùn)練的新一代 HCC 高性能計(jì)算集群，該集群搭載了英偉達(dá) H800 GPU，后者是英偉達(dá)為應(yīng)對(duì)美國禁令為國內(nèi)開發(fā)的 *** *版。

　　而除了英偉達(dá)和云服務(wù)器廠商，得益于這場(chǎng)盛況*的「百模大戰(zhàn)」對(duì) GPU 的旺盛需求，臺(tái)積電先進(jìn)制程的產(chǎn)能利用率也能重新拉升，尤其是英偉達(dá) A100 采用的 7nm 以及 *** 采用的 4nm 制程工藝。

　　事實(shí)上，近期業(yè)內(nèi)消息就傳出，臺(tái)積電來自蘋果和聯(lián)發(fā)科等主要客戶的訂單仍在減少，英偉達(dá) A100 和 *** 的代工訂單還在持續(xù)增加。

　　不過，臺(tái)積電生產(chǎn)交付的周期大概在兩到三個(gè)月，這意味著 A100 和 *** 的缺貨在短時(shí)間內(nèi)可能還無法緩解。但最關(guān)鍵的問題還是，AI 的進(jìn)化速度之快，兩三個(gè)月的時(shí)間足以產(chǎn)生明顯的差距，一些大模型公司，甚至可能因?yàn)槿鄙俑咝阅艿?GPU而失去競(jìng)爭的資格。

　　英偉達(dá)的挑戰(zhàn)者不會(huì)消失

　　前段時(shí)間舉辦的英偉達(dá) GTC 開發(fā)者大會(huì)上，英偉達(dá) CEO 黃仁勛在總時(shí)長 1 小時(shí) 20 分鐘的主題演講中，前 1 個(gè)小時(shí)幾乎都在講 AI。偏心是肯定，但也足夠合情合理。

　　從長遠(yuǎn)來看，未來大模型的研發(fā)和部署是必然趨勢(shì)，每個(gè)大模型訓(xùn)練和部署的背后，都需要成千上萬個(gè) GPU 芯片支持。英偉達(dá)也很難完全壟斷這塊龐大的市場(chǎng)，不僅因?yàn)榧皶r(shí)供貨的能力，還在于其他 AI 公司不會(huì)樂見于英偉達(dá) GPU 一家獨(dú)大，這也給其他公司留下了空間和時(shí)間。

　　本月早些時(shí)候，谷歌研究人員在一篇論文中公布了用于訓(xùn)練 AI 模型的超級(jí)計(jì)算機(jī)的技術(shù)細(xì)節(jié)，包括如何將 4000 多個(gè)自研的第四代 TPU 芯片連接成一臺(tái)超級(jí)計(jì)算機(jī)，通過協(xié)同來訓(xùn)練模型。谷歌宣稱，該系統(tǒng)比基于英偉達(dá) GPU 的超算系統(tǒng)速度快了 1.7 倍，能效高了 1.9 倍。

　　此外，過去幾年國產(chǎn) GPU 均取得了一定的突破，盡管距離英偉達(dá)等頭部廠商還有很大的差距。但在美國禁令和缺貨的背景下，國產(chǎn) GPU 仍然有機(jī)會(huì)謀求成為國內(nèi) AI 市場(chǎng)的 Plan B，慢慢壯大之后再尋求進(jìn)一步的發(fā)展，包括挑戰(zhàn)英偉達(dá)的霸權(quán)。

　　正如投資機(jī)構(gòu) a16z 早前評(píng)價(jià) ChatGPT 時(shí)所說，「基礎(chǔ)設(shè)施服務(wù)商可能才是*贏家，獲得最多的財(cái)富。」盡管大眾的目光大都放在各家的大模型上，但在戰(zhàn)爭的「幕后」，還會(huì)有好戲持續(xù)上演。