一個(gè)插件讓顯卡速度翻3倍？解密英偉達(dá)AIGC時(shí)代的最新王牌。作者 | 云鵬編輯 | 漠影最近的AIGC圈著實(shí)迎來(lái)了一波新品發(fā)布小高潮！先是谷歌Gemini突然深夜炸場(chǎng)，硬剛OpenAI的GPT-4，然后是斯坦?？茖W(xué)家李飛飛團(tuán)隊(duì)亮出AI視頻生成模型W.A.L.T，拳打Pika腳踢Gen-2，最近微軟又發(fā)布了手機(jī)端側(cè)都能跑的小語(yǔ)言模型Phi-2，平均性能甚至超過(guò)Llama 2。
▲W.A.L.T文生視頻案例片段
AI大模型火爆之下，各路科技巨頭幾乎都在“All in AI”，而AI軍備競(jìng)賽已經(jīng)很快從云端卷到了端側(cè)，從智能手機(jī)到PC，我們身邊各類熟悉的智能硬件都已被卷入這場(chǎng)大模型浪潮。各類智能助手、各類AIGC相關(guān)應(yīng)用如雨后春筍般涌現(xiàn)，各類“GPTs”已經(jīng)逐漸進(jìn)入大眾視野。熱況之下，AI大模型在端側(cè)的落地離不開(kāi)底層硬件的支持，英偉達(dá)、英特爾、AMD等大廠也不斷亮出各種應(yīng)對(duì)AI新時(shí)代的軟硬件新品，加速著AI PC時(shí)代的到來(lái)。PC作為算力最強(qiáng)的消費(fèi)級(jí)產(chǎn)品，成為AI大模型在端側(cè)應(yīng)用的最理想平臺(tái)之一。毫無(wú)疑問(wèn)，AI將成為PC產(chǎn)業(yè)發(fā)展的一個(gè)關(guān)鍵拐點(diǎn)，AI也會(huì)徹底改變玩家、創(chuàng)作者、上班族、學(xué)生乃至每一個(gè)普通PC用戶的體驗(yàn)。
▲圖片由Bing創(chuàng)作，來(lái)源：PCWorld
目前全球搭載英偉達(dá)RTX GPU的Windows PC和工作站已經(jīng)超過(guò)了1億臺(tái)，英偉達(dá)作為AI大模型時(shí)代最核心的全棧玩家，正通過(guò)全棧生態(tài)的賦能讓這些“RTX PC”的AI性能有翻倍式暴漲。在我們熟悉的文生圖應(yīng)用Stable Diffusion中，基于英偉達(dá)的RTX專用加速插件，一張RTX 4090僅用49秒就可以生成100張高質(zhì)量圖像，速度翻了3倍，而這樣的升級(jí)甚至不需要改變其他硬件配置。英偉達(dá)RTX相關(guān)技術(shù)在AI領(lǐng)域的應(yīng)用，讓全球無(wú)數(shù)開(kāi)發(fā)者可以更輕松、高效地創(chuàng)建AI應(yīng)用，人們使用PC的方式，也在潛移默化中改變著。英偉達(dá)如何為AI PC時(shí)代的底層筑基？英偉達(dá)在AIGC時(shí)代藏得最深的王牌又是什么？今天，從硬件、軟件到生態(tài)，英偉達(dá)似乎已經(jīng)和AI畫(huà)上了等號(hào)。
01.從通用計(jì)算到加速計(jì)算，從數(shù)據(jù)中心到PC，英偉達(dá)CUDA生態(tài)占C位
今天的計(jì)算產(chǎn)業(yè)究竟醞釀著哪些關(guān)鍵變量，英偉達(dá)又在其中扮演著怎樣的角色？正如英偉達(dá)CEO黃仁勛在財(cái)報(bào)電話會(huì)中提到的，放眼如今的全球計(jì)算產(chǎn)業(yè)，有兩個(gè)重要的轉(zhuǎn)變值得注意：第一，用一種通用處理器處理一切工作的傳統(tǒng)通用計(jì)算已經(jīng)不再具有成本和效率的優(yōu)勢(shì)，與之相對(duì)的“加速計(jì)算”將成為主流。顧名思義，數(shù)據(jù)中心需要盡可能地去“加速”所有工作負(fù)載，這樣才能有更高的性能、能源效率和成本效益。第二，在加速計(jì)算的大趨勢(shì)下，新的軟件開(kāi)發(fā)方式成為了可能，這也推動(dòng)了軟件平臺(tái)的轉(zhuǎn)變，讓以前無(wú)法實(shí)現(xiàn)的應(yīng)用程序成為可能。或許正如黃仁勛所說(shuō)，AI并不是一種奢侈品，AI是必需品，AI的投資是一種戰(zhàn)略性的迫切需求，可以幫企業(yè)提高未來(lái)的競(jìng)爭(zhēng)力。在這場(chǎng)“不能輸”的AI之戰(zhàn)中，英偉達(dá)的GPU儼然已經(jīng)走到了舞臺(tái)中央，已經(jīng)走到了全球“AI新工業(yè)”的中央。在黃仁勛看來(lái)，如今的數(shù)據(jù)中心就像一座“AI工廠”，數(shù)據(jù)是原材料，被生產(chǎn)、開(kāi)發(fā)、精煉，轉(zhuǎn)化為世界上最有價(jià)值的東西——智能。顯然，這對(duì)于所有科技巨頭來(lái)說(shuō)，都是一場(chǎng)技術(shù)乃至商業(yè)范式的革新。
在這樣的大背景下，各行各業(yè)都在經(jīng)歷從通用計(jì)算到加速計(jì)算和生成式AI的平臺(tái)化轉(zhuǎn)型，而英偉達(dá)最新一季財(cái)報(bào)中數(shù)據(jù)中心業(yè)務(wù)接近280%的強(qiáng)勁同比增長(zhǎng)也恰恰證明了這一點(diǎn)。AI大模型的初創(chuàng)公司、消費(fèi)互聯(lián)網(wǎng)公司和全球云巨頭們都在積極“備戰(zhàn)”，各大云服務(wù)商不斷加大對(duì)AI云的投入，企業(yè)級(jí)軟件公司也陸續(xù)為自己的平臺(tái)增加AI相關(guān)應(yīng)用和功能，不少?gòu)S商都推出了定制化AI產(chǎn)品，推動(dòng)著各大行業(yè)的智能化、自動(dòng)化發(fā)展。熱潮之下，英偉達(dá)的GPU、CPU、網(wǎng)絡(luò)、AI foundry、AI企業(yè)軟件解決方案等產(chǎn)品和服務(wù)都成為加速這一轉(zhuǎn)型的核心“引擎”。
上述各行各業(yè)的智能化、自動(dòng)化與計(jì)算產(chǎn)業(yè)密不可分，在計(jì)算產(chǎn)業(yè)中，除了數(shù)據(jù)中心在經(jīng)歷“加速計(jì)算”的轉(zhuǎn)型，PC產(chǎn)業(yè)作為計(jì)算的關(guān)鍵一環(huán)，也同樣經(jīng)歷著類似的轉(zhuǎn)變。當(dāng)下，各類生成式AI產(chǎn)品正迅速成為高性能PC的支柱型應(yīng)用，在各行各業(yè)從業(yè)者的日常工作中發(fā)揮著重要作用。而英偉達(dá)的RTX GPU，無(wú)疑已成為AI PC時(shí)代最核心的底層技術(shù)支撐。為什么英偉達(dá)的GPU能夠在AI時(shí)代走到如此關(guān)鍵的位置，并且?guī)缀跏恰安豢商娲钡模?/span>實(shí)際上，提到英偉達(dá)的GPU，就不得不提到CUDA。在黃仁勛看來(lái)，英偉達(dá)是通過(guò)發(fā)明CUDA這種新編程工具，以及GPU這種處理器來(lái)推動(dòng)加速計(jì)算的。CPU無(wú)法高效執(zhí)行的工作，GPU可以進(jìn)行有效的加速，并且在性能、能源成本上有著顯著優(yōu)勢(shì)?；贑UDA的GPU經(jīng)歷近25年的發(fā)展，如今已經(jīng)與開(kāi)發(fā)者、系統(tǒng)制造商、云服務(wù)提供商、技術(shù)制造商和用戶深度綁定，CUDA生態(tài)系統(tǒng)已經(jīng)為各行各業(yè)所信任，這也是英偉達(dá)有著不可替代性的根本性因素之一。
在深度學(xué)習(xí)、AI大模型的發(fā)展中，英偉達(dá)所提出的加速計(jì)算發(fā)揮著關(guān)鍵作用，生成式AI的崛起與其密不可分，這也被很多人稱之為“第四次工業(yè)革命”。在黃仁勛看來(lái)，智能是最有價(jià)值的，倘若智能可以批量化、自動(dòng)化的生產(chǎn)，其帶來(lái)的價(jià)值是不可估量的。如今英偉達(dá)所做的，正是推動(dòng)這一未來(lái)走入現(xiàn)實(shí)。
02.兼容性架構(gòu)鋪路，TensorRT-LLM讓推理性能翻倍，AI繪圖進(jìn)入“秒速時(shí)代”
正如前文所說(shuō)，英偉達(dá)在技術(shù)生態(tài)方面的布局，尤其是25年來(lái)在CUDA領(lǐng)域的深耕，是其能夠在AI時(shí)代占據(jù)C位的關(guān)鍵。而這樣的生態(tài)布局如今在PC產(chǎn)業(yè)中釋放的能量開(kāi)始愈發(fā)凸顯。今年四季度，英偉達(dá)發(fā)布了一個(gè)名為T(mén)ensorRT-LLM的引擎優(yōu)化編譯器，其目的就是進(jìn)一步提升大語(yǔ)言模型的AI推理性能。
AI大模型在云端的訓(xùn)練需要消耗大量算力，而AI大模型真正走入每個(gè)人的生活，更需要解決推理這“最后一公里”的難題，因?yàn)閷?shí)際場(chǎng)景中的推理任務(wù)往往是極為復(fù)雜的。根據(jù)官方數(shù)據(jù)，在TensorRT-LLM的加持下，對(duì)于Lambda2這樣的大語(yǔ)言模型，H200的推理能力可以提高到H100的2倍，成本也有著稱成倍降低，與H100相比，H200在GPT-3模型上的推理性能有著18倍的提升，得益于此，英偉達(dá)的客戶可以使用更大的模型，但延遲卻不會(huì)增加。
▲TensorRT-LLM v0.6.0可以帶來(lái)最高5倍推理性能提升
實(shí)際上，TensorRT-LLM有著這樣的表現(xiàn)，與CUDA的特性是密不可分的。英偉達(dá)CFO在財(cái)報(bào)電話會(huì)中特別提到，他們之所以能夠創(chuàng)建TensorRT-LLM，正是因?yàn)镃UDA是可編程的，如果CUDA和其對(duì)應(yīng)的GPU不是可編程的，以如今這樣快的速度迭代改進(jìn)軟件棧是很難實(shí)現(xiàn)的。經(jīng)過(guò)20多年的深耕，每一個(gè)英偉達(dá)GPU的背后，都是不斷迭代更新的軟件棧在做堅(jiān)實(shí)支撐，而CUDA的靈活性和兼容性無(wú)一不是這一生態(tài)的突出優(yōu)勢(shì)。英偉達(dá)有著規(guī)模龐大的生態(tài)系統(tǒng)軟件開(kāi)發(fā)人員、系統(tǒng)制造商生態(tài)系統(tǒng)和分銷合作網(wǎng)絡(luò)，而將這些真正連結(jié)在一起形成一個(gè)高效生態(tài)系統(tǒng)的，正是英偉達(dá)CUDA軟件生態(tài)和架構(gòu)層面的兼容性。
英偉達(dá)CFO稱，一切基于兼容性構(gòu)筑是他們幾十年前就做出的一個(gè)偉大決定，保證架構(gòu)的兼容性也一直是他們的首要任務(wù)。每當(dāng)英偉達(dá)引入一個(gè)新的特性、新功能、新技術(shù)時(shí)，生態(tài)中的開(kāi)發(fā)者們會(huì)立即從各個(gè)方面獲益，享受到這些紅利。目前英偉達(dá)在全球有28000名員工，他們服務(wù)于全球各地、各個(gè)行業(yè)、不同的市場(chǎng)和公司，但依然可以保持高效協(xié)作，這與良好的兼容性密不可分。而這樣的兼容性進(jìn)一步帶來(lái)的就是英偉達(dá)平臺(tái)的穩(wěn)定性，這也是全球各類新應(yīng)用幾乎都選擇率先在英偉達(dá)平臺(tái)上進(jìn)行開(kāi)發(fā)并進(jìn)行優(yōu)化的關(guān)鍵原因之一。云計(jì)算領(lǐng)域的數(shù)據(jù)中心中有著數(shù)百萬(wàn)英偉達(dá)GPU，而全球PC和工作站用戶手中又有著1億多塊英偉達(dá)GPU，他們?cè)诩軜?gòu)上都是兼容的，因此所有基于英偉達(dá)平臺(tái)實(shí)現(xiàn)的技術(shù)創(chuàng)新，都可以快速應(yīng)用到這些數(shù)以百萬(wàn)計(jì)、數(shù)以億計(jì)的產(chǎn)品中。這也可以說(shuō)是英偉達(dá)人無(wú)我有的核心優(yōu)勢(shì)之一。最后，在加速計(jì)算方面，英偉達(dá)GPU可以為Spark、Python甚至是目前最成功的數(shù)據(jù)科學(xué)框架Pandas進(jìn)行加速，據(jù)了解，Pandas現(xiàn)在由英偉達(dá)的CUDA加速，并且無(wú)需代碼行就能用起來(lái)。在企業(yè)和專業(yè)領(lǐng)域之外，對(duì)于普通用戶來(lái)說(shuō)，英偉達(dá)GPU帶來(lái)的加速能力也是感知極強(qiáng)的。就在今年四季度，英偉達(dá)在發(fā)布TensorRT-LLM的同時(shí)也帶來(lái)了TensorRT-LLM for Windows，與此同時(shí)，微軟也在Ignite大會(huì)上發(fā)布了OpenAI Chat API的 TensorRT-LLM封裝接口、RTX驅(qū)動(dòng)的性能改進(jìn)DirectML for Llama 2等新工具和資源。
可以說(shuō)，Windows PC的終端用戶們也可以享受到TensorRT-LLM帶來(lái)的加速紅利了。根據(jù)官方數(shù)據(jù)，TensorRT-LLM?for Windows可以將終端設(shè)備上的大語(yǔ)言模型推理性能最高提升4倍左右，而目前英偉達(dá)RTX GPU的裝機(jī)量已經(jīng)超過(guò)了1億臺(tái)，這一新特性也已經(jīng)快速全面普及開(kāi)來(lái)，這對(duì)于應(yīng)用程序開(kāi)發(fā)者們來(lái)說(shuō)無(wú)疑是一大喜訊。TensorRT-LLM for Windows的推出無(wú)疑意味著AI大模型可以更好的應(yīng)用于端側(cè)RTX PC中，滿足用戶各類AIGC需求，提升用戶的AI PC體驗(yàn)。數(shù)以百計(jì)的AI相關(guān)開(kāi)發(fā)者項(xiàng)目和應(yīng)用都可以直接在搭載RTX GPU的PC上本地運(yùn)行，同時(shí)，用戶的私人和專有數(shù)據(jù)也可以在PC本地進(jìn)行保存。值得一提的時(shí)，TensorRT-LLM也在持續(xù)更新，支持更多新的熱門(mén)大模型，比如Mistral 7B 和 Nemotron-3 8B，這些版本的TensorRT-LLM可以直接運(yùn)行在8GB 及以上顯存的GeForce RTX 30系列和40系列GPU上。
▲TensorRT擴(kuò)展的配置需求，由Bilibili UP主Nenly同學(xué)制作
根據(jù)Bilibili平臺(tái)上一位專業(yè)設(shè)計(jì)師UP主Nenly同學(xué)的測(cè)試，在Tensor RT的加持下，Stable Diffusion這一熱門(mén)文生圖應(yīng)用基于RTX GPU生成的模型推理速度直接提升了2倍甚至3倍以上，AI繪畫(huà)進(jìn)入了“秒速時(shí)代”。
▲標(biāo)準(zhǔn)StableDiffusion與TensorRT引擎優(yōu)化后相比，每分鐘繪制圖片數(shù)的差異，由Bilibili UP主Nenly同學(xué)制作
根據(jù)Nenly同學(xué)發(fā)布視頻，在GeForce RTX 4090上，Stable Diffusion的運(yùn)行速度是使用蘋(píng)果M2 Ultra的Mac頂配版的7倍。甚至4060Ti在TensorRT擴(kuò)展的支持下，生成圖片的速度已經(jīng)超過(guò)了加速前的4090。對(duì)于一些需要大量出具草圖的創(chuàng)意工作者們來(lái)說(shuō)，這樣的加速能力所帶來(lái)的收益是極為明顯的。面對(duì)數(shù)千張圖片吞吐量的工作，節(jié)省下來(lái)的時(shí)間可能是以天計(jì)算的。比如被譽(yù)為“插畫(huà)領(lǐng)域的劉慈欣”、“國(guó)內(nèi)科幻繪畫(huà)第一人”，也是首位獲得全球雨果獎(jiǎng)的華人藝術(shù)家趙恩哲，在工作中就使用了全流程經(jīng)GeForce RTX GPU加速的Stable Diffusion進(jìn)行創(chuàng)作，AI輔助創(chuàng)作工具可以省掉細(xì)化時(shí)間，同時(shí)給他很多意向不到的創(chuàng)作設(shè)計(jì)可能。
▲《虛空之舟》——使用SD創(chuàng)作，全流程經(jīng)GeForce RTX GPU加速
趙恩哲特別說(shuō)道，其實(shí)每位創(chuàng)作者都渴望將腦海中的世界完美呈現(xiàn)，但由于技術(shù)門(mén)檻和工業(yè)化流程等方面的限制，他們過(guò)去只能在概念設(shè)計(jì)與最終呈現(xiàn)之間做出妥協(xié)。但如今，借助英偉達(dá)GeForce RTX顯卡的強(qiáng)大算力以及SD、RUNWAY等AI創(chuàng)意工具，概念設(shè)計(jì)師可以突破限制，在短短幾秒內(nèi)嘗試所有想法，相信今后有了更強(qiáng)大的算力加持，每位藝術(shù)家都可以實(shí)現(xiàn)無(wú)限創(chuàng)造！
▲趙恩哲
當(dāng)然，基于RTX GPU這些能力，相關(guān)公司也可以基于自己的模型構(gòu)建具有最有效果的加速引擎，讓算力的效益最大化，從而實(shí)現(xiàn)顯著的降本增效。可以說(shuō)，從企業(yè)到個(gè)人，從數(shù)據(jù)中心到PC，基于數(shù)十年建立的堅(jiān)實(shí)生態(tài)，英偉達(dá)正通過(guò)技術(shù)創(chuàng)新拉近每一個(gè)人與AI大模型的距離。
03.DLSS用AI改寫(xiě)游戲產(chǎn)業(yè)，英偉達(dá)為開(kāi)發(fā)者武裝到牙齒，RTX就是AI
今天，我們看到了Tensor RT對(duì)于PC端側(cè)運(yùn)行AI大模型能力帶來(lái)的顛覆式升級(jí)，而在此之外，英偉達(dá)RTX GPU已經(jīng)深耕AI領(lǐng)域多年，如今提到AI，幾乎就等于提到英偉達(dá)。用英偉達(dá)CFO的話來(lái)說(shuō)，“RTX就是AI”。在游戲領(lǐng)域，這一特點(diǎn)體現(xiàn)的尤為明顯。這其中最具代表性的就是DLSS技術(shù)，這也是英偉達(dá)最早推出的AI模型之一，從五年前的首次亮相至今，DLSS技術(shù)經(jīng)歷了多個(gè)大版本迭代，AI技術(shù)的融入也愈發(fā)深入，目前已經(jīng)包含超分辨率、幀生成和光線重建三個(gè)不同的模型。據(jù)了解，從發(fā)布之初，DLSS技術(shù)就一直離不開(kāi)背后AI模型的持續(xù)學(xué)習(xí)，AI模型學(xué)習(xí)的結(jié)果不斷反饋迭代，推動(dòng)DLSS技術(shù)完善，進(jìn)而提高DLSS技術(shù)在游戲中帶來(lái)的性能和畫(huà)質(zhì)提升。今年英偉達(dá)推出了DLSS 3.5，其對(duì)于游戲圖形渲染技術(shù)發(fā)展的推動(dòng)是極為明顯的，基于新的AI模型光線重建，DLSS 3.5可以創(chuàng)建出更高質(zhì)量的光線追蹤畫(huà)面，同時(shí)還能進(jìn)一步提升游戲的幀率表現(xiàn)，可以說(shuō)是一舉兩得。
這一技術(shù)也在游戲玩家中收到了廣泛好評(píng)。根據(jù)官方數(shù)據(jù)，目前支持RTX特性的游戲和應(yīng)用已經(jīng)超過(guò)了500個(gè)，這一生態(tài)系統(tǒng)的發(fā)展壯大，可以說(shuō)為玩家們帶來(lái)了真正體驗(yàn)上的直觀提升。
除了游戲，在生產(chǎn)力創(chuàng)作領(lǐng)域，根據(jù)官方數(shù)據(jù)，目前英偉達(dá)的RTX GPU加速了110多個(gè)創(chuàng)作類應(yīng)用，尤其在生成式AI相關(guān)應(yīng)用領(lǐng)域，RTX GPU的應(yīng)用更為廣泛。如今，AI PC時(shí)代的大門(mén)已經(jīng)被推開(kāi)了，各路廠商都在積極找準(zhǔn)自己的定位，進(jìn)行產(chǎn)品和技術(shù)的布局，而在這場(chǎng)時(shí)代大潮中，開(kāi)發(fā)者們的作用至關(guān)重要，在RTX加持下，開(kāi)發(fā)者現(xiàn)在可以直接利用前沿AI大模型，通過(guò)跨供應(yīng)商API來(lái)部署自己的應(yīng)用。英偉達(dá)一直在做的，其實(shí)就是增強(qiáng)開(kāi)發(fā)者的能力，在AI新時(shí)代為開(kāi)發(fā)者們武裝到牙齒。英偉達(dá)提供的新優(yōu)化、新模型和資源無(wú)疑會(huì)加速AI功能和應(yīng)用在全球 1億多臺(tái)RTX PC上的開(kāi)發(fā)和部署，AI與PC的融合，會(huì)變得越來(lái)越簡(jiǎn)單。
04.結(jié)語(yǔ)：AIGC時(shí)代要想玩轉(zhuǎn)AI，英偉達(dá)是徹底繞不開(kāi)了
在AIGC風(fēng)起云涌的當(dāng)下，無(wú)數(shù)創(chuàng)企涌入賽道，消費(fèi)者們也爭(zhēng)相接觸新的技術(shù)、感受生成式AI帶來(lái)的體驗(yàn)革新，而英偉達(dá)無(wú)疑成為了風(fēng)口浪尖上的一顆明星企業(yè)，從硬件、軟件到生態(tài)，英偉達(dá)的王牌一張接著一張。AI技術(shù)的發(fā)展，引起了整個(gè)計(jì)算產(chǎn)業(yè)范式的革新，加速計(jì)算概念的落地普及，牽動(dòng)著全球各行各業(yè)的企業(yè)。從數(shù)據(jù)中心到我們每個(gè)人家中的PC，英偉達(dá)的技術(shù)正深入每一處，在AI技術(shù)落地的過(guò)程中，發(fā)揮著關(guān)鍵作用。如今回顧科技產(chǎn)業(yè)發(fā)展的歷史，我們能清楚地看到，那些最成功的公司，無(wú)一不是憑借生態(tài)取勝，從自身的產(chǎn)品技術(shù)生態(tài)到與產(chǎn)業(yè)鏈各領(lǐng)域玩家聯(lián)合形成的牢固生態(tài)，生態(tài)必然會(huì)成為當(dāng)今科技巨頭們比拼的核心焦點(diǎn)。不論如何，在當(dāng)下的AIGC時(shí)代，想要乘風(fēng)而行，走在浪尖，英偉達(dá)這艘大船，是必須要上了。
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
加入技術(shù)交流群
