工業(yè)GPU計(jì)算終極指南

自從第一個(gè)像素出現(xiàn)在顯示器上以來，GPU 就一直是計(jì)算的一部分。盡管如此，它的角色已經(jīng)發(fā)生了巨大變化，從最初的功能到嵌入式 GPU、逼真的 3D 游戲和現(xiàn)在的通用 GPU 計(jì)算。

本文深入探討了這一關(guān)鍵硬件組件，它為人工智能、計(jì)算機(jī)視覺和一系列未來的計(jì)算機(jī)優(yōu)勢提供動力。我們將嘗試總結(jié) GPU 是什么、它的重要性、它們?nèi)绾螒?yīng)用于工業(yè)計(jì)算機(jī)、它的用途、您可能需要 GPU 的原因以及選擇它們時(shí)可用的選項(xiàng)。

圖 1. GPU 不斷發(fā)展，不僅用于游戲或產(chǎn)品設(shè)計(jì)的 3D 圖形，而且越來越多的任務(wù)是通過并行處理支持機(jī)器學(xué)習(xí)和 AI 推理分析以及同時(shí)進(jìn)行多項(xiàng)計(jì)算的能力。

什么是 GPU？

圖形處理單元 (GPU) 是硬件組件，它接受視覺顯示指令并將像素放在屏幕上它們應(yīng)該去的地方。

根據(jù)英特爾的說法，GPU 是為并行處理而設(shè)計(jì)的，“用于廣泛的應(yīng)用程序，包括圖形和視頻渲染。盡管 GPU 以其在游戲方面的能力而聞名，但在創(chuàng)意制作和人工智能 (AI) 中的使用越來越受歡迎?！?nbsp;

最后一部分很重要，因?yàn)楝F(xiàn)代通用 GPU 不再僅限于在屏幕上顯示圖像。它已經(jīng)成為處理復(fù)雜機(jī)器輸入的強(qiáng)大力量，但對CPU來說太慢了。那么這是怎么發(fā)生的呢？

GPU計(jì)算簡史

為了準(zhǔn)確起見，如果所有計(jì)算機(jī)在屏幕上顯示圖像，則它們都具有 GPU。有兩種主要類型?；?GPU 通常集成到現(xiàn)代 CPU 中，為大多數(shù)辦公室或家庭情況提供核心功能。我們在本文中所指的是具有強(qiáng)大 GPU 的專用顯卡。

英偉達(dá)在 1999 年創(chuàng)造了 GPU 一詞，發(fā)布了 GeForce 256，被譽(yù)為“世界上第一個(gè) GPU”。盡管最初用于圖形密集型任務(wù)，但通用 GPU 已進(jìn)入其他領(lǐng)域。其中包括石油勘探、圖像處理、統(tǒng)計(jì)、股****期權(quán)定價(jià)、線性代數(shù)以及任何需要大規(guī)模數(shù)學(xué)運(yùn)算的領(lǐng)域。

因此，GPU 從游戲的圖像渲染擴(kuò)展到多個(gè)新領(lǐng)域。但是在多年推動 CPU 的性能越來越快之后，為什么 GPU 還會成為人們關(guān)注的焦點(diǎn)？

GPU有什么作用？

GPU 是課堂上的數(shù)學(xué)天才。它執(zhí)行數(shù)學(xué)計(jì)算并快速執(zhí)行數(shù)學(xué)算法。

與執(zhí)行各種通用計(jì)算機(jī)任務(wù)（如訪問內(nèi)存和硬盤驅(qū)動器等）的 CPU 不同，GPU 執(zhí)行的功能集更為有限。

并行性是這些功能背后的驅(qū)動力。數(shù)學(xué)任務(wù)不是在具有多達(dá) 18 個(gè)內(nèi)核的 CPU 上按順序執(zhí)行復(fù)雜功能，而是通過數(shù)百個(gè)甚至數(shù)千個(gè)內(nèi)核同時(shí)工作的方式傳遞給 GPU。

這種處理能力正是人工智能、機(jī)器視覺和深度學(xué)習(xí)所需要的。GPU 計(jì)算可用于藝術(shù)家和游戲玩家的圖形渲染、HPC 和超級計(jì)算機(jī)工作站、邊緣和工業(yè)領(lǐng)域。

GPU 在視覺處理中的作用

GPU 在計(jì)算機(jī)游戲中創(chuàng)建視覺上令人驚嘆的虛構(gòu) 3D 世界方面發(fā)揮了至關(guān)重要的作用。相同的核心處理能力現(xiàn)在將計(jì)算機(jī)帶入現(xiàn)實(shí)世界，并使它們以某種方式“看到”，從而允許它們對視覺輸入做出決定。

圖 2. 在 COVID 19 爆發(fā)期間，通過部署由 Cincoze GM-1000提供支持的自動化熱成像系統(tǒng)，它通過機(jī)器視覺成功地執(zhí)行了口罩檢測、人臉識別、圖像搜索和足跡跟蹤，有助于簡化流程并降低人工成本。

這種處理傳入的視覺數(shù)據(jù)的能力是GPU的主要作用，也是GPU計(jì)算機(jī)不同于通用計(jì)算機(jī)的地方。當(dāng)然，任何帶有攝像頭的計(jì)算機(jī)都可以在有限的能力范圍內(nèi)做到這一點(diǎn)。不過，這相當(dāng)于一個(gè)近視的司機(jī)在家里忘記戴眼鏡后試圖透過霧氣蒙蒙的窗戶行駛。如果你想活著到達(dá)，只能非常緩慢的駕駛。而GPU提供了F1賽車手在比賽日的敏銳目光和反應(yīng)時(shí)間，以強(qiáng)烈的細(xì)節(jié)接受每一個(gè)輸入，并根據(jù)這些輸入采取行動。

根據(jù)該輸入采取行動是使“看到”工作良好的關(guān)鍵。那么這對工業(yè)應(yīng)用有什么影響呢？

什么是工業(yè)GPU計(jì)算機(jī)？

工業(yè) GPU 計(jì)算機(jī)采用與用于惡劣工業(yè)環(huán)境的通用工業(yè)計(jì)算機(jī)相同的設(shè)計(jì)原則。這些通用特性可能包括堅(jiān)固的設(shè)計(jì)、冗余組件、抗沖擊、抗振動、無風(fēng)扇設(shè)計(jì)、寬工作溫度范圍、ESD 保護(hù)、防水和防塵。

核心區(qū)別在于，工業(yè) GPU 計(jì)算機(jī)至少支持一個(gè) GPU 擴(kuò)展卡，通常通過常規(guī)尺寸計(jì)算機(jī)中的 PCIe x16 擴(kuò)展卡插槽或工業(yè)嵌入式系統(tǒng)中的較小移動 PCI Express 模塊 (MXM)。

GPU 給必須解決的整個(gè)系統(tǒng)帶來了額外的壓力。GPU 產(chǎn)生的熱量必須通過專門的冷卻機(jī)制進(jìn)行處理，而不僅僅是向系統(tǒng)添加風(fēng)扇。GPU 還引入了額外的功耗，因此系統(tǒng)電源必須能夠?yàn)?GPU 提供額外的功率。

GPU，無論是全尺寸還是緊湊型，都需要足夠的內(nèi)部空間。預(yù)期應(yīng)用程序通常是必須連續(xù)運(yùn)行的關(guān)鍵系統(tǒng)，因此系統(tǒng)保持在線狀態(tài)變得更加重要，在最壞的情況下，預(yù)測可能的故障并采取規(guī)避措施以避免損壞。

在工業(yè) GPU 計(jì)算機(jī)上尋找的一些功能包括：

通過使用替代或更可靠的連接，無需電纜和跳線。移除可以自由搖晃的電纜和跳線可以消除可能的故障源，尤其是在計(jì)算機(jī)經(jīng)歷大量振動和撞擊的應(yīng)用中。

擠壓鋁制底盤，可以將熱量從內(nèi)部部件吸收到周圍環(huán)境中。

抗振動和抗沖擊，可承受工業(yè)應(yīng)用的嚴(yán)苛考驗(yàn)。影響這一點(diǎn)的因素很多，包括機(jī)械結(jié)構(gòu)、橡膠墊圈的選擇和設(shè)計(jì)，以及無電纜和無跳線的設(shè)計(jì)。5/50 Grms 評級是一個(gè)好的開始，但軍用評級已成為首選，MIL-STD-810G 為堅(jiān)固耐用的計(jì)算機(jī)提供了嚴(yán)格的指導(dǎo)方針。

無風(fēng)扇設(shè)計(jì)，典型的高性能工業(yè) GPU 計(jì)算機(jī)會產(chǎn)生大量熱量，因此需要風(fēng)扇來冷卻系統(tǒng)。新的低功耗 GPU 優(yōu)化了性能，因此良好的散熱設(shè)計(jì)可以在不需要風(fēng)扇的情況下帶走熱量，從而消除大多數(shù)計(jì)算機(jī)系統(tǒng)中機(jī)械故障的最大來源。

從-40℃到70℃的寬工作溫度。這通常就足夠了，因?yàn)榧词箤τ诠I(yè)應(yīng)用，應(yīng)用位置也被設(shè)計(jì)為將溫度保持在這個(gè)范圍內(nèi)，而且通常是一個(gè)更窄的范圍。

圖 3. Cincoze GP-3000本身是被動冷卻（無風(fēng)扇）。為了應(yīng)對散熱挑戰(zhàn)，GP-3000獨(dú)特的全方位散熱設(shè)計(jì)和機(jī)箱兩側(cè)的防塵外置智能風(fēng)扇套件，在極端條件下滿負(fù)荷工作的情況下有效散熱。

ESD、過流和過壓保護(hù)可以防止工業(yè)環(huán)境中可能發(fā)生的錯(cuò)誤的電氣異常對系統(tǒng)造成損害。在確實(shí)發(fā)生系統(tǒng)關(guān)閉的極少數(shù)情況下，0.2 秒的重啟時(shí)間將停機(jī)時(shí)間減少到絕對最短。支持9-48 VDC的寬范圍，為電壓波動提供了一些空間。 

易于維護(hù)，使現(xiàn)場人員可以解決任何問題。因?yàn)槟阕畈幌Ｍ木褪窃谥匾獧C(jī)器閑置時(shí)浪費(fèi)時(shí)間等待外部專業(yè)技術(shù)人員。一個(gè)用戶友好的維護(hù)界面包括對經(jīng)常隱藏的項(xiàng)目的輕松訪問，如AT/ATX電源設(shè)置、清除CMOS、SIM卡訪問和熱插拔2.5英寸SATA插槽。最后，通過增加PoE、LAN和其他I/O或功能，定制基本型號很簡單，通過模塊化設(shè)計(jì)，如CMI模塊和CFM模塊，使這些附加組件像即插即用一樣簡單，并允許在任何時(shí)候輕松擴(kuò)展。 

行業(yè)認(rèn)證通過設(shè)置標(biāo)準(zhǔn)來簡化硬件選擇。需要考慮的重要認(rèn)證包括適用于鐵路應(yīng)用的 EN 50155、適用于車載的 E-mark，甚至是美國國防部頒布的MIL-STD-810G，以在追求更高標(biāo)準(zhǔn)的過程中對軍事設(shè)備進(jìn)行認(rèn)證。當(dāng)多種認(rèn)證可供選擇并廣泛用于特定應(yīng)用時(shí)，那么產(chǎn)品最好擁有這些認(rèn)證。

在深入了解工業(yè)GPU計(jì)算機(jī)的具體應(yīng)用之前，讓我們先快速了解一下有哪些選擇。

模糊的界限：服務(wù)器、耐用型和嵌入式GPU計(jì)算機(jī)

計(jì)算機(jī)類別之間的界限正在逐漸模糊。在消費(fèi)領(lǐng)域，曾經(jīng)只有臺式電腦和筆記本電腦，一個(gè)是便攜式的，一個(gè)是桌面式的?，F(xiàn)在，很難說一個(gè)類別在哪里停止，下一個(gè)類別在哪里開始。帶可拆卸鍵盤的平板電腦與可折疊成平板電腦的筆記本相比，相似之處多于不同之處。

類似的情況在工業(yè)GPU計(jì)算領(lǐng)域也有發(fā)生。在這里，我們將把它分為三大類。

AI 訓(xùn)練 GPU 計(jì)算機(jī)，安裝在服務(wù)器機(jī)房中，溫度保持在非常嚴(yán)格的限制范圍內(nèi)，以實(shí)現(xiàn)最佳性能。由于這些系統(tǒng)旨在訓(xùn)練 GPU 計(jì)算機(jī)在現(xiàn)場使用的模型，因此它們與以下兩個(gè)類別完全不同。

堅(jiān)固耐用的工業(yè) GPU 計(jì)算機(jī)是標(biāo)準(zhǔn)的計(jì)算機(jī)尺寸，但增加了工業(yè)計(jì)算機(jī)所期望的堅(jiān)固性。它們旨在用于服務(wù)器機(jī)房條件不可用的現(xiàn)場。它們總體上仍然很大，但與服務(wù)器機(jī)房的同類產(chǎn)品相比有所減少。由于空間限制，它們還將支持較少的 GPU 擴(kuò)展卡，但提供靈活的擴(kuò)展，通常最多兩個(gè)插槽。一個(gè)例子是 Cincoze 的GP-3000 工業(yè) GPU 計(jì)算機(jī)。

圖 4. 強(qiáng)大的 GPU 計(jì)算驅(qū)動需要密集處理并行性的應(yīng)用程序。Cincoze GP-3000采用英特爾? 工作站級至強(qiáng)? 處理器，提供強(qiáng)大的 GPU 性能，支持多達(dá)兩個(gè) 250 W 高端全長（≤328 毫米）顯卡，系統(tǒng)總功率預(yù)算為 720 W。

嵌入式工業(yè) GPU 計(jì)算機(jī)專為狹小空間而設(shè)計(jì)。整體占用空間更小，它們通常是無風(fēng)扇的，并且整體處理能力低于上述兩類。通常，GPU 選項(xiàng)將僅包括 MXM 等移動選項(xiàng)。堅(jiān)固耐用的 MXM 系統(tǒng)的一個(gè)例子是GM-1000 嵌入式 GPU 計(jì)算機(jī)。

重疊最多的是工業(yè)PC和嵌入式系統(tǒng)之間，因?yàn)楣I(yè)計(jì)算機(jī)可以相當(dāng)小，但最小的系統(tǒng)也需要嵌入式系統(tǒng)。

因此，一般的期望和要求已經(jīng)確定。現(xiàn)在，工業(yè)GPU計(jì)算機(jī)的應(yīng)用有哪些？工業(yè) GPU 計(jì)算機(jī)可以執(zhí)行哪些任務(wù)？

大致的答案是，工業(yè)GPU計(jì)算機(jī)可以執(zhí)行任何依賴人眼和觀察的應(yīng)用。然而，這些眼睛是超級快的、超級準(zhǔn)確的、而且不會因?yàn)橐惶斓墓ぷ鞫械狡v。

圖 5. 堅(jiān)固耐用的 GPU 計(jì)算平臺可以加速數(shù)字化轉(zhuǎn)型，并正在成為多個(gè)垂直領(lǐng)域的潛在有價(jià)值投資，包括機(jī)器視覺、邊緣計(jì)算、交通視覺、智能控制、深度學(xué)習(xí)以及任何需要密集處理并行性和性能的應(yīng)用程序 -驅(qū)動分析。

以下是一些典型的應(yīng)用：

機(jī)器視覺機(jī)器視覺為機(jī)器提供“視覺”，相機(jī)會觀察某物（通常是生產(chǎn)線項(xiàng)目）并做出某種決定。應(yīng)用包括自動光學(xué)檢測、自動分揀和視覺引導(dǎo)機(jī)械臂。由于空間限制，建議使用較小的嵌入式系統(tǒng)。

車載車載應(yīng)用再次執(zhí)行“觀察”環(huán)境的任務(wù)。應(yīng)用包括自動駕駛、駕駛員疲勞檢測、盲點(diǎn)檢測和自動鐵路/道路檢查。車輛在安裝方面提供了更大的靈活性，更大的車輛為更大的計(jì)算機(jī)提供了足夠的空間。

視頻監(jiān)控視頻監(jiān)控處理來自閉路電視系統(tǒng)的圖像，并針對操作員設(shè)置的某些特征和行為對其進(jìn)行分析。應(yīng)用包括現(xiàn)場監(jiān)控、行為預(yù)測和面部識別。

交通運(yùn)輸應(yīng)用旨在控制和預(yù)測交通系統(tǒng)內(nèi)的交通和人員的移動。應(yīng)用包括交通監(jiān)控、車牌識別、行李檢查和鐵路/公路監(jiān)控。

原文鏈接：

https://circuitcellar.com/newsletter/the-ultimate-guide-to-gpu-computers/