人工智能市場(chǎng)已經(jīng)在整合嗎？

幾乎每個(gè)處理器芯片硬件供應(yīng)商都至少有一款設(shè)備在其產(chǎn)品組合中集成了某種人工智能 （AI） 硬件加速。這可能是具有集成 AI 加速的片上系統(tǒng) （SoC） 或?qū)Ｓ?AI 加速器，通常針對(duì)特定應(yīng)用程序（如處理流式視頻）進(jìn)行優(yōu)化。

許多人工智能初創(chuàng)公司也在爭(zhēng)奪工程師的心智份額（圖 1）。許多公司提供的硬件解決方案可顯著降低系統(tǒng)功耗要求，從而實(shí)現(xiàn)更復(fù)雜的邊緣計(jì)算解決方案，這些解決方案可以實(shí)時(shí)處理語(yǔ)音和視頻，而無需將內(nèi)容傳遞到云端。

喬恩·佩迪 （Jon Peddie） 指出，“自 2006 年以來，已向初創(chuàng)公司投資了超過 135 億美元。人工智能處理器初創(chuàng)公司的興奮程度和投資水平在 2017 年至 2021 年達(dá)到頂峰，有 36 家新公司進(jìn)入該領(lǐng)域。您可以在 Jon Peddie Research“人工智能處理器市場(chǎng)發(fā)展報(bào)告”中找到更多詳細(xì)信息。它還指出，進(jìn)入這個(gè)市場(chǎng)的新公司越來越少，而且正在發(fā)生整合，供應(yīng)商搶占人工智能公司以改進(jìn)自己的人工智能產(chǎn)品。

喬恩還指出，“目前，美國(guó)在人工智能軟件和硬件方面都保持著強(qiáng)勢(shì)地位。但這種領(lǐng)先優(yōu)勢(shì)并不能保證。持續(xù)的貿(mào)易緊張局勢(shì)給美國(guó)公司帶來了真正的壓力，尤其是現(xiàn)在像 DeepSeek 這樣的公司和幾家中國(guó)人工智能芯片制造商正在展示他們的能力。

他補(bǔ)充道，“美國(guó)供應(yīng)商很清楚這種情況，但現(xiàn)任政府似乎將注意力集中在其他地方。這使得這些公司在很大程度上只能依靠自己，需要更快地行動(dòng)、更精簡(jiǎn)地思考，并提供更高效、更具成本效益的技術(shù)才能保持領(lǐng)先地位。

美國(guó)政府向中國(guó)提供的最新禮物是允許英偉達(dá)將其 H20 GPGPU 出售給中國(guó)。從理論上講，H20 的功能不如該公司針對(duì)大型語(yǔ)言模型 （LLM） 的高端“Hopper”H200（圖 2）。多個(gè) H200 GPGPU 可以通過 NVLink 連接，NVLink 使用 NVLink 交換機(jī)擴(kuò)展到更大的配置。

許多人在 NVIDIA 的成功中忽視的是，它的軟件比硬件更重要。誠(chéng)然，該軟件離不開硬件，但它使工程師和程序員能夠針對(duì) Jetson Nano 的一切，從邊緣計(jì)算到基于服務(wù)器的云和數(shù)據(jù)中心解決方案。

在服務(wù)器端，通過向網(wǎng)絡(luò)組合添加更多部件來擴(kuò)展部件，因此 H20 和 H200 的混合之間的唯一區(qū)別是整體性能和容量。只需添加更多硬件來增加這些，這就是為什么即使允許銷售 H20 也不是人工智能開發(fā)的真正限制。

專注于邊緣

關(guān)于人工智能的大部分討論都集中在 H20 和 H200 所在的云和數(shù)據(jù)中心。然而，一個(gè)重要的趨勢(shì)是將更多的人工智能計(jì)算放在邊緣，要么減輕基于云的人工智能的使用，要么與在本地完成的所有計(jì)算完全解耦。不少人工智能初創(chuàng)公司都專注于這一領(lǐng)域。

小型語(yǔ)言模型 （SML） 以及可以在邊緣處理 LLM 的系統(tǒng)現(xiàn)已上市。通常的工程設(shè)計(jì)權(quán)衡在功率、價(jià)格和性能方面突然出現(xiàn)，但新的人工智能硬件已經(jīng)顯著改變了設(shè)計(jì)方程式。

與芯片供應(yīng)商一樣，電路板和模塊供應(yīng)商已將人工智能納入其產(chǎn)品組合中。這有助于在邊緣添加人工智能，因?yàn)槿斯ぶ悄苄酒募尚枰量痰脑O(shè)計(jì)和實(shí)施過程。

隨著人工智能的炒作，工程師和公司需要記住，并非所有問題都需要人工智能，或者通過在產(chǎn)品中添加人工智能來改善。同樣，在工作、工作流程、設(shè)計(jì)、測(cè)試和生產(chǎn)過程以及最終產(chǎn)品和服務(wù)中使用人工智能之間也存在差異。LLM 或 SLM 形式的人工智能可能在一個(gè)領(lǐng)域起作用，但在另一個(gè)領(lǐng)域不起作用。