CVPR一次中66篇，大裝置一天訓練完GPT-3，商湯準備迎戰(zhàn)未來

商湯的「既要…… 又要…… 還要……」

6 月 19 日，CVPR 2021 在線上拉開帷幕。作為計算機視覺三大頂會之一，本屆 CVPR 大會一共接收了 7039 篇有效投稿，最終有1366 篇被接收為poster，295篇被接收為oral，接收率大概為 23.6%。

在前段時間公布的最佳論文候選名單中，我們發(fā)現(xiàn)，華人一作論文占據(jù)了半壁江山（16/32）。當然，這一現(xiàn)象并非偶然。其實，早在九年前，華人學者就已經(jīng)憑借其創(chuàng)新精神在國際 CV 頂會上大放異彩，比如香港中文大學的湯曉鷗團隊：2012 年 CVPR 大會僅有的兩篇深度學習文章均出自其實驗室。2011—2013 年間，該實驗室又在 ICCV 和 CVPR 上發(fā)表了 14 篇深度學習論文，占據(jù)全世界在這兩個會議上深度學習論文總數(shù)（29 篇）的近一半。

2014 年，湯曉鷗等人創(chuàng)辦了商湯科技，這種創(chuàng)新精神也被刻入商湯的基因并延續(xù)至今。

在今年的 CVPR 大會上，商湯共有 66 篇論文被接收，遠高于業(yè)界平均水平。此外，在同期舉辦的挑戰(zhàn)賽中，商湯 - 南洋理工聯(lián)合實驗室（S-Lab）團隊一舉斬獲 CVPR 2021 NTIRE 視頻理解挑戰(zhàn)賽三項冠軍，包括視頻超分辨率、重度壓縮視頻質量增強（固定量化參數(shù)，保真度）和重度壓縮視頻質量增強（固定比特率，保真度）賽道。商湯研究院團隊則摘得 CVPR 2021 ActivityNet 時序動作檢測任務弱監(jiān)督學習賽道冠軍。

AI 領域發(fā)展到今天，如何保持創(chuàng)新活力、加快產(chǎn)業(yè)落地是所有企業(yè)面臨的共同問題。在這一點上，商湯的態(tài)度是明確的「既要…… 又要…… 還要……」，即既要保持技術創(chuàng)新的領先，又要加快產(chǎn)業(yè)落地，同時還要建設面向整個生態(tài)、整個社區(qū)的 AI 基礎設施，推動 AI 進入工業(yè)化發(fā)展階段。

從今年的 CVPR 和商湯最近的一些動向中，我們可以看出這家公司為實現(xiàn)上述愿景所做的努力。在這篇文章中，我們就來聊聊這一話題。

技術創(chuàng)新不能落下

對于商湯今年在 CVPR 中取得的成績，該公司聯(lián)合創(chuàng)始人、香港中文大學 - 商湯科技聯(lián)合實驗室主任林達華評價說，「對商湯來說，AI 的研究和創(chuàng)新是刻在基因里的。從公司建立的第一天開始，甚至在建立之前，我們的創(chuàng)始團隊就一直把 AI 的基礎研究作為持續(xù)追求的理想。所以，盡管商湯的整個發(fā)展經(jīng)歷了很多階段，我們也把 AI 落地到了越來越多的產(chǎn)業(yè)中去，但我們始終沒有忘記，整個 AI 產(chǎn)業(yè)發(fā)展的最初原動力來自于技術的突破和創(chuàng)新?！?/p>

商湯的這種理念在歷年 AI 頂會中得到了很好的體現(xiàn)，今年的 CVPR 也不例外。從研究方向來看，該公司今年入選的論文分布在多個領域，包括長尾目標檢測、軌跡預測、3D 點云補全、3D 場景重建、激光雷達 3D 目標檢測等，其中的 3D 點云補全、3D 場景重建等相關論文還被收錄為 Oral 論文。

3D 點云是 3D 場景和目標的一種直觀表示。然而，由于遮擋等問題的存在，掃描得到的 3D 點云通常是不完整的。因此，利用不完整的點云預測目標的完整 3D 形狀成為一個重要問題。但是，現(xiàn)有的點云補全方法傾向于生成全局形狀骨架，缺乏局部細節(jié)。而且，它們大多會學習一個確定性的部分到整體的映射，忽視人造物體中的結構關系。

商湯的研究者認為，點云補全應從殘缺點云中學習關系性結構屬性來恢復可信且高質量的完整點云形狀。為了實現(xiàn)這一點，他們在論文中提出了一個兩階段的網(wǎng)絡：首先對殘缺點云做概率重建以恢復一個粗略的完整點云，再結合殘缺點云做關系性結構增強達到高質量的補全。實驗顯示，該方法顯著提高了生成的完整點云質量。這份研究可以結合很多單目深度感知傳感器（如激光雷達或深度相機）完成對未知形狀部分的恢復和預估。預估出的完整形狀可以有效輔助很多下游任務，如 3D 形狀分類、姿態(tài)檢測、避障和交互。

論文鏈接：https://arxiv.org/pdf/2104.10154.pdf

3D 場景重建是 3D 計算機視覺的一個核心任務。例如在增強現(xiàn)實（AR）應用中，為了在 AR 效果和周圍的物理環(huán)境之間形成自然、沉浸式的互動，3D 重建需要非常精確、連貫，還要保持實時性。雖然使用 SOTA 視覺慣性 SLAM 系統(tǒng)可以精確跟蹤攝像機運動，但由于重建質量低、計算要求高，基于圖像的實時密集重建仍然是一個具有挑戰(zhàn)性的問題。

在一篇CVPR最佳論文候選論文中，商湯的研究者提出了一種新的基于神經(jīng)網(wǎng)絡的單目實時場景 3D 重建系統(tǒng)——NeuralRecon。不同于以往基于深度圖估計與融合的方法，NeuralRecon 直接基于圖像特征預測用 TSDF 表示的局部 3D 表面，并創(chuàng)新地提出了一個聯(lián)合 TSDF 重建與融合的框架。實驗結果表明，該方法在準確率和速度方面都優(yōu)于 SOTA 方法。

論文鏈接：https://arxiv.org/pdf/2104.00681.pdf

NeuralRecon的預訓練模型在辦公區(qū)域場景實時重建的結果

在被 CVPR 接收的眾多論文中，我們發(fā)現(xiàn)，很多研究其實都是由應用場景驅動的，比如 3D 點云補全可能用于自動駕駛、機器人，3D 場景重建可以用于增強現(xiàn)實（AR）等。這也解釋了商湯能夠長期保持創(chuàng)新活力的重要原因。

林達華在采訪中表示，商湯擁有一個業(yè)務跟學術連接的環(huán)境，是產(chǎn)生新的學術問題的肥沃土壤，「這些問題帶給商湯很多激動人心的研究機會，牽引著我們的技術創(chuàng)新?！?/p>

產(chǎn)業(yè)落地步伐加快

積累了那么多技術，終究是要拿出來用的。在前段時間舉辦的上海國際汽車工業(yè)展覽會上，商湯將多年積累的 AI 技術打包，一股腦地呈現(xiàn)在了多款智能汽車上。

這個打成的「包」就是 Sense Auto 智能汽車解決方案，包括 SenseAuto Pilot 智能駕駛和 SenseAuto Cabin 智能車艙。

在 SenseAuto Pilot 智能駕駛方案中，最引人關注的 SenseAuto Pilot-P 駕駛領航方案可實現(xiàn)高速公路場景下的車道跟隨、超車自動變道、導航自動變道、自動上下匝道、匝道通行等多種 L2 + 級高級輔助駕駛功能；已裝在多個量產(chǎn)車型中的 SenseAuto Pilot-V 前視視覺感知方案可以提供 200m 前向有效探測，支持自動緊急制動、車道保持輔助、雙預警功能，還能有效應對近距離行人 / 非機動車橫穿等復雜場景。此外，車道分離 / 匯合點、路面標識、交通燈形狀、施工區(qū)域錐形筒等長尾場景元素的感知也在這套系統(tǒng)的能力范圍之內。

整套系統(tǒng)背后涉及的技術包括激光雷達高精 3D 感知、點云噪聲識別、軌跡預測、長尾目標檢測等，這些都出現(xiàn)在了今年的 CVPR 接收論文中。商湯表示，該系統(tǒng)能夠在最大程度上發(fā)揮攝像頭、毫米波雷達、激光雷達等傳感器的感知優(yōu)勢，顯著提升 3D 目標的檢測和跟蹤性能，提供智能的道路動態(tài)目標軌跡預測，支撐系統(tǒng)安全可靠地拓展至城市工況場景。

SenseAuto Pilot-P 駕駛領航方案可以精準識別道路分離、合并點，幫助車輛在匝道內進行合理決策，實現(xiàn)自動上下匝道的 L2 + 級高級輔助駕駛功能

SenseAuto Cabin 智能車艙解決方案同樣令人眼前一亮，涵蓋 SenseAuto Cabin-D 駕駛員感知系統(tǒng)、SenseAuto Cabin-O 座艙感知系統(tǒng) 、SenseAuto Cabin-K 智能進入、SenseAuto Cabin-V 座艙域視覺控制器等模塊。這些功能可以為駕駛員提供無接觸的車艙交互，減少點觸操作頻率；對疲勞、分心以及接打手機等危險行為進行提醒；還能自動感知是否有兒童被獨自遺留在車內等。這背后離不開成熟的目標檢測、跟蹤、識別等視覺算法。

目前，商湯在智能車艙領域已經(jīng)和全球超過 30 家頭部企業(yè)展開合作，定點量產(chǎn)項目數(shù)超過 30 個，覆蓋車輛總數(shù)超過 1300 萬輛。

搭載了商湯 SenseAuto Cabin 智能車艙解決方案的 WEY 全新旗艦車型摩卡首次亮相上海車展。

從智能駕駛到智能車艙，可以看到商湯落地的步伐正在加快。這不僅得益于其與生俱來的創(chuàng)新能力，也離不開豐富的算力資源和算法、數(shù)據(jù)等方面的積累。這些成果共同構成了商湯正在建設的AI基礎設施——SenseCore商湯AI大裝置。林達華透露，這個 AI 大裝置不僅幫助商湯縮短了創(chuàng)新驗證的周期，還將成為未來十年重要的 AI 基礎設施，逐漸提供開放服務，演變成一個面向整個生態(tài)、整個社區(qū)的具有公共性質的設施。

AI 大裝置蓄勢待發(fā)

在上海臨港新片區(qū)，一座宛如芯片的建筑群將在今年年底投入使用。這是商湯正在建設的人工智能計算中心（Artificial Intelligence Data Center，AIDC），全部建成后 AI 計算峰值速度將達到 3740 Petaflops（1 petaflop 等于每秒 1 千萬億次浮點運算），可以在一天之內把人類石器時代到現(xiàn)在所有時間錄成的視頻計算完成，也能在一天之內完整訓練 OpenAI 的千億參數(shù)模型 GPT-3。

但是，AIDC 僅僅是商湯 AI 大裝置的一部分，而遠非全部。從結構上看，整個大裝置共分為三層：

一是算力層。該層以 AIDC 為基礎，兼容 AI 芯片和 AI 傳感器的強大能力。

二是平臺層。這一層融合了商湯的數(shù)據(jù)平臺、高性能計算引擎、深度學習訓練框架（SenseParrots）以及模型生產(chǎn)平臺等，打造了創(chuàng)新的人工智能通用算法開發(fā)平臺，實現(xiàn)從數(shù)據(jù)存儲、標注到模型訓練、生產(chǎn)、部署、測試的全鏈路、批量化過程。

三是算法層。這一層包含各種算法工具箱，不僅有城市交通、園區(qū)等高頻應用場景算法，還有火災、垃圾檢測等長尾低頻的算法。截止目前，商湯已經(jīng)推出 13000 多個技術模型，以及 17000 多個商業(yè)模型。同時他們也推出了 OpenMMLab 開源算法體系，該體系已在 Github 上獲得 3 萬多顆星。

建設這么一個 AI 大裝置需要投入大量的精力（AIDC 總投資高達 56 億元），但在商湯看來，這是面向未來必須邁出的一步。

「在經(jīng)歷了幾年的產(chǎn)業(yè)化之后，AI 已經(jīng)到了一個全新的階段，可以說一些簡單的問題已經(jīng)基本上被解決了。下一步就是要深入到更廣泛的行業(yè)里面，需要新一輪的突破和創(chuàng)新?！沽诌_華說道。

GPT-3 等超大模型的出現(xiàn)讓商湯看到了實現(xiàn)下一個突破的希望：「以前我們都是針對一些具體的問題或者高度定制化的場景去生產(chǎn)一些中小模型。但隨著 AI 落地推演到越來越廣的領域，成千上萬的具體問題（長尾問題）開始涌現(xiàn)。如果每個問題都有很多的研究人員投入進去，那么我們就很難深化 AI 的進一步落地。這個時候，整個行業(yè)需要通用性更強的模型，用一個模型支撐更多的任務。一方面，這種模型能夠讓 AI 的研發(fā)、落地效率得到一個質的提升；另一方面，它們能夠更好地去回應綜合場景的問題，比如智慧城市、智慧醫(yī)療等。這些任務都需要通過多個任務綜合解決?！?/p>

但是，模型的通用性越強，需要的數(shù)據(jù)、算力往往也越多，這便是商湯建設 AI 大裝置的底層邏輯。

當然，AI 大裝置也不是一朝一夕就建成的。其實早在 2018 年 4 月，商湯就已經(jīng)開始布局人工智能計算原型機研制項目，雖然當時并不被看好。但好在，后續(xù)出現(xiàn)的一些大模型已經(jīng)顯示出了解決長尾問題的巨大潛力。

如今，這個 AI 大裝置已經(jīng)開始發(fā)揮它的作用。林達華透露說，「我們幾乎所有的研究工作都是在這個大裝置的基礎上進行的?！埂杆鼮樽鏊惴ㄑ芯康耐瑢W提供了充足的算力，使他們能夠快速地進行實驗試錯?！勾送?，大裝置中所積累的實用工具也縮短了創(chuàng)新的驗證周期。

借助大裝置，商湯已經(jīng)在超大模型技術研究方面取得一定成績。例如在計算機視覺的卷積神經(jīng)網(wǎng)絡（CNN）領域，通常模型參數(shù)都在 1 億以下，但商湯的 AI 框架 SenseParrots 能支持 50 億參數(shù)超大視覺模型的訓練。AIDC 完全投入使用后，計劃支持的超大視覺模型訓練參數(shù)可達更高的數(shù)量級。

由于可以顯著降低 AI 落地的門檻，商湯的 AI 大裝置對于推動整個人工智能行業(yè)的發(fā)展也有著重要的戰(zhàn)略意義。林達華表示，「從整個社會的角度來說，AI 基礎設施將逐漸從一個企業(yè)內部的平臺，發(fā)展為逐漸提供開放服務，并最終演變成一個面向整個生態(tài)、整個社區(qū)的具有公共性質的設施。這些設施的構建能夠有效地支撐整個生態(tài)，最終使得整個 AI 人才的基礎變得更加寬廣，從而進一步推動 AI 產(chǎn)業(yè)的深化?！?/p>

*博客內容為網(wǎng)友個人發(fā)布，僅代表博主個人觀點，如有侵權請聯(lián)系工作人員刪除。