天天看點

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

6 月 19 日,CVPR 2021 線上上拉開帷幕。作為計算機視覺三大頂會之一,本屆 CVPR 大會一共接收了 7039 篇有效投稿,最終有1366 篇被接收為poster,295篇被接收為oral,接收率大概為 23.6%。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

在前段時間公布的最佳論文候選名單中,我們發現,華人一作論文占據了半壁江山(16/32)。當然,這一現象并非偶然。其實,早在九年前,華人學者就已經憑借其創新精神在國際 CV 頂會上大放異彩,比如香港中文大學的湯曉鷗團隊:2012 年 CVPR 大會僅有的兩篇深度學習文章均出自其實驗室。2011—2013 年間,該實驗室又在 ICCV 和 CVPR 上發表了 14 篇深度學習論文,占據全世界在這兩個會議上深度學習論文總數(29 篇)的近一半。

2014 年,湯曉鷗等人創辦了商湯科技,這種創新精神也被刻入商湯的基因并延續至今。

在今年的 CVPR 大會上,商湯共有 66 篇論文被接收,遠高于業界平均水準。此外,在同期舉辦的挑戰賽中,商湯 - 南洋理工聯合實驗室(S-Lab)團隊一舉斬獲 CVPR 2021 NTIRE 視訊了解挑戰賽三項冠軍,包括視訊超分辨率、重度壓縮視訊品質增強(固定量化參數,保真度)和重度壓縮視訊品質增強(固定比特率,保真度)賽道。商湯研究院團隊則摘得 CVPR 2021 ActivityNet 時序動作檢測任務弱監督學習賽道冠軍。

AI 領域發展到今天,如何保持創新活力、加快産業落地是所有企業面臨的共同問題。在這一點上,商湯的态度是明确的「既要…… 又要…… 還要……」,即既要保持技術創新的領先,又要加快産業落地,同時還要建設面向整個生态、整個社群的 AI 基礎設施,推動 AI 進入工業化發展階段。

從今年的 CVPR 和商湯最近的一些動向中,我們可以看出這家公司為實作上述願景所做的努力。在這篇文章中,我們就來聊聊這一話題。

技術創新不能落下

對于商湯今年在 CVPR 中取得的成績,該公司聯合創始人、香港中文大學 - 商湯科技聯合實驗室主任林達華評價說,「對商湯來說,AI 的研究和創新是刻在基因裡的。從公司建立的第一天開始,甚至在建立之前,我們的創始團隊就一直把 AI 的基礎研究作為持續追求的理想。是以,盡管商湯的整個發展經曆了很多階段,我們也把 AI 落地到了越來越多的産業中去,但我們始終沒有忘記,整個 AI 産業發展的最初原動力來自于技術的突破和創新。」

商湯的這種理念在曆年 AI 頂會中得到了很好的展現,今年的 CVPR 也不例外。從研究方向來看,該公司今年入選的論文分布在多個領域,包括長尾目标檢測、軌迹預測、3D 點雲補全、3D 場景重建、雷射雷達 3D 目标檢測等,其中的 3D 點雲補全、3D 場景重建等相關論文還被收錄為 Oral 論文。

3D 點雲是 3D 場景和目标的一種直覺表示。然而,由于遮擋等問題的存在,掃描得到的 3D 點雲通常是不完整的。是以,利用不完整的點雲預測目标的完整 3D 形狀成為一個重要問題。但是,現有的點雲補全方法傾向于生成全局形狀骨架,缺乏局部細節。而且,它們大多會學習一個确定性的部分到整體的映射,忽視人造物體中的結構關系。

商湯的研究者認為,點雲補全應從殘缺點雲中學習關系性結構屬性來恢複可信且高品質的完整點雲形狀。為了實作這一點,他們在論文中提出了一個兩階段的網絡:首先對殘缺點雲做機率重建以恢複一個粗略的完整點雲,再結合殘缺點雲做關系性結構增強達到高品質的補全。實驗顯示,該方法顯著提高了生成的完整點雲品質。這份研究可以結合很多單目深度感覺傳感器(如雷射雷達或深度相機)完成對未知形狀部分的恢複和預估。預估出的完整形狀可以有效輔助很多下遊任務,如 3D 形狀分類、姿态檢測、避障和互動。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

論文連結:

https://arxiv.org/pdf/2104.10154.pdf

3D 場景重建是 3D 計算機視覺的一個核心任務。例如在增強現實(AR)應用中,為了在 AR 效果和周圍的實體環境之間形成自然、沉浸式的互動,3D 重建需要非常精确、連貫,還要保持實時性。雖然使用 SOTA 視覺慣性 SLAM 系統可以精确跟蹤錄影機運動,但由于重建品質低、計算要求高,基于圖像的實時密集重建仍然是一個具有挑戰性的問題。

在一篇CVPR最佳論文候選論文中,商湯的研究者提出了一種新的基于神經網絡的單目實時場景 3D 重建系統——NeuralRecon。不同于以往基于深度圖估計與融合的方法,NeuralRecon 直接基于圖像特征預測用 TSDF 表示的局部 3D 表面,并創新地提出了一個聯合 TSDF 重建與融合的架構。實驗結果表明,該方法在準确率和速度方面都優于 SOTA 方法。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來
https://arxiv.org/pdf/2104.00681.pdf
CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

NeuralRecon的預訓練模型在辦公區域場景實時重建的結果

在被 CVPR 接收的衆多論文中,我們發現,很多研究其實都是由應用場景驅動的,比如 3D 點雲補全可能用于自動駕駛、機器人,3D 場景重建可以用于增強現實(AR)等。這也解釋了商湯能夠長期保持創新活力的重要原因。

林達華在采訪中表示,商湯擁有一個業務跟學術連接配接的環境,是産生新的學術問題的肥沃土壤,「這些問題帶給商湯很多激動人心的研究機會,牽引着我們的技術創新。」

産業落地步伐加快

積累了那麼多技術,終究是要拿出來用的。在前段時間舉辦的上海國際汽車工業展覽會上,商湯将多年積累的 AI 技術打包,一股腦地呈現在了多款智能汽車上。

這個打成的「包」就是 Sense Auto 智能汽車解決方案,包括 SenseAuto Pilot 智能駕駛和 SenseAuto Cabin 智能車艙。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

在 SenseAuto Pilot 智能駕駛方案中,最引人關注的 SenseAuto Pilot-P 駕駛領航方案可實作高速公路場景下的車道跟随、超車自動變道、導航自動變道、自動上下匝道、匝道通行等多種 L2 + 級進階輔助駕駛功能;已裝在多個量産車型中的 SenseAuto Pilot-V 前視視覺感覺方案可以提供 200m 前向有效探測,支援自動緊急制動、車道保持輔助、雙預警功能,還能有效應對近距離行人 / 非機動車橫穿等複雜場景。此外,車道分離 / 彙合點、路面辨別、交通燈形狀、施工區域錐形筒等長尾場景元素的感覺也在這套系統的能力範圍之内。

整套系統背後涉及的技術包括雷射雷達高精 3D 感覺、點雲噪聲識别、軌迹預測、長尾目标檢測等,這些都出現在了今年的 CVPR 接收論文中。商湯表示,該系統能夠在最大程度上發揮攝像頭、毫米波雷達、雷射雷達等傳感器的感覺優勢,顯著提升 3D 目标的檢測和跟蹤性能,提供智能的道路動态目标軌迹預測,支撐系統安全可靠地拓展至城市工況場景。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

SenseAuto Pilot-P 駕駛領航方案可以精準識别道路分離、合并點,幫助車輛在匝道内進行合理決策,實作自動上下匝道的 L2 + 級進階輔助駕駛功能

SenseAuto Cabin 智能車艙解決方案同樣令人眼前一亮,涵蓋 SenseAuto Cabin-D 駕駛員感覺系統、SenseAuto Cabin-O 座艙感覺系統 、SenseAuto Cabin-K 智能進入、SenseAuto Cabin-V 座艙域視覺控制器等子產品。這些功能可以為駕駛員提供無接觸的車艙互動,減少點觸操作頻率;對疲勞、分心以及接打手機等危險行為進行提醒;還能自動感覺是否有兒童被獨自遺留在車内等。這背後離不開成熟的目标檢測、跟蹤、識别等視覺算法。

目前,商湯在智能車艙領域已經和全球超過 30 家頭部企業展開合作,定點量産項目數超過 30 個,覆寫車輛總數超過 1300 萬輛。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

搭載了商湯 SenseAuto Cabin 智能車艙解決方案的 WEY 全新旗艦車型摩卡首次亮相上海車展。

從智能駕駛到智能車艙,可以看到商湯落地的步伐正在加快。這不僅得益于其與生俱來的創新能力,也離不開豐富的算力資源和算法、資料等方面的積累。這些成果共同構成了商湯正在建設的AI基礎設施——SenseCore商湯AI大裝置。林達華透露,這個 AI 大裝置不僅幫助商湯縮短了創新驗證的周期,還将成為未來十年重要的 AI 基礎設施,逐漸提供開放服務,演變成一個面向整個生态、整個社群的具有公共性質的設施。

AI 大裝置蓄勢待發

在上海臨港新片區,一座宛如晶片的建築群将在今年年底投入使用。這是商湯正在建設的人工智能計算中心(Artificial Intelligence Data Center,AIDC),全部建成後 AI 計算峰值速度将達到 3740 Petaflops(1 petaflop 等于每秒 1 千萬億次浮點運算),可以在一天之内把人類石器時代到現在所有時間錄成的視訊計算完成,也能在一天之内完整訓練 OpenAI 的千億參數模型 GPT-3。

CVPR一次中66篇,大裝置一天訓練完GPT-3,商湯準備迎戰未來

但是,AIDC 僅僅是商湯 AI 大裝置的一部分,而遠非全部。從結構上看,整個大裝置共分為三層:

  • 一是算力層。該層以 AIDC 為基礎,相容 AI 晶片和 AI 傳感器的強大能力。
  • 二是平台層。這一層融合了商湯的資料平台、高性能計算引擎、深度學習訓練架構(SenseParrots)以及模型生産平台等,打造了創新的人工智能通用算法開發平台,實作從資料存儲、标注到模型訓練、生産、部署、測試的全鍊路、批量化過程。
  • 三是算法層。這一層包含各種算法工具箱,不僅有城市交通、園區等高頻應用場景算法,還有火災、垃圾檢測等長尾低頻的算法。截止目前,商湯已經推出 13000 多個技術模型,以及 17000 多個商業模型。同時他們也推出了 OpenMMLab 開源算法體系,該體系已在 Github 上獲得 3 萬多顆星。

建設這麼一個 AI 大裝置需要投入大量的精力(AIDC 總投資高達 56 億元),但在商湯看來,這是面向未來必須邁出的一步。

「在經曆了幾年的産業化之後,AI 已經到了一個全新的階段,可以說一些簡單的問題已經基本上被解決了。下一步就是要深入到更廣泛的行業裡面,需要新一輪的突破和創新。」林達華說道。

GPT-3 等超大模型的出現讓商湯看到了實作下一個突破的希望:「以前我們都是針對一些具體的問題或者高度定制化的場景去生産一些中小模型。但随着 AI 落地推演到越來越廣的領域,成千上萬的具體問題(長尾問題)開始湧現。如果每個問題都有很多的研究人員投入進去,那麼我們就很難深化 AI 的進一步落地。這個時候,整個行業需要通用性更強的模型,用一個模型支撐更多的任務。一方面,這種模型能夠讓 AI 的研發、落地效率得到一個質的提升;另一方面,它們能夠更好地去回應綜合場景的問題,比如智慧城市、智慧醫療等。這些任務都需要通過多個任務綜合解決。」

但是,模型的通用性越強,需要的資料、算力往往也越多,這便是商湯建設 AI 大裝置的底層邏輯。

當然,AI 大裝置也不是一朝一夕就建成的。其實早在 2018 年 4 月,商湯就已經開始布局人工智能計算原型機研制項目,雖然當時并不被看好。但好在,後續出現的一些大模型已經顯示出了解決長尾問題的巨大潛力。

如今,這個 AI 大裝置已經開始發揮它的作用。林達華透露說,「我們幾乎所有的研究工作都是在這個大裝置的基礎上進行的。」「它為做算法研究的同學提供了充足的算力,使他們能夠快速地進行實驗試錯。」此外,大裝置中所積累的實用工具也縮短了創新的驗證周期。

借助大裝置,商湯已經在超大模型技術研究方面取得一定成績。例如在計算機視覺的卷積神經網絡(CNN)領域,通常模型參數都在 1 億以下,但商湯的 AI 架構 SenseParrots 能支援 50 億參數超大視覺模型的訓練。AIDC 完全投入使用後,計劃支援的超大視覺模型訓練參數可達更高的數量級。

由于可以顯著降低 AI 落地的門檻,商湯的 AI 大裝置對于推動整個人工智能行業的發展也有着重要的戰略意義。林達華表示,「從整個社會的角度來說,AI 基礎設施将逐漸從一個企業内部的平台,發展為逐漸提供開放服務,并最終演變成一個面向整個生态、整個社群的具有公共性質的設施。這些設施的建構能夠有效地支撐整個生态,最終使得整個 AI 人才的基礎變得更加寬廣,進而進一步推動 AI 産業的深化。」

繼續閱讀