教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

栗子 發自 凹非寺量子位 報道 | 公眾號 QbitAI

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

注意屏幕右下角,那隨性的舞步 (↑↑↑) 。

他是杰倫·布倫森,達拉斯獨行俠 (小牛) 的新秀控衛。幾天前,在主場對馬刺的比賽上,他砍下了全場最高的34分。

但重點不在比賽,而在中場休息的“Dance Cam”時間:布倫森出現在大屏一角,和看臺上的球迷一起“舞蹈”,前所未有。

並且,除了與民同樂的畫風之外,他也會“跳”火星哥的舞:

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

那麼,NBA球員是怎樣解鎖這樣精湛的動作的?

布倫森先站在綠幕前面,錄下了一些基本動作:

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

然後,回去練球,學舞的事交給機器學習就好。

捕捉一下姿態

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

要學跳舞,第一步是用姿態估計算法,一幀一幀處理錄好的視頻,把布倫森變成火柴人。

卡耐基梅隆大學出品的OpenPose,就是一個優秀的選擇:

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

OpenPose會標出人體的18個關鍵點:

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

把這些點連成一個火柴人,來表示人物的姿態。

訓練一下舞步

既然是和火星哥學跳舞,就要用同樣的方法,把火星哥的舞蹈視頻處理一下,變出火柴人。

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

然後,參照伯克利Everybody Dance Now的做法:

AI會探索出一種規則,把兩個火柴人身上的每個關鍵點,一一匹配起來。

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

這樣,就算兩人身材比例有差別,舞姿也不會在傳遞的過程中走了樣。

(如果下一次,要和另外一位老師學舞,只要讓AI再找出一套匹配規則就可以了。)

當布倫森的火柴人解鎖了火星哥的舞姿,就要訓練一隻GAN,把火柴人變成完整的人形。

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

來自英偉達 (和伯克利) 的pix2pixHD便可以完成這個任務:

GAN的生成器要造出足夠逼真的圖像,讓判別器分辨不出誰是真實視頻的截圖,誰是生成器的作品。

最終,布倫森便擁有了火星哥精緻的舞步:

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

其實,除了布倫森,還有很多人偷偷向火星哥“學”過舞:

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

△ 來自伯克利,Everybody Dance Now!

One More Thing

那麼問題來了,冉冉升起的NBA新星,怎麼會想去“學跳舞”?

布倫森“練舞”的成果,來自一間叫做

Xpire的AI公司,總部也在達拉斯。

而他效力的球隊小牛的老闆庫班,是這間公司的聯合創始人。

教練,我想學跳舞:NBA球星變身“舞王”,都是託機器學習的福

OpenPose:

https://github.com/CMU-Perceptual-Computing-Lab/openpose

Everybody Dance Now論文傳送門:

https://arxiv.org/pdf/1808.07371.pdf

pix2pixHD項目傳送門:

https://github.com/NVIDIA/pix2pixHD

誠摯招聘

量子位正在招募編輯/記者,工作地點在北京中關村。期待有才氣、有熱情的同學加入我們!相關細節,請在量子位公眾號(QbitAI)對話界面,回覆“招聘”兩個字。

量子位 QbitAI · 頭條號簽約作者

վ'ᴗ' ի 追蹤AI技術和產品新動態​​​​


分享到:


相關文章: