正文1：
論文標題：韓松、朱儁彥等人提出GAN壓縮法：算力消耗不到1/9，現已開源
作者：Muyang Li等
論文摘要：生成模型 GAN 是機器學習領域裡最為重要的發展方向之一。但這類算法需要消耗巨量算力，大多數研究者已經很難得出新成果。近年來，這一方向頗有被大型機構壟斷的趨勢。但近日，來自麻省理工學院（MIT）、Adobe、上海交通大學的研究者提出了一種用於壓縮條件 GAN 的通用方法。這一新技術在保持視覺保真度的同時，將 pix2pix，CycleGAN 和 GauGAN 等廣泛使用的條件 GAN 模型的計算量減少到 1/9~1/21。該方法適用於多種生成器架構、學習目標，配對或非配對設置。目前該研究的論文已被 CVPR 2020 大會收錄，有關 GAN 壓縮框架的 PyTorch 版實現也已開源。
原文鏈接：https://mp.weixin.qq.com/s/SGCoCy8wJEhEpLSHrYK3pQ
正文2：
論文標題：這篇論文讓你無懼梯度消失或爆炸，輕鬆訓練一萬層神經網絡
作者：Batchlechner等
論文摘要：深度學習在計算機視覺、自然語言處理等領域取得了很多重大突破。神經網絡的表達能力通常隨著其網絡深度呈指數增長，這一特性賦予了它很強的泛化能力。然而深層的網絡也產生了梯度消失或梯度爆炸，以及模型中的信息傳遞變差等一系列問題。研究人員使用精心設計的權值初始化方法、BatchNorm 或 LayerNorm 這類標準化技術來緩解以上問題，然而這些技術往往會耗費更多計算資源，或者存在其自身的侷限。近日，來自加州大學聖迭戈分校（UCSD）的研究者提出一種神經網絡結構改進方法「ReZero」，它能夠動態地加快優質梯度和任意深層信號的傳播。
原文鏈接：https://mp.weixin.qq.com/s/NVt-H5UjTqGUygGDlGtuow
正文3：
論文標題：CVPR 2020 | 北航、商湯等提出網絡二值化新算法IR-Net，多項圖像分類任務新SOTA
作者：機器之心
論文摘要：近日，計算機視覺頂會 CVPR 2020 接收論文結果已經正式公佈。在 6656 篇有效投稿中，最終有 1470 篇論文被接收，錄取率約為 22%。本文將介紹一種旨在優化前後向傳播中信息流的實用、高效的網絡二值化新算法 IR-Net，研究者來自北航、北郵、電子科技大學、商湯研究院等機構，論文已被 CVPR 2020 接收。這篇論文提出了一種旨在優化前後向傳播中信息流的實用、高效的網絡二值化新算法 IR-Net。不同於以往二值神經網絡大多關注量化誤差方面，本文首次從統一信息的角度研究了二值網絡的前向和後向傳播過程，為網絡二值化機制的研究提供了全新的視角。同時，該工作首次在 ARM 設備上進行了先進二值化算法效率驗證，顯示了 IR-Net 部署時的優異性能和極高的實用性，有助於解決工業界關注的神經網絡二值化落地的核心問題。
原文鏈接：https://mp.weixin.qq.com/s/cF14wwgnMcnvkBa864ox1Q
正文4：
論文標題：上週7篇論文推薦 | 阿里達摩院自動駕駛新成果；邱錫鵬預訓練模型論文綜述
作者：機器之心
論文摘要：本週的重要論文有阿里達摩院在自動駕駛領域的新成果，以及復旦大學邱錫鵬教授發表的預訓練模型綜述論文。
原文鏈接：https://mp.weixin.qq.com/s/gtbUrRwYSY9XSOlZOPIogQ
正文5：
論文標題：CVPR2020 | 阿里達摩院自動駕駛新成果，3D物體檢測精度與速度的兼得
作者：機器之心
論文摘要：阿里巴巴達摩院在自動駕駛 3D 物體檢測方面又有新成果發佈。近日，計算機視覺頂會 CVPR 2020 接收論文結果發佈，達摩院一篇名為《Structure Aware Single-Stage 3D Object Detection from Point Cloud》的論文入選。
該論文提出了一個通用、高性能的檢測器，首次實現 3D 物體檢測精度與速度的兼得，有效提升自動駕駛系統安全性能。目前，該檢測器在 KITTI BEV 排行榜上排名第一。該論文團隊表示，「檢測器是自動駕駛系統的核心組件之一，但這一領域一直以來缺少創新和突破，此次我們提出的檢測器融合了單階段檢測器和兩階段檢測器的優勢，因此同時實現了 3D 檢測精讀和速度的提升，未來檢測器的創新研究還可以解決自動駕駛產業的更多難題。」研究結果顯示，該檢測器在 KITTI BEV（bird`s eye view）排行榜上排名第一, 檢測速度達到 25FPS，同時精度也超過其他的單階段檢測器。
原文鏈接：https://mp.weixin.qq.com/s/jL3YOraS7IqIf1OvxGM7RQ
分享到:
閱讀更多 AI應用前沿 的文章
