11.25 NeurIPS分享微眾銀行:思考DNN所有權驗證,數字護照抵禦模糊攻擊

機器之心 NeurIPS 2019 論文線上分享已經進行第三期了,得到了讀者們的積極關注。在最新一期線上分享中,我們邀請到了微眾銀行 AI 研究員吳錦和分享 AI 與知識產權相結合的一項研究。

12 月 8 日-14 日,NeurIPS 2019 將於加拿大溫哥華舉辦。作為人工智能領域的國際頂級會議,如同往年一樣,今年的 NeurlPS 如同往年一樣備受關注,因註冊人數過多,今年參會門票都要憑運氣抽彩票決定了。

在論文方面,今年大會投稿數量也創下了歷史新紀錄,一共提交 6743 篇有效論文,接收 1428 篇,接受率為 21.17%。

本屆 NeurIPS,機器之心為讀者們精心策劃了 NeurIPS 2019 專題,包括線上分享、論文解讀、現場報道以及線下活動等。這是機器之心 NeurIPS 2019 線上分享的第三期,我們邀請到了微眾銀行 AI 研究員吳錦和為我們分享主題:重新思考 DNN 所有權驗證:以數字護照抵禦模糊攻擊。

NeurIPS分享微眾銀行:思考DNN所有權驗證,數字護照抵禦模糊攻擊


吳錦和,微眾銀行 AI 研究員,馬來亞大學計算機系學士。師從微眾銀行人工智能首席科學家範力欣博士和馬來亞大學陳志勝教授。研究興趣主要包括計算機視覺和深度學習,目前主要研究方向為對抗學習,聯邦學習和人工智能知識產權保護。

  • 論文主頁:https://kamwoh.github.io/DeepIPR/
  • 論文地址:https://arxiv.org/abs/1909.07830

演講概要:隨著各大公司在探索和開發深層神經網絡(DNN)上投入了大量時間、資源和人力,神經網絡知識產權保護成為當務之急,必須確保這些發明不被侵權者非法複製,再分配或者濫用。

在分析了相關研究的最新進展後,我們發現,一種旨在通過偽造水印來對所有權驗證產生疑問的模糊攻擊,對多種基於水印的 DNN 所有權驗證方法對 DNN 的知識產權保護構成了嚴重威脅。

針對上述安全漏洞,本文提出了一種新穎的基於數字護照的 DNN 所有權驗證方案,該方案既對網絡剪枝及微調等修改具有魯棒性,又能夠抵禦模糊攻擊。

嵌入數字護照的關鍵在於,以一種巧妙的方式設計和訓練 DNN 模型,從而使原 DNN 的工作性能在使用偽造護照時大大降低。

也就是說,真正的數字護照不僅可以依據預定義的數字簽名來進行驗證,而且還可以根據 DNN 模型的工作性能來認定。
本分享會將詳細說明如何使用數字護照保護 DNN 以及抵禦模糊攻擊。

時間:北京時間 11 月 28 日 20:00-21:00

NeurIPS 2019 機器之心線上分享

在 NeurIPS 2019 收錄的大量優秀論文中,我們將選出數篇優質論文,邀請論文作者來做線上分享。整場分享包括兩個部分:論文解讀和互動答疑。論文解讀包括使用技術介紹、理論方法解讀和具體代碼實現。

線上分享將在「NeurIPS 2019 交流群」中進行,加群方式:添加機器之心小助手(syncedai4),備註「NeurIPS」,邀請入群。入群后將會公佈直播鏈接。


分享到:


相關文章: