“很感謝看雪舉辦這次CTF，可以跟各位高手交流想法，讓我獲益良多，這是我的榮幸；也感謝京東安全，讓我非常有動力！”在剛剛落幕的2018看雪安全開發者峰會上，小鄧對獲獎很開心。這次頒獎典禮也標誌著京東安全聯合國內安全人才的黃埔軍校——看雪學院舉辦的CTF 大賽在歷時兩個多月之後圓滿結束。
這次大賽共吸引3萬餘名白帽子和安全愛好者參加。特別是京東安全的AI題目，將AI系統與CTF相結合，提供了學習人工智能安全的寶貴機會。據瞭解，近1500人參與AI題目答題，僅2人解出。第一名解出AI題目的選手（ID陽春）介紹：AI題目在CTF比賽中非常少見，偶然看到這道題後非常興奮，儘管解題過程曲折，以後有AI題目還會積極參與。
深度學習題目首現CTF大賽
這次比賽的AI題目的出題方，京東安全硅谷研發中心團隊介紹，通常人工智能也只能做到98%的精確，而那剩餘的2%，尤其在安全領域，一旦被人盯上，後果將是致命的。本次題目的核心是在解釋深度學習算法的基礎上，查找邏輯漏洞，並給深度學習打補丁。
給深度學習打補丁，作為近兩年才出現的新興研究領域，被用在CTF中，在國際上尚屬首次。
“AI安全的研究是近兩年才興起的。但現實中AI攻防雙方是不平衡的，攻擊方處在優勢地位。之所以出這個題目，就是想探討改變防守劣勢的狀況。”京東首席信息安全專家Tony Lee在看雪安全峰會上表示，我們要很好地利用AI，但也要警惕AI系統本身出錯，不能完全依賴機器學習。“它也會有缺陷，一旦發生系統性風險，打擊將是致命的。”
京東首席信息安全專家Tony Lee
因此，如何修正AI的錯誤便顯得尤為重要，但要修正錯誤首先要找到錯誤，可即便這一步有時候也是很難的，因為封閉決策的AI並不會說話，不會給你一個合理的解釋。這次題目，正是為了讓人們更加了解AI，讓AI系統“走下神壇”。
培養實戰型安全人才
京東安全介紹，此次AI CTF的題目其實已經降低了難度，僅要求參賽者更正特定的錯誤，但是需要考核的內容依然很多。需要參賽選手首先理解深度學習邏輯，找出錯誤，更正錯誤的同時不影響深度學習對其他樣本的判斷。
之所以這樣設計，是因為在現實的攻防對抗場景中，大規模修改深度學習模型會耗費大量的時間和精力，這種設計思路，是為了更高效地與黑產對抗。“這不僅僅是一道比賽題目，而是具有現實意義。”顯然，希望能夠透過比賽，挖掘優秀的種子，培養實戰型人才，這才是京東安全舉辦AI CTF比賽的目的。
除了聯合舉辦國內高水平的CTF比賽，京東安全在國外也有培養人才的佈局，在硅谷研發中心組建了一支精英團隊，從事AI安全、IOT安全、區塊鏈安全等領域技術研發工作，並與包括斯坦福、伯克利、清華在內的國際知名大學建立重要合作，結合京東實際應用場景和數據，在人工智能、IOT等前瞻技術研究上推動產學研項目落地。
相信不久的將來，會有更多像小鄧這樣的實戰型白帽子，踏上守護中國網絡安全的道路。
閱讀更多 科技新知訊 的文章
