只需在App上傳一張照片，就能將自己的臉替換成明星的臉，併成為影視作品裡的主角。近幾天，一款名為“ZAO”的AI換臉App在朋友圈刷屏。
走紅的同時，也因隱私安全問題引發了網友的集體焦慮。
9月3日，工信部網站發佈公告說，針對最近引發熱議的ZAO App網絡數據安全問題，對相關負責人開展問詢約談，並要求其組織開展自查整改。
zao 背後的狂歡與擔憂
8月30日晚，一款名為ZAO的AI換臉App忽然被瘋狂傳播。用戶只需通過手機號註冊，提交清晰的面部照片，即可將你想要的明星的臉“一鍵無縫”置換到自己身上，幾乎可以以假亂真。
ZAO因零門檻、操作簡單、代入感強，很快在朋友圈引起一輪狂歡。短短一天，已位居App Store榜單第2名。有評論稱其和抖音一樣會上癮，“刷了一夜”。
然而狂歡之後，很快就因隱私安全問題引發了網友們集體焦慮。
畢竟臉部信息是一種“生物信息”，一旦洩露帶來的影響遠比上網時產生的數據信息洩露風險更大。
而且，網友們發現，“ZAO”的用戶隱私協議簡直就是個霸王條款。雖然之後“ZAO”修改了用戶協議，但卻未消除網友們對於AI換臉的擔憂。
9月3日，ZAO用戶隱私協議不規範、存在數據洩露風險等安全問題，引起了監管部門的關注，目前工信部已對相關負責人展開談約並要求其自查整改。
然而，一份“整改之後，你還願意在“ZAO”上面玩換臉嗎？”的網絡調查顯示，大多數網友選擇了“算了吧，還是不太放心”。
刷臉支付還安全嗎？
對於用戶來說，ZAO換臉服務最大的風險在於對用戶人臉數據的收集。除了隱私，換臉應用還被質疑存在支付風險，必竟人臉與指紋、虹膜等都是可以用作身份鑑定的信息。
對此，上海交通大學人工智能研究院教授倪冰冰認為，目前人臉識別的算法或防攻擊的算法，不管有多先進，還是存在被人工製造出來的假臉所攻破的風險，現在有一種對抗樣本技術，在某些假的人臉識別圖像或視頻上，做很小的發動，比如局部換一下顏色、紋理，就可以欺騙過人臉識別的算法，使得這張假臉可以通過刷臉認證，所以風險是始終存在的。
ZAO的安全風險被質疑後，支付寶針對刷臉支付安全性問題進行回應，表示對於網上各種換臉的軟件，目前尚不能逃過支付寶人臉識別技術的辨別。
不過此前央視3.15晚會就曾報道過，一張照片可騙過人臉識別，這次何況是動態的“臉”，警惕心不容放鬆。另外，還有網友擔心如何保證我們的“臉”不被賣掉或流入色情產業鏈，畢竟大家都是要“臉”的。
人工智能該如何發展
其實，AI換臉並不是新鮮事，ZAO也不是首個發明。在蘋果和安卓應用市場搜索“AI換臉”主題，還有“AI換臉”“顏技”“糰子相機”等產品。
早在2017年底，國外一位ID為“deepfakes”的網友，創造了AI換臉算法deepfakes。這個AI換臉程序曾在國外風靡過，後來因為有人將該技術應用於色情視頻，諸多公眾人物成為受害者，隨後被封殺。
但AI換臉技術，卻一直進化至今。比如今年初，B站UP主“換臉哥”，使用這個技術將94版《射鵰》裡朱茵扮演的黃蓉，換成楊冪的臉。
未來已來，人工智能該如何在保障安全的基礎上發展？倪冰冰建議，從法律監管層面應該儘快制定相關的法律法規，規範目前的人工智能應用，可以在哪些領域應用，不能在哪些領域應用，如果在某些領域應用，應該遵守哪些法律底線。
另一方面，從人工智能的研究者和應用的提供商來說，應該形成自我約束的道德準則，什麼能研究什麼不能研究，這些約束應該以行業準則的形式固定下來，並且對公眾開放，接受監督，讓普通百姓在使用人工智能技術帶來的便捷的同時，不用擔心它所引發的風險。
閱讀更多 貪心科技AI 的文章
