05.24 人臉識別離濫用僅一步之遙

最近一兩年是人工智能產業的爆發年。隨著人工智能的助力,人臉識別技術以其不可複製性、非接觸性、可擴展性和快速性等特點在多種生物識別技術中脫穎而出。

人臉識別開始應用於生活中

近期,人臉識別更是成為學校“新寵”,助力校園管理,在門禁、陌生人識別、食堂支付,甚至開始在課堂上識別學生面部表情,找出不專心的學生。

而且,一些地方也開始啟用“刷臉”執法,人臉識別闖紅燈,核實違法人員的身份。

我相信,在中國,會有很多家長會覺得這樣做挺好的,幫助老師方便地管理孩子,督促孩子學習。也會有很多人認為,闖紅燈的一個也不放過,加大立法力度,挺好。

但是,我認為,此類人臉識別,值得商榷與審視。

人脸识别离滥用仅一步之遥

人臉識別應用需考慮公民隱私

在現在的信息技術下,方便性必然建立在個人數據上。瀏覽器不用填密碼,就得打開cookies;輕點鼠標購買物品,必然要交出自己的姓名地址、購物歷史偏好;用APP引導自己鍛鍊身體,服務器沒有積累的過往身體數據,就無法指導;打車,不給出目的地,打車軟件就無法安排;刷臉支付,地鐵刷臉進入,就必須透露出自己的行蹤。如果要優惠券、要精確推薦,則需要交出自己的消費歷史記錄;新聞類APP,精準推送自己喜歡的內容,則意味著以前看過的東西被記錄下來。

前段時間,百度公司董事長李彥宏一句“中國人不在乎隱私”,引發了輿論的聲討。但不得不說,他某種程度上說的是事實。中國人有著集體主義的傳統,在計劃經濟時代,單位掌控一切,從工作到家庭,從避孕套的大小、多寡,到家庭糾紛、生兒育女,單位負責一切。由於單位分房的熟人群居模式,任何一家的瑣碎事情,都會迅速傳播開來。在這種場景之下成長、生活的中國人,缺乏獨立意識,隱私意識自然也較低。

這類用隱私的代價去換取方便,選擇權在個人的時候,還可以視為一種個體選擇,個人有選擇付出隱私的自由,還無可厚非。但是,教室監控面部表情,人行橫道線用面部識別,都是相對更強勢的學校、公權力機關的一種強制性的行為。

人脸识别离滥用仅一步之遥

人臉識別代價遠大於收益

刑法謙抑,是指立法者應當力求以最小的支出,少用甚至不用刑罰,而用其他刑罰替代措施,同時,獲取最大的社會效益,有效地預防和控制犯罪。同樣的,在強制公民付出隱私的代價的時候,就必須獲得足夠大的收益,或者減小足夠嚴重的危險。

雖然人臉識別不是刑法,但是,對於強勢機構、公權力機構,這個原則同樣適用,即以最小的代價,完成最大的目標。

人行橫道線是一個必須完全杜絕、一旦有人觸犯就會代價極大的事件嗎?同理,上課不聽講、睡覺、玩手機,甚至曠課,是一個具有極大危險,威脅到公共安全的事件嗎?顯然,這都不是。從這個角度來說,用面部識別嚴厲制止橫穿人行道和學生上課不專心,收益都很小。

人脸识别离滥用仅一步之遥

5月15日,杭州某中學的學生通過智慧刷臉系統進入學校。圖片來源:視覺中國

防止人臉識別被濫用

那麼,與此對應的,除開採購成本,還有哪些社會成本呢?

各個領域引入人臉識別,會使得公眾對這一技術變得麻木。這就會使得在後續中,這種技術會不斷地在其他領域使用,規模效應又會導致其更大規模地進入各個領域。

比如,目前,地鐵還做不到不使用身份證,而用閘機採集乘客人臉,在人口庫裡進行比對來識別乘客。這是因為乘客規模巨大,閘機識別會造成識別準確率明顯下降,識別過程有一定延時的問題。這些問題在技術上是可以被克服的,但經濟上卻不可行。

但是,隨著越來越多的領域使用面部識別,需求的規模效應會拉低成本。從經濟上,一個更大、更廉價、更靈敏的識別數據庫以及相應的硬件系統,就會被建立起來。比如,識別一次成本是1塊,這時候應用會被限制;但如果成本降到0.01分,那麼,這個系統就會無遠弗屆,無處不在。從而,在現實中,人臉識別離被濫用,就只有一步之遙。

所以,某種程度上看,學校與人行橫道應用人臉識別,這種行為的潛在代價如此之大,現實收益如此之小,並不符合成本——收益的原則,應當被重新考慮。


分享到:


相關文章: