最近有消息稱，亞馬遜與執法部門合作，提供面部識別監控(品牌為“Rekognition”)，還有幾乎令人難以置信的消息稱，中國正在使用這項技術，這意味著科技行業需要解決一些更引人注目的進步中更為陰暗、更具攻擊性的一面。
面部識別技術，用於識別嫌疑犯，對有色人種有負面影響-否認這一事實將是一個謊言。
顯然，由面部識別驅動的政府監控是對所有公民隱私的一種非同尋常的侵犯，而且是對我們的身份完全失去控制的一種滑坡。
沒有什麼“好”的方式去承認這些事情。
我已經非常清楚地認識到與當前種族偏見有關的潛在危險，並公開反對在執法中使用這項技術。
作為一家開發面部識別服務的軟件公司的黑人首席執行官，我在文化和社會上都與這項技術有著個人的聯繫。
有了全面瞭解軟件如何工作的特權，我有了一個獨特的視角，它決定了我對軟件的使用。因此，我(和我的公司)開始相信，在執法或任何形式的政府監控中使用商業面部識別是錯誤的——這為道德敗壞者的嚴重不當行為打開了大門。
為了真正有效，驅動面部識別軟件的算法需要大量的信息。它看到的有色人種的圖像越多，就越有可能正確地識別他們。問題是，現有的軟件還沒有得到足夠多的有色人種的圖像，因此不能自信地依靠這些圖像來識別他們。
而誤認可能導致錯誤的定罪，甚至更糟。
假設錯誤的人被關押在謀殺案調查中。假設你根據系統的想法剝奪了某人的自由和自由，而系統並沒有公平地觀察不同的種族和性別。這是一個真正的問題，需要得到解決。
在美國，沒有任何地方可以用面部識別來支持虛假逮捕和謀殺。
在一個充斥著抗議和對不成比例的監獄人口和警察不當行為的焦慮的社會氛圍中，在執法活動中使用顯然不適合民事使用的軟件——並不為公民服務——只會導致進一步的動盪。
不管你是否相信政府監控是可以的，在執法中使用商業人臉識別是不負責任和危險的。
當世界其他國家都在猜測我們受到監控的原因時，中國政府卻一直在解釋為什麼他們要對14億中國公民進行透明審查——這並不是為了他們的安全。
中國用於監控的人臉識別軟件的使用案例，實際上是一個很好的例子，說明了為什麼我們從未、也永遠不會與政府機構接觸，以及為什麼考慮這麼做是一場道德噩夢。
中國目前正在建立一個龐大的公共監控網絡，該網絡利用人臉識別技術構建“社會信用”系統，根據公民的行為、排隊獎勵和懲罰程度，根據他們的分數對其進行排名。他們已經證明了在6萬人的人群中逮捕一名男子的行動會有多糟糕。
確切的規矩是要遵守的，但“值得懲罰”的違規行為包括:亂穿馬路、在非吸菸區吸菸、甚至購買過多的電子遊戲。對低分的“懲罰”包括旅行限制和其他許多懲罰。
是的。公民將被禁止進入航班、火車和交通工具——所有這些都是基於“社會行為”的信用評分。如果所有這些持續不斷的監控聽起來都很瘋狂，那就想想這個問題:目前這個系統是零碎的，而且實際上在中國的一些省份和城市。
想象一下，如果美國開始根據社會評分對其公民進行分類?
想象一下，如果美國及其本就可怕的種族差異記錄——警察使用武力——並有權力和理由證明某人“社會不正確”?
最近，我們讀到在俄勒岡州的執法部門使用亞馬遜人臉識別技術。他們聲稱，不會出現“每個角落都有攝像頭”的情況，就好像說人臉識別軟件需要持續、同步的監控錄像一樣。
事實上，Rekognition和其他軟件只是要求你把軟件指向你所擁有的任何素材——社交媒體、閉路電視錄像，甚至警察的攝像機。這個軟件的聰明程度取決於它所提供的信息——如果這些信息主要是“可疑”的非裔美國人的圖像，那麼它很快就能學會將黑人歸類為一個類別的威脅。
面部識別是一種動態工具，它可以幫助我們與機器的互動更加人性化。然而，由於迫切需要更多的數據，我們在中國看到了人臉識別的預覽，當它被用於政府監控時，真的讓整個人口喪失了人性。
這是一項令人驚歎的技術，它能夠個性化體驗、改善互動和創造積極情緒——被用於控制公民。對我來說，這是絕對不能接受的。這也不僅僅是有色人種的問題——最終，任何種類的掃描軟件都可以測量步態(你走路的方式)，手勢，以及任何被政府認為“不同”的人的情緒。
據說，任何工具，在錯誤的人手中，都可能是危險的。
在政府監控項目和執法機構手中，人臉識別軟件絕不可能不被用來傷害公民。對於我的核心，以及我的公司的核心，我們真的相信這一點，以至於我們錯過了非常、非常有利可圖的政府合同。我寧願晚上睡覺，知道我並沒有幫助無人機打擊更“有效”。
我們理應擁有這樣一個世界:我們沒有授權政府對公民進行分類、跟蹤和控制。在這個領域裡，任何願意把這個軟件交給政府的公司，不管是美國還是其他國家的公司，都在蓄意地危及人們的生命。給傑夫·貝佐斯的信還不夠。我們需要從這個領域的每一家公司的高層開始，停止這種銷售。
閱讀更多 快樂的小柴犬0207 的文章
