設想下《疑犯追蹤》中的動態人臉識別技術，大規模網絡監控防止和打擊犯罪。微軟的首席顧問Brad Smith發表了一篇博文，督促政府儘快立法限制和監管先進的人臉識別技術，負責任地進行行業應用。儘管該技術可能對社會有益，但是防止其濫用刻不容緩，否則微軟擔心此類技術氾濫最終會形成1984小說中描寫的反烏托邦社會。
微軟認為預防此技術形成不公平的偏見或者防止其侵犯個人權利十分重要，不僅要提高透明度，還呼籲人類監管審核，不要把所有人臉識別結果都交給電腦判斷。
“打個比方，面部識別技術，正在像瓶子裡的魔法一樣逐漸興起，除非我們現在就行動，否則我們會面臨這樣的風險，五年後我們發現面部識別服務已經不可阻擋地擴散，加速社會分裂。從那時候起我們想要把它收回‘瓶子’就已經太難了。”
如果該技術氾濫，會在身心上對用戶造成損害，人權或基本權利，或者對個人的自由和隱私造成侵犯。
近年來，人們用臉部識別技術解鎖，或者利用其標記社交圖片的好友，人工智能的發展能夠迅速地識別個人。而另一方面執法機構也依賴於該技術幫助調查。然而這一技術並不是毫無缺陷的，不僅是在調查中可能出現錯誤，政府對該技術的利用也會侵犯民主自由和人權。“我們必須確保2024年不會看起來像是小說1984年中的場景”
分享到:
閱讀更多 cnBeta 的文章
