Margarita Quihuis斯坦福大學和平創新實驗室（Peace Innovation Lab）主任，斯坦福大學說服技術（Persuasive technology）實驗室的研究團隊成員，負責研究創新，遊戲設計思維等。同時，Margarita也是一位行為設計師和社會企業家，專注創新、技術孵化和企業家精神。
斯坦福和平創新實驗室致力於研究、制定標準幫助技術產品變得更加公平、多元、友好，這種實踐和科技向善的理念一脈相承，研究院與斯坦福和平創新實驗室對話，探索科技如何向善的可能性。
對話全文如下：
騰訊研究院：你如何評價過去幾十年中，互聯網產品和服務帶來的改變？它帶來最顯著的成就和最大的問題是什麼？
Margarita Quihuis：對於當下的每個人來說，新興的技術產品讓人類擁有更多可能性。比如，90年代初的互聯網有極強的人道主義目的，它將人們團結在一起、讓家庭重聚，真誠地相互連接，這在歷史上是絕無僅有的。
然而，讓我們沒有想到的是技術的武器化。在90年代初期很多人認為，人們會像對待另一個人一樣對待技術。然而在現實裡的人與技術互動中，技術其實無法像人一樣去影響另一個人，它會直接說服人們去做一些事情，在後續的測試中技術的這種說服力也被證實。這說明技術有潛在的威脅，同時也沒有太多人關注並說我們如何去避免技術的威脅。在這種環境中，很多人在不知不覺就利用技術做了壞的事情。如果將技術比喻成影響說服力，會發現世界上優秀的領袖鼓舞說服別人成為更好的人，同時也有邪教組織利用說服力驅使人們做糟糕的事情。這些說服的技能和策略是相同的，只是看它被用於好的結果還是壞的結果。
顯而易見的是，技術已經被用於做壞的事情，但是我們沒有意識到問題的嚴重性，更別說評估它的風險，所以我們也無法從社會、經濟、政治的層面採取任何措施。這也是為什麼斯坦福大學希望關注技術帶來的問題，去研究技術倫理學、產品設計倫理等。我們希望創造一個基於價值而非基於效用的世界，只追求利潤、投入回報比、商業戰略會讓企業損失很多，比如損失信譽、尊重，這種損失是用金錢難以彌補的。
騰訊研究院：作為一個行為設計師（behavior designer），您如何將價值倫理運用到產品實踐中？
Margarita Quihuis：我們有一套數據標準，可以用這套標準去測量產品，讓測試結果來說明產品效果是不是人看期待看到的。不同的產品經理看待世界的方式不同，他們做出來的產品對用戶影響的差異也會很大。比如，Twitter是由四位男性設計的，很多男性對安全的敏感度遠遠沒有女性強，身為女性的我們如果置身於一段糟糕的關係中，我們也許會被困住被騷擾，甚至有遭遇暴力的風險，如果這種風險發生在Twitter平臺上，可能很難被男性工程師感知，但試想一下，如果發現這種風險的是女性工程師，她們也許會提出一些方法在阻止這些潛在暴力的發生。
我們下一步要做的是將我們的標準產品化，是一套可以記錄的嵌入代碼，可以檢測到用戶是否正在遭受騷擾或是發生異常，然後請工程師立即修正它。它最好的一點在於，如果事情正在往不好的方向發展，我們能早早發現苗頭加以控制，而不是像50年前，香菸已經對人們身體產生負面影響，而直到多年後癌症出現才意識到這個問題。
面對人工智能，我們也建立了Human-Centered Artificial Intelligence (HAI), 去探究當下的算法的公正性如何。因為算法是人在設計和控制，但他們甚至可能並不知道機器和數據集本身是含有偏見的，計算機進一步學習有偏見的數據，產生有偏見的結果。這就跟教育孩子一樣，人們不會故意教小孩子一些不好的東西，都希望他們禮貌、正直。機器和數據是一樣的道理。
騰訊研究院：技術公司踐行「科技向善」的動力何在？
Margarita Quihuis：有一些外部動力。政法監管部門出臺相關法律，嚴厲打擊科技公司，認為互聯網平臺上的某些功能成為暴力事件的幫兇，其平臺效應是推動者。外部的強監管很快讓互聯網產品變得安全。
同時，有很多年輕企業家，他們確實希望做正確的事情，用技術讓世界變得更加美好。我們可以為他們提供工具和框架，他們也十分願意採用，因為他們正在變得越來越價值導向。
事實上，我們的社會正在面臨嚴重的問題，氣候危機、社會極化、信任崩塌，如果我們無法信任彼此，就無法協作解決當下的難題。所以更多的年輕一代會意識到，如果不去做正確的事情，去解決真正的問題，我們甚至會難以生存。
騰訊研究院：在實踐科技向善的過程中，最大的挑戰是什麼？意識還是行動？
Margarita Quihuis：我們覺得最重要的意識的變化，然後才有做某事的慾望。但是當下的情況是，很多企業在轉變的過程中害怕風險，或者不知道如何改變，所以我們致力於研究系統性創新，幫助企業實現積極的轉變。
騰訊研究院：
和平創新實驗室如何定義自己的角色？更傾向於和年輕企業家合作，還是獨立制定標準？Margarita Quihuis：我們制定標準，並將標準工具化給予企業使用。同時，我們也跟企業合作，理由很簡單，誰具有充足的人力、資金來創新性解決問題？當然是企業。我花很多時間去跟想要做創新和轉型的公司CEO溝通，幫助他們制定轉型策略，我的要求是他們的業務必須對社會產生積極的影響、塑造合格的公民。我認為，對於很多已有市場規模的公司來說，還有很多有社會意義的事情可以做，同時這些事情可以盈利，也可以解決社會問題，並且我們可以用技術的方式快速實現這些需求。這是需要創造力和勇氣的事情，有CEO驚喜地發現「哇，這真的可以實現！」所以，我們的機構更像一個保護傘，幫助企業開始一些創新性的嘗試。
騰訊研究院：您怎樣看待當下人工智能產品中的隱私問題？是否有好的解決方案？
Margarita Quihuis：當下的算法黑箱很像90年代的芯片黑箱問題，消費者並不關心電腦中的是AMD還是Intel芯片，於是Intel就在品牌戰略活動中，請第三方來評估芯片的安全性，並將審查證書呈現給消費者，消費者當然願意購買安全性更高的芯片。目前的蘋果隱私上的策略也是這樣，它會說：我們的手機和技術將保護您的隱私。隱私在某種意義上成為了奢侈品，所以蘋果的售價也更高一些。但是這種隱私策略讓一些人成為了蘋果的死忠粉，最終隱私保護變成了市場競爭優勢。
騰訊研究院：您如何理解「科技向善」？
Margarita Quihuis：我們做的事情和「科技向善」是一脈相承的。我們經常談論倫理道德，不要這樣做，不要那樣做。但如果從一張白紙開始，我們想要生活的世界是什麼樣的？有花、有草、有新鮮空氣……然後我們開始填充這張圖片，並逐漸讓它成為現實。如果我們從不想要的東西出發，工程師會無從下手，所以我們需要徹底想象10年、20年後我們期待怎樣的世界，並朝著這個方向努力。我們需要擁有技術，並嘗試找到目標，將其傳達給工程師們。總而言之，技術不是目的，創造更好的世界才是。
2019年9月，騰訊研究院開始陸續深入訪談全球業界與學界大咖，圍繞「何為科技向善」、「如何理解科技向善」的問題，廣而尋求見解與共識。包括最著名的網絡社會學家卡斯特教授、斯坦福和平科技實驗室創始人瑪格麗塔教授、創業者/硅谷投資人邵亦波先生、搜狗創始人兼CEO王小川先生、北京大學國家發展研究院BiMBA商學院院長陳春花女士、北大社會學系邱澤奇教授、清華傳播學系金兼斌教授、北師大複雜科學系張江教授等等，從不同的背景與專業出發，分享了各自的思考。
與此同時，我們還將陸續發佈的【科技向善案例集·產品行動】；【科技向善·大哉問】等等。
「科技向善」這場大型社會實驗的下半場才剛剛開始，而且沒有終點，而且每個人的行為都會影響它的實驗結果。每一個數字公民，都無法置身事外。
若你有更多關於科技向善的好想法，請聯繫我們。
聯繫郵箱：[email protected]
閱讀更多 騰訊研究院 的文章
