隨著信息技術的發展和社交媒體的普及，利用人工智能技術生成相關信息，進而塑造目標受眾的認知越來越成為各國信息作戰的重要內容。為此，2018年10月，美國陸軍協會陸戰研究所發佈報告《影響力機器——讓自動化信息作戰成為戰略制勝機制》，在人工智能的輔助下，利用算法生成內容、實施個性化的目標鎖定及密集的信息傳播組合而成的“影響力機器”實施信息作戰，將會產生指數級的影響效應。
現由學術plus編譯，僅供參考。文章版權歸原作者所有，觀點不代表本機構立場。
來源：https://www.ausa.org
著名的人工智能專家吳恩達(Andrew Ng)指出：“就像100年前世界的一切因電力而改變，現在也很難想像哪個行業在未來幾年不會因人工智能而發生重大變化。”在這種大勢下，影響力（influence）領域的變化發展將對美國的國家安全產生極為重要的影響。在人工智能的驅動下，新型的信息作戰能夠迅速有效地模擬人類的情感，實現在特定時間、特定地點、以特定方式塑造特定目標受眾的感知。其戰略層面上的影響力遠勝於人工智能技術在其它領域的應用。
一、影響力機器
利用算法生成內容、實施個性化的目標鎖定、密集的信息傳播是人工智能技術驅動下實施信息作戰的三項重要能力，而三種能力的結合被稱為“影響力機器”（the Influence Machine）。其運用過程如下：利用人工智能技術大批量自動生產有說服力的內容。同時，在機器學習的輔助下利用其情感、偏見篩選、鎖定那些心理最易受到影響的目標受眾。最後，將定製的“精神彈藥”快速密集的“射向”目標群體，達到影響其心理、操縱其認知的目的。
利用算法生成內容並非新鮮事物，已經在體育報道和股市分析中得到大量應用，如果將其用於製造虛假信息也是易如反掌。例如，在一段廣為人知的視頻中，“奧巴馬”總統就警告說，深度造假技術將在未來幾年內挑戰我們對真相的認知。而實際上，這段視頻是著名的奧巴馬模仿者喬丹·皮爾將前總統的面孔映射到自己的臉上，用計算機制作的一段虛假視頻。隨著視頻的普及和增強現實等技術的出現，計算機生成的內容不但會變得更加普遍，而且與現實的區別會越來越小。難怪參議員馬克·盧比奧斷言，沒有任何人、政治運動或組織能抑制虛假信息的快速傳播。
經濟學家阿賈伊·阿格拉瓦指出，晶體管小型化大大降低了簡單計算的成本，從而使預測在人工智能的驅動下也逐漸變得廉價。人工智能使用用戶社交媒體數據、經濟媒體互動數據，以及個人電子設備的位置數據進行“訓練”，以實現從目標受眾身上預測信息的目的。可以說，人工智能可以更好的預測目標受眾在想什麼或要做什麼。這在商業上已經得到廣泛應用。例如，亞馬遜公司利用算法向消費者推薦商品，劍橋分析公司使用類似技術，以臉書的用戶為目標製作國際頭條新聞。因此，在人工智能的影響下，克勞塞維茨關於無法對士氣進行分類或計算的假設已經變得不成立。
密集的、不間斷的向目標受眾傳播定製信息是影響力機器發揮作用的最重要一環。在這方面，俄羅斯的網絡水軍就是很好的例證。美國《紐約時報》擁有大約12個Twitter賬號，每天發佈約300條推文，而俄羅斯的互聯網研究局（IRA）在24小時內竟能夠推出2.5萬條推文。俄羅斯互聯網研究局掌握的機器人賬號幫助俄羅斯政府散播相關信息，構建目標受眾的認知，而且其產生的衍生影響也不容忽視。當“精神彈藥”成功地影響目標受眾時，這些受眾會以驚人的速度將這些信息再次傳播到網絡中去，從而極大的改變事實。所以說，“重複是開展信息作戰的關鍵原則”。而下一代網絡水軍通過簡單的強化學習，將採用更快的計算技術，並在5G技術部署後能從更高的網絡速度中獲取更多利益。
二、製造的影響力
當前電子設備無處不在、無時不有，便於在非接觸的條件下大規模影響外國公民。而俄羅斯對影響力機器的作用就有深刻地理解和認識。其利用影響力機器可以不動用槍炮或無人機就瞬時操縱特定選區人民的情緒，不但可以在特定時期達成自身的政策目標，而且還能給對手帶來負面影響。
2016年，俄羅斯對美國大選的種種干擾舉動給美國內部造成嚴重的破壞。由普京數字代理人運營的臉書賬戶引發了60多場線下抗議活動。例如，HeartofTexas和Blacktivist等賬號利用數字手段欺騙美國公民上街遊行達到支持俄羅斯政治目標的作用。俄羅斯人不僅實現了戰略性破壞，而且還發現了非常規戰爭的有用工具，使其不用涉足其他國家就可以挖掘當地居民的抗議潛力。這是俄羅斯數十年來“積極措施”的新應用。未來學家大衛·布林指出，在20世紀20年代和30年代，納粹和斯大林主義者開始利用無線電和公共廣播。到20世紀50年代，蘇聯利用集中控制和整合的網絡廣播和公共廣播系統對國家內部進行影響。而在當前互聯網和社交媒體的作用下，俄羅斯信息作戰的量級和雄心變得更加宏大。
俄羅斯的軍事學說也一直支持對其他國家的“意志”進行戰略打擊。就像俄羅斯戰術家瓦列裡·格拉西莫夫將軍所言：“非軍事手段在政治和戰略目標的實現上作用越來越強，而且在許多情況下，其效力已經超過了武力。”
三、影響力機器的指數化效應
雖然五角大樓認識到人工智能的巨大潛力，但其對人工智能的應用很多都放在了無人駕駛裝備上。例如，各軍種都在探索使用全自動蜂群或由人工智能驅動的一組無人駕駛飛行器的概念。儘管這些項目在戰場中能發揮重要作用，但是其難以產生指數化效應。
影響力機器比人工智能引導的無人武器裝備更具戰略危險性。無人武器裝備可以每小時25英里的速度行進，而在數字戰場上的影響行動可以光速實施。無人機群的射程在500米到幾英里之間，而影響行動卻可以依託網絡達到全球任何角落。無人機有起降點，而影響行動卻難以被溯源。與攻擊烏克蘭電網不同，影響行動的作戰環境是開放的，無處不在的電子平臺也極大的消除了戰場的複雜性。此外，人類的大腦也不會進行“軟件更新”，更不會進行身份驗證。
未來主義者雷·庫茲威爾這樣描述指數化效應，即“關鍵指標，如計算能力，在每個時間單位乘以常數因子（例如，每年翻倍），而不是僅僅逐步增加。”而全球無處不在的電子平臺為影響力機器發揮指數化效應提供了契機。對於影響力機器而言，關鍵指標是受眾的範圍，而常數因子是特定影響的傳播速率。任何物理武器的殺傷範圍都是按照線性來發展的，而影響力機器則完全不同。網絡上每天有39億網民，理論上都在影響的範圍之中，這是任何物理武器都無法比擬的。戰略轟炸也曾試圖以脅迫對手民眾的方式達到戰役目的。與戰略轟炸類似，影響力機器也是要削弱對手民眾的意志，但不同的是影響力機器不會給對手民眾造成相同的體驗，其主要是在對手內部製造分裂，從而使其無法達成統一的戰略目標。
美國參議員馬克·沃納指出：“我們生活的世界存在越來越多的網絡漏洞，錯誤信息和虛假信息可能成為衝突工具。”而影響力機器的目標是改變對象戰略目標的價值。如果影響力機器能對足夠人群的認知進行干擾，就能夠阻止或推遲民主政府對侵略的反應，從而形成一種制勝機制。通過影響行動，降低競爭對手受眾的預期收益，使其國家首腦不願意或無法應對威脅，從而屈服於本方的意志。隨著假新聞與真實新聞的競爭變得驚人，影響機器的出現為“破解”戰爭不變的人性提供了一種新穎的方式。
四、應對舉措
當前，應對影響力機器威脅的工作已經開展。牛津大學的計算式宣傳項目已在多個國家編制了自動化影響報告;德國馬歇爾基金會創建了Hamilton68數據庫，以跟蹤俄羅斯對Twitter的影響；美國國防部高級研究計劃局（DARPA）也正在開發識別深度造假技術的軟件。但謊言的傳播速度總要快於事實，因此單靠駁斥俄羅斯的假新聞是行不通的。
從公開情況來看，美國在數字信息作戰方面的舉措十分有限，僅限於軍事社交媒體“WebOps”和國務院全球參與中心（GEC）的行動。這些工作主要由承包商負責，容易出現失誤並專注於反恐。雖然近年來美國政府確實有一些資金用於數字信息作戰，如國務院全球參與中心的資金超過1億美元，而作戰司令部的Webops資金則高達5億美元，但是美國沒有一個組織負責整合和同步應對影響力機器威脅的行動。儘管國防部是一個值得信賴部門，但軍方不應在這項工作中打頭陣。
2016年的《反虛假信息和宣傳法》使國防部在應對外國影響行動威脅方面發揮支援作用。鑑於當前的技術狀態，國防部必須擁有必要的數據來進行更真實的信息傳播，澄清真相的速度一定要比對手編造傳播謊言的速度快。對於來自戰爭前線的信息，國防部具有先天的優勢。目前，美軍士兵已經開始攜帶攝像機巡邏，並將搭載攝像機的無人機應用於敘利亞和烏克蘭。國防部必須開發利用這類數據的方法，而人工智能提供了相關方法。
值得注意的是，敘事科學等軟件可以產生新聞稿和社交媒體更新，卻不用花費更多人力。美國軍事網絡產生了TB級的任務指揮數據，這些數據與體育、股票和民調的數據標準形同，完全可以由機器取代人開展軍隊的社交媒體信息發佈工作。也有人擔心利用機器會暴露相關行動的細節，但如果華爾街可以信任數百億美元的人工智能交易，也許軍方可以讓計算機管理一些社交媒體賬戶。
（全文完）
《中國電子科學研究院學報》歡迎各位專家、學者賜稿！投稿鏈接
http://kjpl.cbpt.cnki.net
學報電話：010-68893411
學報郵箱：[email protected]
閱讀更多 信息與電子前沿 的文章
