據彭博社報道，馬斯克倡導成立的AI研究機構OpenAI週四展示一款軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。
OpenAI公佈了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎，軟件編寫出由7個段落組成的新聞，軟件還引述政府官員的話語，只是這些信息全是假的。
紐約大學計算機科學家山姆·鮑曼（Sam Bowman）認為：“軟件根據提示生成的文本相當驚人，從品質上講，它所做的事比之前我們看到的複雜很多。”
假新聞引起人們的擔憂，OpenAI對此心知肚明，OpenAI政策主管傑克·克拉克（Jack Clark）說：“它可以生成連貫但不準確的虛假信息，其目的並不是很好。”
正因如此，OpenAI不會披露或者發佈軟件的複雜版本。它只是開發一個工具，讓政策制定者、記者、作家、藝術家用算法做實驗，看看能編寫什麼文本信息，或者能否做其它事情。
目前虛假信息正在蔓延，威脅全球科技產業，而軟件能夠編寫逼真的虛假新聞不是一個好消息。歐洲監管機構已經向科技企業發出警告，如果科技公司不採取強有力措施，防止產品影響選民意願，它們就會採取行動，自2016年美國大選以來，Facebook一直在努力，希望控制虛假信息。
克拉克和鮑曼都認為，系統雖然很強大，但其能力沒有強到可以馬上帶來威脅。克拉克說：“這不是一項馬上能投入使用的技術，這是好事。”
OpenAI的工具是為了所謂的“語言建模”任務創造的，它要根據所有之前的單詞預測接下來的文本會是怎樣的，有點類似於我們在手機上寫郵件時自動補充文本信息。它還可以用來執行翻譯、開放式問答任務。
OpenAI研究人員傑夫·吳（Jeff Wu）舉例說，我們也許可以用工具幫助作家尋找創意或者生成對話。又例如，也許可以用工具檢查語法錯誤，查看軟件代碼是否有漏洞。優化軟件之後，未來也許還能為企業或者政府決策者提煉總結性文本。
在過去一年裡，研究人員在語言處理方面取得巨大進步。去年11月，谷歌開發出一個強大的算法BERT，它可以理解並回答問題。早些時候，艾倫人工智能研究所也在自然語言方面取得突破，開發出一種名叫Elmo的算法。
鮑曼認為，BERT和Elmo可以說是過去5年該領域最重大的突破，相比來說，雖然OpenAI算法也很重要，但是革命性沒有BERT那麼強。
馬斯克是OpenAI的聯合創始人，不過去年他已經退出董事會。
閱讀更多 融知天下 的文章
