AI引入課堂會帶來巨大風險,算法偏見是人工智能的最大挑戰

AI引入課堂會帶來巨大風險,算法偏見是人工智能的最大挑戰

導讀:大家都在討論人工智能將如何改變課堂,實際上,人工智能並沒有達到人們炒作的程度。

人工智能包括創建計算機系統,來執行那些通常需要人類智力才能完成的任務。目前已經在嘗試實現自動評分,根據學生的個人需求量身定製課程併為英語學習者提供幫助等。

但人工智能引入課堂也會帶來巨大的風險,種族主義等其他算法偏見是人工智能教育領域發展的最大挑戰。

科大訊飛公司副總裁李世鵬在大會上談到了中國公司如何通過個性化作業來提高老師的工作效率。課堂上的時間可以用來解決困擾大多數學生的問題,然後學生們可以通過作業來重點關注自己的弱項。微軟的首席設計策略師瑪格麗特·普賴斯(Margaret Price)提到了一個PowerPoint插件,該插件可以用學生的母語提供字幕,這對於有來自世界各地學生的班級非常有用。師範學院的副教授桑德拉·沖田(Sandra Okita)談到了如何利用AI逐步發現學生們成功或失敗的原因。

但是,目前還沒有哪一個人工智能應用程序被廣泛應用。“傳統學習環境方方面面”的轉變,將“開創人類歷史上一個大膽的新時代”,這僅僅是推廣者所想象的。

隨著技術開發人員快速將人工智能引進課堂和校園,人們開始擔心未來會發生什麼。師範學院的副教授Paulo Blikstein在談到硅谷的公共政變時引發全場大笑,硅谷的技術前景讓我們感到興奮,以至於我們非常高興地配合提供了個人數據,直到後來才意識到這麼做的代價。他說,少數專注科技的首席執行官“對我們的社會造成了巨大的傷害”,“我不希望這種情況在教育中再次發生”。

世界創新教育峰會(WISE)的首席執行官Stavros Yiannouka,參與了卡塔爾基金會的一個項目,也是此次大會的主持人,他認為將人工智能引入課堂存在很大的風險。他指出:“一個人無需為統治世界而制定險惡的目標或計劃,就可以輕易使事情變得糟糕。”布魯金斯學會(Brookings Institution)的研究員,兼Hechinger報告的撰稿人安德烈·佩裡(Andre Perry)談到,除非高科技公司能夠僱用多元化的團隊並有意識地反對不公平,否則很可能會將種族主義和其他的偏見納入到算法裡。

正如Blikstein指出的那樣,人工智能教育應用程序可以分為兩種類型:一種是使用計算機來影響學習方式的工具,另一種是讓學生使用人工智能進行編碼和編程的工具。在我的同事Jill Barshay主持的小組討論中,華盛頓大學的博士候選人Stefania Druga分享了她創建的名為Cognimates的平臺。該平臺使兒童能夠使用人工智能來訓練和製造機器人。

Druga表示,孩子們最初認為機器人是非常聰明的。但是,一旦學會了如何訓練機器人,他們就會產生不同的看法。Druga說:“他們對機器人的看法從原來的比自己聰明,轉變為機器人並不是很聰明。我們看到,孩子們不僅對這些技術越來越挑剔,而且也更加熟練。”

她提到了學生想要完成的一些具有創造性和創新性的項目,包括製造一個聊天機器人來讚美自己(在羅馬尼亞長大的Druga起初並不理解)。Druga說:“我們需要基礎技術,而不是智能技術,這樣就能將重點放在人身上,並使人們能夠做自己最擅長的事情。”在她對Cognimates平臺的評估中,發現那些對人工智能瞭解最多的學生並不是那些花大量時間編寫代碼的學生;反而是那些花費最多時間與同齡人進行討論的學生。這讓我意識到,我們往往是從其他人身上學到最多的知識,同齡人和老師將始終在教育中發揮核心作用。

(來源:The Hechinger Report,由鯨媒體編譯)


分享到:


相關文章: