FB訓練一對聊天機械人談判 AI系統竟「失控」自創語言嚇壞人類?

撰文:
最後更新日期:

Bob︰「我可以我我所有其他東西。」

Alice︰「球有零個給我給我給我給我給我給我給我給我給。」

對於你和我,以上對話尤如外星語言;但對於Bob與Alice來說,則是非常有效的談判語言。「他們」並不是人類,而是facebook所發展的人工智能(AI)聊天機械人(chatbot)。當facebook訓練他們學習談判時,竟發現他們創造了人類看不懂的語言,facebook因而關掉了系統。這不禁令人聯想起Tesla創辦人馬斯克的警告︰「發展人工智能形同召喚惡魔。」但facebook的聊天機械人真的失控了嗎?

facebook近日正在訓練其聊天機械人Bob與Alice學習談判,其中一個練習,是要他們談判如何分享有限數目的書本、帽子、籃球。談判過程中,Bob與Alice是以英文對談,但竟發展出不符合英文語法、人類難以明白的英文句子。這並非因為AI失控了,而是因為研究人員在撰寫程式時出了一點錯誤。

facebook發展的兩個虛擬AI聊天機械人Bob與Alice的對話,表面上他們雖以英文來回交談,但句子完全不合符英文的語法。(facebook)

什麼錯誤?「AI系統沒有設置對遵守英文語法的獎勵。」facebook人工智能研究團隊(FAIR)的科學家巴特拉(Dhruv Batra)一語道破了嚇人的現象背後的主要原因。即是說,研究人員並沒有為兩個AI聊天機械人提供任何誘因,驅使他們以人類的方式說話。於是他們開始偏離語法,將詞語組成看似沒意義的句子。

「AI機械人會漸漸偏離可明白的語言,然後自己發明一些代碼。舉例,如果我說了『這個』5次,你會詮釋我的意思為我想要這個物件的5件複製品。這跟不同的人發明速記的方法分別不大。」

事實上,人類由買賣交易到運動競技、以至打仗行軍,都會發展出獨一無二的「語言」,因為有時不遵從語言規則可令溝通更有效--到茶餐廳點杯凍檸茶,侍應會在帳單上寫上「0T」,這些獨特的語言在生活上隨處可見。

▲ facebook訓練AI聊天機械人學習談判的其中一個方法,是要他們分享有限數目的物件,而他們各自的系統中已設定不同的目標。

因此,facebook關掉了AI系統,停止Alice與Bob的對話,不是因為他們「失控」了,而是因為人類根本難以明白他們的說話。「我們的興趣,是發展出可以與人類交談的聊天機械人。」FAIR另一名科學家路易斯(Mike Lewis)說。

現有的聊天機械人能夠與人類作出簡短交談,以及在接收人類指令後完成簡單任務。但要讓聊天機械人能夠與人類作出有意義的交談,仍然相當具挑戰性,因為這需要讓機械人以它對世界的知識去明白人類的意思,再產生新的句子去達到自己的目標。

為了達成這個目標,令聊天機械人不再只是「模仿」人類的一字一句,而是活像一個人類般說話,facebook於6月已公布,他們的AI研究員正在訓練聊天機械人學習談判。

Tesla及SpaceX創辦人馬斯克一直對發展AI保持非常謹慎的態度,他最近甚至說AI是人類文明最大威脅,甚至可以觸發戰爭。facebook創辦人朱克伯格則對AI較樂觀,他於7月底接受訪問時,被問到對馬斯克對AI的說法有何看法,他表示︰「我對此有頗強烈的意見。我是樂觀的。我真的不明白那些拒絕AI並嘗試激起世界末日情境想像的人,這是很負面的,某程度我認為也頗不負責任。」馬斯克其後在Twitter還擊,寫道︰「我跟Mark(朱克伯格)談過。他對這個題目(AI)的理解很有限。」

(綜合報道)

其他精選國際新聞:



X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。