Facebook AI Research Lab (FAIR) 研究員日前在訓練 Bob 與 Alice 兩隻 A.I. 智能機械人談判技巧的時候，發生異變，Bob 與 Alice 疑似自創非人類語言進行對話。據悉這是由於程式員寫漏了對 A.I. 使用正確文法加以獎勵的程式；少了這個獎勵誘因，加上機械人使用「自創語言」溝通會更有效率，因此 Bob 與 Alice 在對話時漸漸偏離了人類語言。然而，訓練兩隻 A.I. 智能機械人的原意，是要讓 A.I. 智能機械人與人類交談，因此「自創語言」無意義，研究員目前已關掉兩隻機械人系統，稍後再作研究。
問題是，原來 A.I. 智能機械人懂得自創語言，自行溝通，而不是偏離人類語言後當機（hang）？這樣會否像電影情節，發生智能叛變？
Facebook 智能機械人 Bob 與 Alice 似在用英語交談（上圖），但其文法不通。
Facebook 機械人是這樣學習談判的（上圖）。
【精選消息】
【精選消息】
Machine Learning 是成長過程
香港資訊科技商會榮譽會長方保僑（Francis）表示：「Machine Learning 就如一個嬰兒的成長過程，例如 Siri 語音輸入，最初你要講幾次，讓 Siri 學習辨認你的聲音和意思。」程式語言也在進化，「從前要寫好大堆 code，現在可能一兩個 command 已可執行某個動作。」
可造成冧市
Francis 指出，電腦就是電腦，A.I. 機械人本身沒有 emotion 情感，機械人是經過學習而懂得溝通；如果機械人的某個運算處理器速度，比人類思考還要快，機械人就像擁有智商 190-200，也許懂得重新定義人類語言，並自創更有效率的新語言溝通。
【精選消息】
他提醒業界在發展 A.I. 智能機械人必須非常小心處理：「A.I. 學習就像一個人的成長過程，有人從旁指導就好；如果落入壞人手裡，就不堪設想。例如大家會依賴 A.I. 處理股票交易市場，A.I. 可以造成大冧市；或者落入恐怖份子手中，教了一隻隻邪惡機械人出來，是大災難！」
Source：ezone.hk, thenextweb, theatlantic, dailymail