人工智慧談判 發展出人類無法理解的新語言

臉書(Facebook)想出了讓兩個人工智慧(AI)聊天機器人相互溝通、對話,以學習談判的技巧。結果發現,人工智慧竟發展出人類無法理解的全新語言,如同是有了全新的思考方式一樣,彷彿電影《機械公敵》(I,Robot)的真實版重現。

據外媒報導,臉書人工智慧研究實驗室(FAIR),訓練聊天機器人(chatbot)學習談判技巧,規定聊天機器人需在十輪的對話中達成目標。實驗中,雙方透過談判來「瓜分」一堆物品,聊天機器人知道自己多在意這東西,但是不知道對方會有多想要。

因此,必須從雙方對話中去推斷對方的想法。一般人生活中,常見的談判技巧如殺價、多人對聚餐內容與時間的溝通等,看似簡單的過程,對於人工智慧而言,其實具有複雜的推理及溝通技巧。

這實驗讓機器人慢慢學會制訂長期計畫,且在對話中建構對方的心理狀態。也就是說,兩個機器人藉由機器學習對話策略,結果導致機器人發展出人類無法理解的獨有語言。

研究人員發現後只能中止實驗、進行調整,避開類似情形再發生。透過這個實驗,研究人員也發現,機器人為了達成目標,竟會以說謊的技巧,來達成最後的妥協,這樣的行為並不是研究人員事先編寫(編碼)進去的。兩個機器人一起聊天,互相改進、讓自身的參數升級,便逐漸偏離人類日常交流的語言模式,而發展出自己的語言。

實驗結果被報導後,持反對意見的一方認為,人類無法控制人工智慧未來的發展,將可能造成人類的毀滅。研究人員報告指出,未來的工作還有很多潛在的可能,會朝向如何在不偏離人類語言的模式下,讓人工智慧理解更多推理策略,提高表達的多樣性。【記者  鄒弘整理報導】