上月末,美國社交媒體臉書公司創始人馬克·扎克伯格與特斯拉公司首席執行官埃隆·馬斯克激辯人工智能。前者對人工智能持樂觀態度,而后者稱其為人類文明的威脅。
不過,在臉書開發的聊天機器人自創出人類無法理解的語言后,或許扎克伯格也得同意馬斯克的觀點了。
據美國投資咨詢網站“價值散步”7月31日報道,上周末,臉書不得不關閉其人工智能系統,原因是聊天機器人開始用自創語言對話,全然無視程序員下達的指令。“由于情況失控”,研究人員只得終止人工智能系統的全部活動。
臉書公司還公布了聊天機器人鮑勃和愛麗絲的對話節選(直譯)。
鮑勃說:“我能能我我所有事其他。”
愛麗絲說:“球(復數)有零對我對我對我對我對我對我對我對我對。”
報道稱,研究人員起初對機器人用自創語言聊天一事感到困惑,但之后他們發現,機器人其實是在用一種更復雜的方式來處理手頭任務。
臉書的人工智能研究人員杜魯夫·巴特拉認為,就像有時人們會“抄近道”用行話對話、以便快速解決問題一樣,人工智能機器人也會自創語言,做類似的事。
巴特拉說:“為什么計算機必須在英語語言界限范圍內工作,如果它們能用一種看上去(對它們來說)更好的語言彼此更快地溝通?”
報道稱,即便巴特拉所言有理,人工智能可自創語言也構成新威脅,因為這將使研發人員在創造構建人工神經網絡時遭遇更大困難。目前,尚不清楚人工智能機器人能否推翻操作人員的指令。
在圍繞人工智能的隔空論戰中,馬斯克認為,人工智能對人類文明是一個“可怕的問題和威脅”。他認為,智能機器可能會引發戰爭或者在街頭殺人,因此需要對智能科技提早加以管控,等到發生嚴重后果則為時已晚。
而扎克伯格對人工智能持樂觀態度。他說:“對于那些認為人工智能會導致末日的‘悲觀主義者’,我并不能理解他們,他們太過于消極。從某種角度看,我認為他們很不負責任。”(海洋)【新華社微特稿】