新型騙子機(jī)器人可能將學(xué)會(huì)欺騙人類
在美國(guó)電影大師斯坦利·庫(kù)布里克的殿堂級(jí)作品《2001太空漫游》中,宇宙飛船上一臺(tái)名叫“哈爾”的智能電腦,劫持了飛船并施計(jì)殺死了4名機(jī)組人員,表現(xiàn)出人工智能的精湛“騙術(shù)”。
一直以來,人們認(rèn)為這只是科幻電影中的場(chǎng)景,但現(xiàn)在,美國(guó)佐治亞州理工學(xué)院的科學(xué)家羅納德·亞金率領(lǐng)的研究小組編寫出了一套計(jì)算機(jī)運(yùn)算法則,該高科技程序能讓機(jī)器人自主決定它是否面臨危險(xiǎn),以及是否應(yīng)該通過欺騙另一個(gè)機(jī)器人或一個(gè)人的方式,讓自己安全地躲藏起來,而不被敵人發(fā)現(xiàn)。
為了防止機(jī)器人濫用“騙術(shù)”,科學(xué)家使其必須先滿足兩個(gè)必要條件后,才能獲得行使欺騙行為的授權(quán):其一,它和搜尋者之間必須有沖突;其二,它可以從欺騙行為中獲得益處。再然后,科學(xué)家利用相互依存理論和博弈論開發(fā)出算法,測(cè)試欺騙行為可以獲得的收益,以教會(huì)機(jī)器人在辨別眼前的形勢(shì)后決定是否需要行使欺騙行為,并讓它能根據(jù)對(duì)“敵方”的了解程度,而調(diào)整欺騙策略以贏取最佳效果。
在實(shí)驗(yàn)中,科學(xué)家讓兩個(gè)機(jī)器人進(jìn)行了20次“躲貓貓”游戲。其中安裝了新程序的“機(jī)器小騙子”多次制造出假的運(yùn)動(dòng)軌跡,順利躲過了另一個(gè)機(jī)器人的搜尋;但該機(jī)器人也會(huì)因?yàn)闆]能成功施展出計(jì)劃中的騙術(shù),被后者逮到而失敗,然而,整個(gè)實(shí)驗(yàn)中,騙術(shù)成功的概率達(dá)75%。研究合作者、工程師艾倫·瓦格納稱:“它雖不甚完美,但仍證明新技術(shù)及算法可使機(jī)器人于雜亂環(huán)境下施行騙術(shù)。”
盡管有些人期待著“機(jī)器小騙子”在軍事上“大展拳腳”,但包括研究者本身在內(nèi)的多數(shù)人,都看到了這其中暗含的倫理問題。他們擔(dān)心,假如某一天人工智能擺脫了人類意志而自行設(shè)下迷魂陣,屆時(shí)現(xiàn)實(shí)版的《2001太空漫游》就將“粉墨登場(chǎng)”。
研究人員一致認(rèn)為,必須保證機(jī)器人這些行為和預(yù)期完全一致并對(duì)社會(huì)有益。他們建議,就“騙子”機(jī)器人的適合性展開討論,爭(zhēng)取制訂出束縛這一系統(tǒng)的規(guī)章制度和指導(dǎo)方針。(記者 張夢(mèng)然)
總編輯圈點(diǎn)
與其說機(jī)器人學(xué)會(huì)了騙人類,不如說是人類在騙自己玩兒,這樣的事隨時(shí)都會(huì)在我們身邊發(fā)生,不算稀奇。這位機(jī)器人兄弟是很了不起,但其本身并不能自主思考,舉手投足間所反映的還是主人的高明。而就人工智能水平而言,亞金這一作品也未超越當(dāng)年因戰(zhàn)勝國(guó)際象棋大師卡斯帕羅夫而名噪一時(shí)的IBM超級(jí)計(jì)算機(jī)“深藍(lán)”。憑藉預(yù)置若干出色的程序,機(jī)器人的行為讓人喜出望外,僅此而已。這時(shí)候就談?wù)撓嚓P(guān)的倫理問題,未免有嘩眾取寵之嫌。
熱點(diǎn)圖片
- 頭條新聞
- 新聞推薦
最新專題

- 強(qiáng)國(guó)必先強(qiáng)教,強(qiáng)教必先強(qiáng)師。今年9月10日是我國(guó)第41個(gè)教師節(jié),主題是“以教育家精神鑄魂強(qiáng)師,譜寫教育強(qiáng)國(guó)建設(shè)華章”。

