3

1942年,美國著名科幻小說家、文學(xué)評論家艾薩克·阿西莫夫(Isaac Asimov)在作品《我,機器人》中提出了“機器人學(xué)三定律”,該理論被稱為“現(xiàn)代機器人學(xué)的基石”。恩格爾伯格第一次遇見George Devol時就討論了這個哲學(xué)原理。
阿西莫夫提出:
第一法則:機器人不得傷害人類,或坐視人類受到傷害;
第二法則:除非違背第一法則,機器人必須服從人類的命令;
第三法則在不違背第一及第二法則下,機器人必須保護自己。
然而,今天,“機器人學(xué)三定律”中第一法則被打破了。

據(jù)《華盛頓郵報》日前報道,機器人公司Alexander Reben設(shè)計了一款機器人,它會主動傷害人類(就是上圖這個)。如果你把手指頭放到這個機器人前面,那么它就有可能會扎你一下!當(dāng)然,這一扎不會打來嚴(yán)重的傷害,但也會刺出血。

到目前為止,這個機器人已經(jīng)扎破了好幾個人的手指。而奇怪的是,它甚至是選擇性出擊的。它不是但凡識別到什么就出擊,有時候,當(dāng)你把手指頭放在它面前,它卻毫無反應(yīng),不會扎過來——是否會出擊的不確定性,讓人想起來更覺可怕。
對于這個動機,連它的設(shè)計者也不清楚原理,就像AlphaGo是如何算出神之一手的,它的發(fā)明者也不知道。Alexander Reben的董事兼CEOAlexander Reben是美國加州一名機器人專家,同時也是一位藝術(shù)家。他表示:“它做出是否扎人的決定過程是我無法預(yù)測的。這臺小機器人依靠內(nèi)置的程序,并未采用機器學(xué)習(xí)或者人工智能技術(shù)用于決策過程,但也并非完全屬于50:50的對半開概率。我也不知道它扎人的概率有多大。”“我把它當(dāng)作一種有型的哲學(xué)。”
他指出,這臺小機器人和當(dāng)前其他機器人都不甚相同,它不會逗你玩,而是世界上第一臺“自主并有意”違反所謂“機器人第一法則”的機器人。與用于作戰(zhàn)的軍用機器人相比,后者對人類的攻擊并不是機器人的決策,而是受到背后人類發(fā)出的作戰(zhàn)指令而行動的。
不過,據(jù)介紹,這個違法法則的設(shè)計也不那么復(fù)雜:受電影《傻瓜大鬧科學(xué)城》(Sleeper)中那個抱在懷里就能讓人產(chǎn)生愉悅感受的“pleasure orb(快樂球)”的啟發(fā),Reben最初的設(shè)計是一臺連著一個金屬臂的“自動梳頭機”,它能讓人感到舒適。人們坐在椅子里后,這個梳頭小機器人就會給你做頭皮按摩。Reben表示,這樣的場景會在人與機器人之間產(chǎn)生出一種某種令人不安的親密感。“在這種情況下,機器會讓人緊張地發(fā)抖。人們會感覺非常非常詭異。”
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。