最聰明的人都在擔心人工智能，你呢？

在2015年第一個星期天的下午，埃隆·馬斯克參加了一場在波多黎各某度假勝地舉辦的閉門會議，會議的主題是井噴式人工智能化。這個詞有點嚇人，因為人工智能的發展似乎脫離了人們的掌控，超出了認知范圍，馬斯克和物理學家霍金都擔心這會在未來給人類帶來災難。

馬斯克這樣的人物都參加的會議，顯然有其重要性。會議有著非常樂觀的主題，“人工智能的未來：機遇與挑戰并存”，是一場史無前例的巨人聚會，匯聚了牛津大學人工智能倫理學家Nick Bostrom、Skype的創始人Jaan Tallinn以及Google的AI專家Shane Legg。

馬斯克和霍金為人工智能潛在的威脅而擔憂。過去的五年中，隨著人工智能的發展，尤其是分支學科深度神經網絡的發展，具有一定人工智能的產品出現在了我們的生活中。Google、Facebook、微軟、百度等公司都在以前所未有的需求招聘人工智能方向的研究人員，并投入數億美元開發出更優算法和更加智能的電腦。

人工智能在幾年前還是那么神秘，現在卻向研究人員敞開心扉。我們有了語音識別系統，Skype實時翻譯，Google無人駕駛汽車，計算機甚至能自行識別貓的視頻，機器狗能像真實的狗那樣行走，以假亂真。

“計算機視覺正處于起步階段，語音識別也剛初見成效。人工智能的發展勢頭越來越強勁。” 康奈爾大學的教授，人工智能倫理學家Bart Selman說道，“這就使得問題更加緊迫。”

在波多黎各舉行的會議上，與會代表們簽署了一份公開信，承諾將指引人工智能走向健康、積極的道路，避免“誤入歧途”。馬斯克也簽下了自己的名字。“這里幾乎集聚了人工智能領域所有最優秀的研究人員，他們都表示安全是最重要的”，馬斯克表示，“我同意他們的意見。”

Google蓄勢待發

9名來自DeepMind的研究人員也在信上簽了名，這是一家Google在去年收購的人工智能公司。

這件事還得追溯到2011年。Demis Hassabis創建DeepMind不久，在一次人工智能報告后，Jaan Tallinn向他毛遂自薦。Tallinn自創建Skype以來，他就成為了一名人工智能布道師。這兩個男人開始討論人工智能，Tallinn也迅速投入到DeepMind的工作中。去年，Google以4億美元的價格收購了這家擁有50名職工的公司，一舉擁有了世界上最頂尖的深度學習方面的人才庫。Google將DeepMind的野心牢牢地抓在了自己的手中，不讓Hassabis接受采訪。但是DeepMind的研究從未停歇，他們致力于讓機器人或者無人自駕汽車能更好的感知周圍的環境。

這使得Tallinn稍有些擔心。他回憶起一次午餐會，Hassabis向大家展示了能玩80年代經典街機游戲Breakout的機器學習系統。該系統不僅使得計算機精通游戲，其變態的效率讓Tallinn非常震驚。一部分人覺得他的產品是未來智能化災難的雛形。

在波多黎各大會上，與會者簽署了一份有關人工智能發展方向的公開信，信中一致認為人工智能的研究應該以系統安全、經濟效益和法律后果等為主。馬斯克也為這項研究撥款1000萬美元。有些企業已經想的更多、做得更好，去年加拿大的機器人公司Clearpath Robotics承諾不會研制軍用機器人。

承諾不研制終結者只是一個步驟。諸如Google的企業還需要考慮智能汽車的安全性和法律責任。計算機算法對人們來講是不公平的，可能會讓一部分人失去工作。例如，為什么亞馬遜的同一件商品在不同的社區售價不同？有什么安全措施保證大宗商品交易市場交易算法不會崩潰？無人駕駛時代的到來，司機們干嘛去？

反對機器人殺手

Binatix是一家和股票市場打交道的深度學習公司，創始人Itamar Arel沒有出席波多黎各大會，但是當他看到那封公開信后爽快地簽了名。“是時候花更多精力去了解用智能機器人接替藍領工人的工作，會帶來怎樣的社會影響，社會跟不上人工智能發展的步伐，這絕對是個問題。”

可以預見，未來的某天破壞性智能大腦會出現在頭版頭條，但是就目前的水平來看，這個問題還是等到幾年后再去擔心吧。很難預測未來到底會發展成什么樣，但是我們可以肯定的是，人工智能會對社會造成影響。

via wired

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。