新聞?wù)航酉聛砦覀兙涂吹搅恕皺C(jī)器人殺人”這樣的新聞標(biāo)題,以及這些文章對科技名人“人工智能威脅論”的引用,比如霍金的“人工智能會導(dǎo)致人類滅絕。” 真正的人工智能的出現(xiàn),或許超越常人的庸俗想象。它在出現(xiàn)之后,就會自我優(yōu)化,自我擴(kuò)張,提升智能,直到計算能力也就是其智力超越人類幾千萬倍。隨著人工智能越來越近,人們對人工智能的渴求也愈加狂熱,從而產(chǎn)生了一些遍地開花的謬誤。
1、我們造出了像人腦一樣的計算機(jī)
今天大小科技公司都在談人工智能,而神經(jīng)網(wǎng)絡(luò)計算則是說明自己技術(shù)前沿的最佳例證。當(dāng)它的原理被市場部們幾經(jīng)簡化之后,已經(jīng)變成“像人腦神經(jīng)網(wǎng)絡(luò)一樣工作”。
但是1980年就已經(jīng)出現(xiàn)的神經(jīng)網(wǎng)絡(luò)計算和人腦只有極為模糊的聯(lián)系。一個大問題是科學(xué)家目前根本不知道人腦里那張由無數(shù)神經(jīng)元突觸組成的網(wǎng)絡(luò)究竟是怎么“計算”的。正如伯克利大學(xué)人工智能與機(jī)器學(xué)習(xí)專家邁克爾?喬丹(MichaelI.Jordan)所說的:
“我們完全不知道大腦是怎樣存儲信息和運(yùn)作的,這里頭的規(guī)則是什么?是什么算法?因此我們現(xiàn)在還不能說用大腦的理論去指導(dǎo)人工智能系統(tǒng)。”
2、它通過了圖靈測試,所以它有智力
你一定還有印象,2014年出現(xiàn)過這樣的新聞標(biāo)題:“俄羅斯團(tuán)隊開發(fā)人工智能機(jī)器人,首次通過圖靈測試。”這臺名為Eugene Goostman的計算機(jī)被描述為“把自己偽裝成十三歲的男孩,騙過了超過30%的評測人員。”
計算機(jī)科學(xué)之父艾倫?圖靈在1950年首次提出了這個關(guān)于機(jī)器人是否可以思考的著名實(shí)驗:人類測試員在不知情的情況下面對計算機(jī),用文字和其交談,如果計算機(jī)成功欺騙了測試人員假裝成一個真實(shí)的人類,那么該計算機(jī)便被證實(shí)“會思考”。
后來英國皇家學(xué)會將圖靈的標(biāo)準(zhǔn)具體化:在一系列時長為5分鐘的鍵盤對話中,只要計算機(jī)被誤認(rèn)為是人類的比例超過30%,那么這臺計算機(jī)就被認(rèn)為通過了圖靈測試。
一年一度的LoebnerPrize比賽便以此標(biāo)準(zhǔn),這個大賽也早就出現(xiàn)了“通過測試”的機(jī)器人,比如2011年的Cleverbot程序達(dá)到59%的通過率。
Eugene Goostman的批評者認(rèn)為,這個所謂機(jī)器人就是單純地為了通過這個5分鐘測試而設(shè)計的,編寫者還頗有心機(jī)地把它設(shè)定成一個13歲的非英語母語的小孩,以便在很多問題無法回答或者出現(xiàn)錯誤的時候,讓裁判誤以為這是因為他年齡小而產(chǎn)生的語無倫次。也就是說,Goostman既不是“第一個通過測試”的程序,也不是一臺人工智能機(jī)器人。
話說,想讓計算機(jī)蒙混過關(guān)并不復(fù)雜,這里還有10個伎倆,有興趣的話可以看看。
3、這個機(jī)器人的智力已經(jīng)接近XX歲的兒童
“百度內(nèi)部有個‘百度大腦’的項目,用技術(shù)模擬人腦思維,現(xiàn)在大約已經(jīng)相當(dāng)于2-3歲孩子的智力水平。未來十幾二十年,這樣的大腦或許比人腦還要聰明。”這話出自百度CEO李彥宏。
給人工智能程序定義年齡的還有不少,比如伊利諾大學(xué)芝加哥分校的研究者,他們對一臺計算機(jī)做了IQ測試,最終的結(jié)果是機(jī)器人的“智力”已經(jīng)接近4歲的人類兒童。而微軟小冰的營銷文案中,這個語音助理被定義為“一個17歲的萌妹子”。
瑞典的科學(xué)家在2012年開發(fā)了一個據(jù)稱智商達(dá)到150的人工智能程序,媒體的報道稱它“擊敗96%的人類”。
但如果這些科技公司能拋開營銷的廢話,誠實(shí)地談?wù)撟约旱娜斯ぶ悄堋!斑@個機(jī)器人的智力相當(dāng)于5歲的智力受挑戰(zhàn)的兒童”可能是比較好的說法。
首先,智力測試本身就存在爭議。智力由三種能力組成:短期記憶力、推理能力和語言能力。三個變量相互作用,也許你會在推理方面天賦秉異,但記憶力并不好。一套由11個項目組成的考試題并不能全面反映智力的水平。
上面提到的Jeff Hawkins說,人類的大腦能學(xué)習(xí)幾乎所有東西,比如兩三歲的孩子已經(jīng)能夠掌握至少一門的語言、能從極其復(fù)雜的環(huán)境中一眼認(rèn)出父母,不管他們的站姿和表情。人工智能相距甚遠(yuǎn),更不用說搞清楚“智力”這種玄乎的東西了。
4、算法正在控制一切
“通過算法,我們可以比人做出更好的選擇”,每隔幾年,這樣的論調(diào)都會重復(fù)一次。2005年創(chuàng)立、用機(jī)器聚合科技網(wǎng)站新聞的Techmeme使用了算法自動抓取互聯(lián)網(wǎng)上的新聞內(nèi)容。但事情在這幾年發(fā)生了些變化。
2008年,Techmeme招聘了前《連線》雜志的科技記者M(jìn)egan McCarthy,她的任務(wù)是對計算機(jī)挑選的新聞進(jìn)行人工干預(yù)。Techmeme創(chuàng)始人Gabe Rivera說,純算法推送的內(nèi)容存在問題,比如質(zhì)量參差不齊以及推送時機(jī)不對。理想的新聞聚合網(wǎng)站是采用“自動 人工”混合模式,這能夠更有效地處理新聞,彌補(bǔ)人或計算機(jī)的不足。
現(xiàn)在,Techmem維持著一個9人的編輯團(tuán),用人工進(jìn)一步挑選新聞。
另一個出現(xiàn)逆轉(zhuǎn)的是智能助手,以Siri為代表的智能助手描繪了這樣一個未來:你對著麥克風(fēng)說一句話,人工智能便幫你打理好一切,不管那是訂餐、找電影票還是看球賽結(jié)果。但國內(nèi)外新近出現(xiàn)的助手式生活服務(wù)為了保證準(zhǔn)確率,已經(jīng)基本轉(zhuǎn)向人工處理。甚至Facebook新推出的FacebookM也是人工幫助處理請求,機(jī)器學(xué)習(xí)人的工作方式。
至少相當(dāng)長的一段時間,算法與人工還是相互輔助的關(guān)系。
5、這臺機(jī)器人已經(jīng)學(xué)會自我繁殖
最近劍橋大學(xué)的實(shí)驗室里就誕生了一臺被媒體冠以“會生孩子”名頭的機(jī)器人,它的“母體”是一只機(jī)械手臂,“嬰兒”則是一個個3D打印的藍(lán)色小立方塊,每個方塊內(nèi)有一個獨(dú)立的電動馬達(dá)。
關(guān)于機(jī)器人繁殖的腦洞,現(xiàn)代計算機(jī)之父馮諾依曼曾指出:任何能夠自我繁殖的系統(tǒng)應(yīng)該同時具有兩個基本功能:它必須能夠構(gòu)建某一個元素,并且用這些元素組裝和自己一樣的下一代;它必須能夠把對自身的描述傳遞給下一代。這么來看,這臺所謂“會生孩子”的機(jī)器人并不符合“繁殖”的定義。
就算哪天會有能像病毒一樣傳播的人工智能,它的影響也非常有限,因為能毀滅人類的計算機(jī)需要實(shí)體,人工智能專家、OnIntelligence一書的作者JeffHawkins就說過:“你能想象它(人工智能)自己組建一個工廠然后不停地生孩子嗎?”
6、終結(jié)者來臨,機(jī)器人都會殺人了
今年7月,德國大眾汽車的一家外包工廠里用作流水線組裝的機(jī)器人成為了眾矢之的:在作業(yè)中,這臺機(jī)器手臂突然抓住一名人類工人,后者被重重地壓在金屬板上導(dǎo)致胸部受重傷,繼而死亡。
接下來我們就看到了“機(jī)器人殺人”這樣的新聞標(biāo)題,以及這些文章對科技名人“人工智能威脅論”的引用,比如霍金的“人工智能會導(dǎo)致人類滅絕。”、馬斯克的“人工智能的危險性高于核武器。”
不過具體到大眾的“終結(jié)者”,事情其實(shí)和車禍沒什么區(qū)別。大眾汽車證實(shí),這起事故來自“人為操作失誤”,殺人的“機(jī)器人”雖然可以經(jīng)過編程自主完成動作,但它和“人工智能”還差了十萬八千里。
第一起記錄在案的工廠機(jī)器人致死事件發(fā)生在1979年福特的美國工廠。自此這類事件平均每年發(fā)生不到一起──比起車禍來基本不值一提。
7、人工智能的外形,一定要像人
日本有位知名的人工智能專家石黑浩,他做的事情就是把機(jī)器人造的十分接近人類,他甚至喪心病狂地復(fù)制了一個自己。
我們常常幻想著有一個和我們?nèi)祟愐荒R粯拥臋C(jī)器伴侶,但別指望他(她)會幫你做家務(wù),因為在那之前你已經(jīng)被嚇壞了。根據(jù)“恐怖谷”理論,機(jī)器人如果真能達(dá)到100%的和人類相似,人類的反應(yīng)是積極而正面的,但在此之前“像又不是很像”的階段,比如石黑浩的機(jī)器人,反而會讓人感覺見到行尸走肉一樣恐怖。
是不是覺得圓滾滾的掃地機(jī)器人溫暖又可愛呢?
8、機(jī)器人會遵循阿西莫夫的三定律
科幻小說家阿西莫夫在1942提出了著名的“機(jī)器人三定律”:機(jī)器人不得傷害人類,或因不作為使人類受到傷害;除非違背第一法則,機(jī)器人必須服從人類的命令;在不違背第一及第二法則下,機(jī)器人必須保護(hù)自己。
盡管科幻小說愛好者都將它當(dāng)成未來的基本規(guī)律。但事實(shí)上,讓機(jī)器決定人的生死并不是異端。在全球已經(jīng)有超過30個國家配備了“致命性自主武器系統(tǒng)”,未來戰(zhàn)爭的一些區(qū)域有可能是人工智能在一些區(qū)域自助決定是否射殺屏幕上出現(xiàn)的運(yùn)動物體。
從軍隊角度,人工智能決定生死有諸多好處,比如它會堅決地執(zhí)行任務(wù),并且殺人的機(jī)器不會有負(fù)罪感。完全由人工智能決定生死意味著不再需要無人機(jī)操作員扣下扳機(jī)。白天在弗吉尼亞的封閉樓宇里遠(yuǎn)程操控?zé)o人機(jī),晚上和家人一起吃飯看到誤炸新聞并不是一份輕松的工作。
人工智能決定生死毫無疑問會引起許多爭議。2013年5月,由它引發(fā)的道義、倫理、人權(quán)問題首次被提到聯(lián)合國人權(quán)理事會。但這并不是一場一邊倒的爭論,阿西莫夫的三定律不一定是我們將會面對的未來。
9、我的人工智能可以……因為它會深度學(xué)習(xí)
大約從Google收購DeepMind開始,深度學(xué)習(xí)就成了每個和人工智能沾邊的創(chuàng)業(yè)公司掛在嘴邊的神器。似乎只要有了據(jù)說“像大腦一樣學(xué)習(xí)”的“深度學(xué)習(xí)”,你的手機(jī)就一定能在嘈雜的環(huán)境下聽懂你說的每個詞并帶著語氣翻譯出來;就一定能認(rèn)出眼前那位姑娘穿的衣服,并在淘寶上找到同款。
“深度學(xué)習(xí)”在創(chuàng)業(yè)公司的宣傳語中已經(jīng)快變成半個世紀(jì)前無所不能的“社會主義”。
有超過30年人工智能研究經(jīng)驗的學(xué)者,facebook人工智能總監(jiān)YannLeCun這么解釋深度學(xué)習(xí):創(chuàng)造學(xué)習(xí)機(jī)器,用同一種方法訓(xùn)練它學(xué)習(xí)一切。
作為一個訓(xùn)練系統(tǒng),海量的訓(xùn)練依然是基礎(chǔ),這是許多創(chuàng)業(yè)公司沒能做好的。
并且即便有海量的訓(xùn)練,原先的限制依然存在。當(dāng)Google經(jīng)過海量訓(xùn)練,用深度學(xué)習(xí)讓機(jī)器認(rèn)出貓的時候,機(jī)器只能在貓正臉朝著鏡頭的時候確保認(rèn)出它。
“把人工智能比作大腦,是給它賦予了一圈神奇的光環(huán),這種描述是危險的,將導(dǎo)致天花亂墜的宣傳。”
LeCun說道:
“這樣的描述能給投資機(jī)構(gòu)、公眾、潛在客戶、創(chuàng)業(yè)公司和投資人帶來一個預(yù)期,讓他們相信我們正處在時代的前沿,相信我們正在打造一個像大腦一樣強(qiáng)大的系統(tǒng)。實(shí)際上我們距離這個目標(biāo)還非常遠(yuǎn)。”
10、埋頭苦干幾個月,機(jī)器人就有自我意識了
科幻電影中的人工智能總給人一種非常樂觀的印象:開發(fā)出一個有模有樣的機(jī)器人非常簡單。
比如在《超能查派》中,主角機(jī)器人在一個類似車庫的雜物間里被改裝,從誕生起它就可以快速的自我學(xué)習(xí),沒幾天就長成了成年人。《鋼鐵俠》系列中有著英式口音的超級人工智能管家JARVIS出自TonyStark那間浮夸的實(shí)驗室。《超驗駭客》里,Johnny Depp飾演的科學(xué)家能輕松地在自己家里上傳意識,繼而成為了不死的虛擬人。
別以為現(xiàn)實(shí)里的科學(xué)家都這么厲害。Artificial Intelligence:AModern Approach的作者、加州大學(xué)的StuartRussell教授說,單槍匹馬、閉門造車地開發(fā)人工智能機(jī)器人實(shí)在太不現(xiàn)實(shí)了,這樣的工作往往需要一個科學(xué)家團(tuán)隊,成果的出現(xiàn)也必然是長久和緩慢的過程。
關(guān)于上傳意識,Russell教授直接說這是“無稽之談”,因為人類自己連“意識”到底是什么還說不清楚呢。
11、我們復(fù)制你的記憶,用人工智能技術(shù)讓你作為虛擬人永生
一家數(shù)據(jù)分析和人工智能方向的創(chuàng)業(yè)公司說,他們能打造一個虛擬的你,模仿你的一切元和思維,這意味著你的記憶會被永不磨滅地保留下來,你將得到永生。
先別做這么好的美夢,這家公司存下來的只是社交網(wǎng)絡(luò)、郵件之類的數(shù)據(jù)而已,現(xiàn)在沒有任何辦法移植記憶。原因挺簡單,沒人知道大腦究竟怎么存儲記憶。事實(shí)上,就連記憶存在大腦的什么地方都是未解之謎,更別提什么保存記憶了。
或者讓我們更(笨拙地)哲學(xué)一點(diǎn),到底什么才算是“記憶”?你記得的那些,還是你認(rèn)為你記得的那些?
摘自 物聯(lián)世界