人工智能正在路上 “超級(jí)智能”之路又在何方？ 2016年09月27日10:21 來源：證券時(shí)報(bào)網(wǎng)|
如果你了解過關(guān)于人工的各種觀點(diǎn)，那么可能會(huì)非常擔(dān)心“超級(jí)智能”，或者說“殺手人工智能”的出現(xiàn)。
人工智能正在路上“超級(jí)智能”之路又在何方？
《麻省理工科技評(píng)論》近期刊登了艾倫人工智能研究所CEO、華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授奧林·艾奇奧尼（OrenEtzioni）的文章，分析了超級(jí)人工智能出現(xiàn)的可能性。艾奇奧尼的研究結(jié)論是，超級(jí)智能在可預(yù)見的未來還不會(huì)出現(xiàn)。
《麻省理工科技評(píng)論》中發(fā)表的文章與報(bào)告觀點(diǎn)基本類似，以下為文章全文：
如果你了解過關(guān)于人工智能的各種觀點(diǎn)，那么可能會(huì)非常擔(dān)心“超級(jí)智能”，或者說“殺手人工智能”的出現(xiàn)。近期英國《衛(wèi)報(bào)》警告稱，“我們就像是在玩炸彈的小孩”，《周刊》則指出“人工智能正在到來，有可能徹底消滅我們”。
在伊隆·馬斯克（ElonMusk）和史蒂芬·霍金（StephenHawking）等人觀點(diǎn)的支撐下，許多媒體都有過這樣的報(bào)道。實(shí)際上，這種觀點(diǎn)來自一個(gè)人的研究成果：英國教授尼克·博斯特羅姆（NickBostrom），哲學(xué)著作《超級(jí)智能：道路、危險(xiǎn)和策略》的作者。
博斯特羅姆是牛津大學(xué)哲學(xué)家，而對(duì)風(fēng)險(xiǎn)的量化評(píng)估則是保險(xiǎn)精算學(xué)的領(lǐng)域。他或許被認(rèn)為是全球首位“精算哲學(xué)家”。考慮到哲學(xué)是一種概念論證學(xué)科，而風(fēng)險(xiǎn)評(píng)估則是由數(shù)據(jù)驅(qū)動(dòng)的統(tǒng)計(jì)學(xué)工作，因此這樣的頭銜顯得很矛盾。
那么，數(shù)據(jù)告訴我們什么？2011年，作為希臘人工智能協(xié)會(huì)的成員，博斯特羅姆參加了在希臘塞薩洛尼基舉辦的“人工智能哲學(xué)和理論”大會(huì)。當(dāng)時(shí)，他整理了4項(xiàng)調(diào)查的結(jié)果，并給出了人腦水平人工智能在不同時(shí)間點(diǎn)出現(xiàn)的可能性：
2022年：10%。
2040年：50%。
2075年：90%。
關(guān)于人腦水平人工智能的發(fā)展，博斯特羅姆撰寫了一份300頁的哲學(xué)論證，而這4項(xiàng)調(diào)查是最主要的數(shù)據(jù)來源。
為了更準(zhǔn)確地評(píng)估行業(yè)領(lǐng)先研究者的意見，我尋求了美國人工智能協(xié)會(huì)（AAAI）會(huì)士們的幫助。這些研究員對(duì)人工智能的研究做出了重要而持續(xù)的貢獻(xiàn)。
2016年3月初，AAAI幫我發(fā)出了一份匿名調(diào)查問卷，向193名會(huì)士提出了以下問題：“在他的書中，尼克·博斯特羅姆將超級(jí)智能定義為‘在各個(gè)實(shí)際領(lǐng)域，包括科學(xué)創(chuàng)造力、一般常識(shí)和社會(huì)技能等方面，比最出色人腦還要更聰明的智能’。你們認(rèn)為，我們何時(shí)將會(huì)看到超級(jí)智能？”
在隨后的一周多時(shí)間里，80名會(huì)士做出了回復(fù)（回復(fù)比例為41%）。他們的回復(fù)總結(jié)如下：
92.5%的受訪者認(rèn)為，在可預(yù)見的未來超級(jí)智能不會(huì)出現(xiàn)。這一觀點(diǎn)也得到了許多會(huì)士書面內(nèi)容的支持。
即使調(diào)查是匿名的，44名會(huì)士仍決定實(shí)名回復(fù)。這其中包括深度學(xué)習(xí)先驅(qū)吉奧夫·辛頓（GeoffHinton）、來自斯坦福大學(xué)的圖靈獎(jiǎng)獲得者埃德·菲恩鮑姆（EdFeigenbaum）、領(lǐng)先的機(jī)器人羅尼·布魯克斯（RodneyBrooks），以及谷歌的皮特·諾維格（PeterNorvig）。
受訪者也給出了更多看法，摘錄如下：
“可能還需要超過25年時(shí)間。更有可能還要幾個(gè)世紀(jì)。但不可能永遠(yuǎn)無法實(shí)現(xiàn)?！?
“我們正在與人腦數(shù)百萬年的進(jìn)化展開競(jìng)爭(zhēng)。我們可以編寫單一目的程序，匹敵人類，有時(shí)甚至勝過人類。然而，世界并不是由多個(gè)單一問題組成的?！?
“尼克·博斯特羅姆是職業(yè)恐慌傳播者。他的研究所扮演的角色就是尋找人類的現(xiàn)存威脅。他在各種地方都能看出威脅來。我傾向于將他稱作人工智能領(lǐng)域的特朗普?！?
這種調(diào)查的科學(xué)價(jià)值有限。問題表述和受訪者的選擇都可能會(huì)對(duì)結(jié)果帶來影響。然而，這也是博斯特羅姆參考的一種數(shù)據(jù)來源。
另一種研究方法是根據(jù)人工智能當(dāng)前的發(fā)展去推斷未來的趨勢(shì)。然而這也很困難，因?yàn)槲覀冞€無法確定當(dāng)前人腦水平智能的量化指標(biāo)。我們已經(jīng)在象棋和圍棋等領(lǐng)域?qū)崿F(xiàn)了超級(jí)智能，但正如艾倫研究所的研究顯示，我們的程序在美國8年級(jí)科學(xué)考試中還無法及格。
關(guān)于人工智能我們有很多方面的擔(dān)心，無論是對(duì)就業(yè)崗位的影響，還是自動(dòng)化武器系統(tǒng)，甚至超級(jí)智能的潛在風(fēng)險(xiǎn)。然而，當(dāng)前的數(shù)據(jù)并沒有表明，超級(jí)智能將在可預(yù)見的未來誕生。與此同時(shí)，悲觀預(yù)測(cè)通常沒有看到人工智能給人類帶來的幫助，例如預(yù)防醫(yī)療失誤和減少事故。
此外，人類未來有可能與人工智能系統(tǒng)合作，開發(fā)出共生的超級(jí)智能。這將與博斯特羅姆設(shè)想的有害的超級(jí)智能存在很大不同。
責(zé)任編輯：黎晉
