人工智能有哪些益處？在過去的幾十年中，人工智能在我們的生活中已司空見慣。我們利用依賴于人工智能的全球定位系統(tǒng)為旅行制訂計(jì)劃，從復(fù)雜的數(shù)以百萬計(jì)的路線中找到最好的一條。我們的智能手機(jī)理解我們的語言，Sii，微軟小娜（注：微軟發(fā)布的一款個(gè)人智能助理系統(tǒng)）和Google Now(注：谷歌推出的一款語音助手應(yīng)用程序)在理解我們的意圖方面做得越來越好。我們用手機(jī)照相時(shí)，人工智能可以檢測(cè)到人臉，我們把那些照片上傳到臉書時(shí)，人工智能能識(shí)別出不同人的面部?；ヂ?lián)網(wǎng)搜索引擎，如谷歌和必應(yīng)，是基于一個(gè)人工智能的子系統(tǒng)。每天，人工智能都為數(shù)億人提供搜索結(jié)果、交通預(yù)測(cè)、圖書和電影推薦。人工智能在不同語言間實(shí)時(shí)翻譯，通過猜測(cè)我們的下一步動(dòng)作加速我們?cè)诠P記本電公司都在研究可以自主駕駛的汽車一在人的監(jiān)督下半自動(dòng)或全自動(dòng)駕駛。除了對(duì)我們?nèi)粘Ｉ畹挠绊懼?，人工智?span id="dh61zid" class="wpcom_tag_link">技術(shù)在科學(xué)和醫(yī)藥領(lǐng)域也扮演著重要的角色。人工智能在醫(yī)院中幫助醫(yī)生了解哪些病人患并發(fā)癥的風(fēng)險(xiǎn)最高，人工智能算法也有助于在龐大的數(shù)據(jù)堆中找到重要的東西。例如，人工智能近期已被應(yīng)用于發(fā)現(xiàn)藥物之間不易察覺的相互作用，這些相互作用可能因嚴(yán)重的副作用而將病人置于危險(xiǎn)之中。人工智能如何具有危險(xiǎn)性？多數(shù)研究人員認(rèn)為人工智能不可能具有愛、恨等人類的情感，沒有理由期待人工智能變得友善或者兇狠。相反，考慮到人工智能可能如何成為隱患時(shí)，專家們認(rèn)為以下兩種情況很有可能出現(xiàn)：人工智能被設(shè)定執(zhí)行一些破壞性的活動(dòng)。自主式武器就是被設(shè)定為進(jìn)行殺戮的人工智能程序。這些武器在壞人手中，很容易造成大量傷亡。此外，人工智能軍備競賽可能會(huì)無意地引發(fā)人工智能戰(zhàn)爭，同樣會(huì)造成大規(guī)模傷亡。為避免被敵方阻撓，這些武器被設(shè)計(jì)為很難輕易關(guān)閉，因此人類似乎有可能對(duì)此失控。目前連弱人工智能都存在這種危險(xiǎn)，隨著人工智能程度和自主化的提升，其危險(xiǎn)性會(huì)隨之增加。人工智能被設(shè)定來做好事，但為達(dá)目標(biāo)，它發(fā)展出具有破壞性的方法。當(dāng)我們不能將人工智能的目標(biāo)與我們的目標(biāo)保持完全一致（這很難）時(shí)，這種事情就會(huì)發(fā)生。如果你要求順從的智能汽車盡快帶你去機(jī)場，它可能以快于直升機(jī)的速度帶你去機(jī)場，并淹沒在你的嘔吐物中，雖然違背你的意愿，但表面上卻是在按你的要求做事。如果超強(qiáng)人工智能系統(tǒng)被安排執(zhí)行一項(xiàng)躊躇滿志的地球工程項(xiàng)目，它帶來的副作用可能是嚴(yán)重破壞我們的生態(tài)系統(tǒng)，并將人類試圖阻止它的行為視作威脅。正如這些案例所表明的，人們擔(dān)憂的不是高級(jí)人工智能的惡意而是它的能力。你可能不是一個(gè)出于惡意踩死螞蟻的螞蟻憎恨者，但如果你掌管著一個(gè)水電綠色能源項(xiàng)目，在需要淹沒的區(qū)域中有一個(gè)螞蟻窩，那螞蟻們就要遭殃了。人工智能安全研究的一個(gè)主要目標(biāo)就是永遠(yuǎn)不讓人類淪落到螞蟻一樣的境地。近期人們?yōu)槭裁搓P(guān)注人工智能的安全？近期，史蒂芬·霍金、埃隆·馬斯克、史蒂夫·沃茲尼亞克、比爾·蓋茨以及其他許多科學(xué)和技術(shù)領(lǐng)域的大腕都通過媒體或公開信表達(dá)了對(duì)人工智能引發(fā)的風(fēng)險(xiǎn)的擔(dān)憂，許多杰出的人工智能研究者也同意他們的觀點(diǎn)。為什么這個(gè)話題突然成為頭條熱點(diǎn)呢？數(shù)百年來甚至更長期以來，追求強(qiáng)人工智能終會(huì)成功被認(rèn)為只出現(xiàn)在科幻小說里。然而，由于近期的重大突破，專家們五年前認(rèn)為尚需幾十年時(shí)間的人工智能里程碑式進(jìn)展，現(xiàn)在都已實(shí)現(xiàn)，這讓很多專家認(rèn)真思考在我們的有生之年超強(qiáng)智能發(fā)生的可能性。雖然一些專家仍舊猜測(cè)類人級(jí)別的人工智能還需要數(shù)百年的時(shí)間才能實(shí)現(xiàn)，然而在2015年波多黎各大會(huì)上，大多數(shù)人工智能研究者清測(cè)這種情況在2060年之前就將實(shí)現(xiàn)。由于完成必要的安全研究需要幾十年的時(shí)間，現(xiàn)在就開始是明智的選擇。因?yàn)槿斯ぶ悄苡锌赡茏兊帽热魏稳硕悸斆?，我們沒有萬無一失的辦法來預(yù)測(cè)它將來的表現(xiàn)。我們不能過多地將以往的技術(shù)發(fā)展作為基礎(chǔ)，因?yàn)椴还苁怯幸獾剡€是無意地，我們從來沒有創(chuàng)造過比我們更聰明的東西。對(duì)于我們可能面臨什么，最好的例證或許就是我們自身的演變。人類現(xiàn)在控制地球，不是因?yàn)槲覀兪亲顝?qiáng)大的，最快的或者最龐大的，而是因?yàn)槲覀兪亲钣兄腔鄣摹Ｈ绻覀儾辉偈亲钣兄腔鄣?，那我們還有把握掌控一切嗎？美國生命未來研究所認(rèn)為只要我們能在日益發(fā)展的技術(shù)力量與我們掌控技術(shù)的智慧之間的較量中取得勝利，我們的文明就將繁榮昌盛。至于人工智能技術(shù)，生命未來研究所認(rèn)為贏得較量的最佳方式不是阻止前者的發(fā)展，而是通過支持人工智能的安全研究，壯大后者。