新浪科(kē)技(jì)訊 北(běi)京時(shí)間(jiān)£₩β7月(yuè)9日(rì)消息，以下(xià)為(wèi)Gγ±☆∞eorge Dvorsky對(duì)超級人(rén)工(→↑€gōng)智能(néng)的(de)看(kàn)法：我相(xià<σ↕ng)信，機(jī)器(qì)智能(né♣±ng)将是(shì)人(rén)類種下(xià)的(de)最後£"禍根。這(zhè)二十多(duō)年(nián)來(l>★→∑ái)，我所想的(de)和(hé)寫的(de)，大(dà)多(duō)和± ≥(hé)機(jī)器(qì)智能(néng)毀滅人(rén)類的(de)潛力有≤π(yǒu)關。我為(wèi)此受到(dào)了(le)諸多☆&(duō)抨擊，但(dàn)我還(hái)是(shì)想說(shuō)，我€☆們不(bù)能(néng)忽視(shì)這(zhè✘↔¥)樣的(de)未來(lái)可(kě)能(néng)性：¶¥↔人(rén)類文(wén)明(míng)≤←或毀于自(zì)己發明(míng)的(de)工(gōng)具。
反對(duì)“超級人(rén)工(gōα ≠ng)智能(néng)毀滅人(rén)類”這(zhè)個(gè)想法的(d≤≠e)觀點不(bù)在少(shǎo)數(shù≤β)，其中一(yī)個(gè)反對(duì)δ¥γ★觀點出乎意料地(dì)常見(jiàn)，而我卻覺得(de)十÷<分(fēn)荒唐。它不(bù)是(shì)說(sh÷≠βuō)超級人(rén)工(gōng)智能(néng)本身(shēn)不(bù)§♥"→可(kě)能(néng)，也(yě)不(bùπ↔€§)是(shì)說(shuō)我們無法阻止φ≥&σ邪惡的(de)機(jī)器(qì)毀滅我們。這(zhè)個(gè)天真爛漫的 δ >(de)反對(duì)觀點竟然認為(wèi)≈γ，一(yī)台無比聰明(míng)的(de)計(©jì)算(suàn)機(jī)壓根沒有(≤×≈yǒu)終結人(rén)類的(de)手段或動機(j®♠ ī)。
想象一(yī)下(xià)我們有(yǒu)這(zhè)樣一(yī)δ×些(xiē)系統，無論是(shì)生(shēng)物(wù)的(λ≤de)還(hái)是(shì)人(rén)工(gōng)的( ±©de)，它的(de)智慧水(shuǐ)平相(xiàng)當于或遠(yuǎ®₩±←n)高(gāo)于人(rén)類智慧。通(tōng)過基®÷因工(gōng)程、納米技(jì)術(shù)、信息技(>β₹jì)術(shù)和(hé)認知(zhī)科(kē)學的(de)融合，我♣π們可(kě)以從(cóng)根本上(shàng)增強人(rén₩φ )類的(de)大(dà)腦(nǎo)（甚至于♠≠∑≤非人(rén)類的(de)動物(wù)大(&₩dà)腦(nǎo)），而超越人(rén)類的(de)機(j♦≥π£ī)器(qì)智能(néng)十分(fēn)有(y↑♦ǒu)可(kě)能(néng)來(lái)自(zì)于計(jì)算(su÷∞àn)機(jī)科(kē)學、認知(zhī)科(kē)學≠∑₩Ω和(hé)全腦(nǎo)仿真的(de)進步。
接著(zhe)，這(zhè)些(xiē)系統中的(de)✘↕↓一(yī)個(gè)出了(le)問(wèn)題，或者它們被故意用(yòng)←₩®£作(zuò)武器(qì)。遺憾的(de)是(shì)，一(yī)αΩ旦這(zhè)些(xiē)系統出現(xiàn)，我們大(d±$à)概率沒有(yǒu)辦法控制(zhì)它們，也(yě)無φ₩Ω法預測這(zhè)些(xiē)系統響應我們請(qǐng✘>)求的(de)方式。
蘇珊・施奈德是(shì)未來(lái)心靈中心的(de)主任，也(yě)是(♣<shì)“Artificial You： AI and the Fu ®ture of the Mind”一(yī)書(shū)的(de)作≈>∏(zuò)者。她(tā)在郵件(jiàn)中解釋說(shuō)：“這φασ(zhè)就(jiù)是(shì)我們常說(shuō)的(de)控制(zhì)♥∞♦問(wèn)題。簡單來(lái)說(shuō)就(jiù)是(sh≠±ì)，如(rú)何控制(zhì)一(yī)個(gè)比我φλ們聰明(míng)得(de)多(duō)的(de)人(rén) ↕ 工(gōng)智能(néng)。”
施奈德提到(dào)了(le)著名的(de)回形針場(chǎng)景>β，作(zuò)為(wèi)類比。回形針場(chǎng)景，即一(yī)家(jiβ ↔♥ā)回形針制(zhì)造商有(yǒu)一(yī)個(gè£")編程上(shàng)很(hěn)糟糕的☆←(de)人(rén)工(gōng)智能(néng)，準備最大(dà)化(huà↑→π)自(zì)己的(de)回形針生(shēng)産效率。結果卻是(s≠β≠hì)，這(zhè)個(gè)人(rén)工(gōng)智能(né↓¶'ng)把地(dì)球上(shàng)的(de)一(yī)切都(dōuγ£)變成了(le)回形針，從(cóng)而毀滅了(l&♣Ωe)地(dì)球。牛津大(dà)學哲學家(jiā)尼克・博斯特羅姆在他(♥•≠tā)2014年(nián)的(de)著作(zuò)“Superinσ→telligence： Paths， Dangers， Strate€™×¥gies”中将這(zhè)類風(fēng)險命名為 ∑(wèi)“反常實例化(huà)”。或者用(y<òng)施奈德的(de)話(huà)更簡單地(dì)來(lái)$β↔>說(shuō)，即有(yǒu)一(yī)個(gè)古老(lǎo)的(de)魔法επ¥精靈故事(shì)，故事(shì)裡(lǐ)三個(gè)願望的(de&♦)實現(xiàn)“永遠(yuǎn)不(bù)會(huì)順利”。在這(zhè >± )裡(lǐ)，普遍的(de)擔憂是(shì)，我們想讓超<♥'級智能(néng)去(qù)做(zuò)一(yī)些(xiē)事(sh↔™↕ì)情，而由于我們自(zì)己都(dōu)不(γ ©→bù)太了(le)解要(yào)做(zuò)的(de)這(zh≠∞€©è)些(xiē)事(shì)情的(de)細節，超級智能(néng≠)将嚴重曲解我們的(de)願望，從(cóng)而導☆Ωσ緻一(yī)些(xiē)我們不(bù)願意看(k&↕àn)到(dào)發生(shēng)的(de)事(shì)情發生(s ↓≠™hēng)。
例如(rú)，我們可(kě)以“許願”實¶現(xiàn)一(yī)種有(yǒu)效提取太陽能(néng)(000→÷↔α591,股吧(ba))的(de)方法，結果卻是(shì)超級智能(néng ₩♠)篡奪我們整個(gè)地(dì)球的(de)資源去(qù)建造一÷←γ(yī)個(gè)超大(dà)型的(de)太陽能(néng)陣列。正如(¥↑β•rú)博斯特羅姆推測的(de)那(nà)樣，要(yào)→∑σ'求超級智能(néng)“最大(dà)化(huà←♠$&)人(rén)類幸福感”，可(kě)能(néng)會(hu$σ•®ì)迫使超級智能(néng)重新連接我們大(dà)腦(πεnǎo)中的(de)快(kuài)樂(yuè)中心，或把我們的(de✘₩)腦(nǎo)子(zǐ)上(shàng)傳到(≥←£dào)超級計(jì)算(suàn)機(jī)上(shàng)，強迫我們✘ε永生(shēng)永世體(tǐ)驗那(nà)五秒(miǎλ&o)鐘(zhōng)的(de)快(kuài)樂(y↔₽<uè)循環。一(yī)旦超級人(rén)工(gōng)智能(nén€g)出現(xiàn)，厄運将會(huì)以某種離(lí Ω)奇且意想不(bù)到(dào)的(de)方式降臨。
人(rén)工(gōng)智能(néng)機(jī)器(qì)研究所的₽•λ(de)人(rén)工(gōng)智能(néng)理(lǐ→♥ )論家(jiā)埃利澤・尤德科(kē)夫斯基在他(tā)的(d÷≤δ'e)論文(wén)中，将超級人(rén)工(gō ♦ng)智能(néng)視(shì)為(wèi)優化(≤ huà)過程，或“在大(dà)型搜索空(kōng∑←)間(jiān)中擊中小(xiǎo)目标以産生(s∏↑hēng)合乎邏輯的(de)現(xiàn)實世界效果的(de)系統”。問σ≤&(wèn)題是(shì)，這(zhè)些(xπ>iē)過程往往傾向于探索廣闊的(de)可(kě)能(néng)↕£性空(kōng)間(jiān)，其中很(hěn)多(duō)是(shì)我們₹•→壓根無法想象的(de)。尤德科(kē)夫斯基寫道(dào)σ¶✔↔：
“我正在訪問(wèn)一(yī)座遙遠(yuǎn)>₹的(de)城(chéng)市(shì)，一(yī)位當地(dì)朋(péng)$↓§♠友(yǒu)主動提出開(kāi)車(chē)送我去(qù)機(®•jī)場(chǎng)。我不(bù)知(zhī)道≤∑φ$(dào)附近(jìn)情況。當朋(péng)友(yǒu)來(lá₽↑i)到(dào)十字路(lù)口時(shí)，我無法預測他(tā)會(σ↓≈huì)超哪個(gè)方向拐彎。但(dàn)是(shì)我仍然可(kě)以預測÷πδ↓朋(péng)友(yǒu)的(de)一(×yī)系列不(bù)可(kě)預測行(xíng)為(wèi)的(₹✔↑de)最後結果：我們會(huì)抵達機(jī)場(chǎng)。即便我朋(¶♠₽¥péng)友(yǒu)的(de)家(jiā)在這(zhè)座城(♥• ₹chéng)市(shì)的(de)其他(tā)地(dì)方↓λ×←，因此他(tā)可(kě)能(néng)會(huì↑•≈)做(zuò)一(yī)系列完全不(bù)同的(de)拐彎，但(dàn)我" δ 仍然可(kě)以自(zì)信地(dì)預測我們的(de) λ∞✘目的(de)地(dì)。從(cóng)科(kē)學角度來(lá∞λi)将，這(zhè)難道(dào)不(bù)是(shì)一(yī♣ε)個(gè)奇怪的(de)場(chǎng)景嗎(ma)？我可( εkě)以預測過程的(de)結果，卻無法預測這(zhè)個(gè)過→程中的(de)任何一(yī)個(gè)中間(jπ↓$ iān)步驟。”
脫離(lí)了(le)人(rén)類環境，并↔∏ λ受到(dào)其基于目标的(de)編程驅動，機(jī)器δ(qì)在嘗試從(cóng)A到(dào)B的(de)過程中，可♦∑(kě)能(néng)會(huì)造成相(xiàngγφλε)當嚴重的(de)附帶傷害。可(kě)怕的(de)是(shì)，↓ 人(rén)工(gōng)智能(néng)φ≤φ也(yě)可(kě)能(néng)在嘗試實現(xiàn)自≈♣&(zì)己的(de)目标時(shí)，利用(yòng)和≠$(hé)濫用(yòng)預先存在的(de)強大(dà)資源――人÷∞(rén)類，并且怎麽利用(yòng)和(hé)濫用(¥ε×yòng)，又(yòu)是(shì)我們無法預測的(de)。
