在形容那些向世界釋放毀滅性技術(shù)的人時，人工智能的創(chuàng)造者們往往會用“弗蘭肯斯坦博士”的形象來形容，“弗蘭肯斯坦”是小說《弗蘭肯斯坦》中那個瘋狂科學(xué)家的名字，他用碎尸塊拼接成一個“人”，并用電激活。在真實(shí)的生活中，人工智能創(chuàng)造者們卻試圖為一些大問題尋找答案，例如正義對抗邪惡，機(jī)器人的浪潮的影響，機(jī)器大腦對人類工人的影響等問題。

如何防止人工智能毀滅人類？
??????最大的挑戰(zhàn)在于它對就業(yè)的影響科學(xué)家知道自己的成果正在走出實(shí)驗(yàn)室，應(yīng)用于真實(shí)的世界。12月10日，科學(xué)家在Montreal開了一天的會，討論了一些倫理問題，比如如何防止比人類聰明的電腦將人類的工作奪走，它會為法律帶來怎樣的困擾，或者是他會對社會構(gòu)成什么傷害。今天的人工智能技術(shù)可以播放視頻游戲、自動回復(fù)郵件、在特定條件下駕車。人們開始擔(dān)心它對勞動者的影響。

??????百度首席科學(xué)家吳恩達(dá)說：“我認(rèn)為最大的挑戰(zhàn)在于它對就業(yè)的影響?！彼J(rèn)為人工智能技術(shù)的快速發(fā)展可能會改變工作環(huán)境，許多人在20多歲、40多歲、50多歲時需要重新接受訓(xùn)練，而訓(xùn)練的方式是之前沒有過的。

??????麻省理工學(xué)院經(jīng)濟(jì)學(xué)家埃里克?布呂諾爾夫松（ErikBrynjolfsson）認(rèn)為：“毫無疑問的是有些工種現(xiàn)在可以自動化了，以前它們是不能的?！崩缲?fù)責(zé)電子取證的初級律師、自助結(jié)帳超市里負(fù)責(zé)結(jié)帳過道管理的人。

??????“希望在這些行業(yè)中能出現(xiàn)一些新的職位?！彼f，“企業(yè)家和管理者在開創(chuàng)新職位方面是極有創(chuàng)造力的，現(xiàn)有的一些職位已經(jīng)自動化了。”

??????Facebook人工智能研發(fā)主管伊恩?勒坤（Yann?LeCun）并不擔(dān)憂，他說社會在過去已經(jīng)適應(yīng)變化。勒坤說：“技術(shù)已經(jīng)發(fā)展到了另一個階段，過程不容易，但我們必須面對?！?/span>

??????機(jī)器人可能最終不會臣服于人類可能還會出現(xiàn)其它的一些困擾，例如，隨著人工智能獨(dú)立于人類操作者自己做出更多的決定，它會對法律界產(chǎn)生什么樣的影響。渥太華大學(xué)法學(xué)院專門研究倫理道德的教授伊恩?科爾（Ian?Ker）說：“在當(dāng)前的法律環(huán)境中，要在一些領(lǐng)域?qū)⑺惴〝[在優(yōu)先位置是很困難的。我覺得這面臨極大的挑戰(zhàn)。”

??????一些科學(xué)家看得更遠(yuǎn)，他們開始分析人工智能在哪些地方的影響可能會超過人類。去年谷歌收購了DeepMind，這是一家人工智能公司，它關(guān)注基礎(chǔ)研究，目標(biāo)是開發(fā)比人類聰明的機(jī)器。DeepMind聯(lián)合創(chuàng)始人杰米斯?哈薩比斯（Demis?Hassabis）稱它為人工智能發(fā)展中的“阿波羅項(xiàng)目”。

??????盡管這些科學(xué)家認(rèn)為出現(xiàn)邪惡超級智力的機(jī)率很小，一些人還是在研究，看它能對人類構(gòu)成何種重大威脅。

??????《超級智能:方法、危險、策略》（Superintelligence:Paths，?dangers，?strategies）的作者、牛津大學(xué)人類未來研究院院長、哲學(xué)教授尼克?博斯特羅姆（Nick?Bostrom）認(rèn)為：“我覺得世界的最終結(jié)局不會像現(xiàn)在一樣，那些服務(wù)機(jī)器人不會端著盛滿食物的盤子來伺候你。最后的結(jié)果可能是完全不同的，跟我們熟悉的完全不同?！?/span>

??????劍橋大學(xué)存在風(fēng)險研究中心研究員沙哈?艾文（Shahar?Avin）認(rèn)為，如何防止邪惡人工智能成形，現(xiàn)在的人工智能研究還沒有找到好辦法。艾文還說：“我們需要建立一個機(jī)構(gòu)，它不能也不會修改自己的價值系統(tǒng)。”他還說，大家面臨的共同難題是如何做。將更多的資金和更多的爭論結(jié)合，可以將更多的研究者吸引到問題上來，一起尋找辦法確保人工智能的安全。

??????機(jī)器沒有傷害人的動機(jī)特斯拉CEO馬斯克和其它一些科技名人正是先行者，他們于12月11日創(chuàng)立了OpenAI，這是一個非盈利機(jī)構(gòu)，它可以盡可能公開地開發(fā)新的人工智能技術(shù)。

??????百度科學(xué)家吳恩達(dá)的看法不太一樣，他認(rèn)為過度關(guān)注“人工智能的邪惡智力”可能會分散精力，它更可能帶來消極影響，恰如失業(yè)一樣。Facebook人工智能研發(fā)主管伊恩?勒坤（Yann?LeCun）則說：“機(jī)器的智力會是完全不同的，人有做壞事傷害他人的動機(jī)，機(jī)器沒有?！?/span>

??????加拿大總督戴維?約翰斯頓（David?Johnston）曾經(jīng)在多倫多的會議上說過一番話，這些話可能反映了我們的共同心聲。約翰斯頓說：“我們越來越意識到機(jī)器學(xué)習(xí)和人工智能很可能馬上就會出現(xiàn)，當(dāng)它們真的出現(xiàn)時，我們清楚它的影響是很大的。既然這樣，我們能扮演什么角色呢？我們?nèi)绾螐娜斯ぶ悄芗夹g(shù)中獲得最大的機(jī)會呢？如何將它帶來的挑戰(zhàn)最小化呢？”

??????(來源：鳳凰科技)