首頁 / 科技 / 正文

    麻省理工終身教授:面對人工智能危機,中國有獨特領袖優勢

    人工智能變革的今天,我們如何看待自己的未來?

    聽聽未來生命研究所創始人、麻省理工學院物理學終身教授,《生命3.0》、《穿越平行宇宙》作者邁克斯•泰格馬克教授怎麼說:

    麻省理工終身教授:面對人工智能危機,中國有獨特領袖優勢

    過去的一段時間中,人工智能的發展非常令人難以置信。幾年之前,我們沒有想象會有自動駕駛的汽車,現在火箭都可以自己進行降落了。

    之前人工智能還沒有辦法在圍棋上打敗人類,現在大家也都知道了AlphaGo Zero不僅可以打敗圍棋方面人類最好的選手,同時也在國際象棋上打敗了人類最好的棋手。

    實際生活中,AI在商務領域方面已經有了很多實際應用。中國在支付寶、微信支付當中,已經非常領先了。而在醫療方面,有一個研究顯示,AI和人工的醫生來比,它在肺癌、前列腺癌症診斷方面做得更好。

    AI取得的這些成就讓我們想到一個問題:到底AI最終的目標在哪,它可以走到哪一步?在所有任務上都能達到人的智能水平嗎?我們把這個稱為AGI(通用人工智能),這個概念可能讓人們認為很多工作我們不用做了,可以通過AGI來完成。

    如果我們的確實現了AGI,下一步怎麼樣呢?人會扮演什麼樣的角色呢?

    麻省理工終身教授:面對人工智能危機,中國有獨特領袖優勢

    如果機器什麼都能做得好,比我們做得好,比我們的成本還低,那麼人的角色呢?

    我現在所推崇的想法,那就是對於AGI,想清楚人類會犯怎樣的錯誤,來保證我們正確行事。

    我們都意識到了這是一個全球性的挑戰。

    這個挑戰規模很大,並且補救措施必須是全球行動,必須要有全球的協調,沒有哪個國家能夠獨善其身。

    中國實際上有着一個獨特的優勢,能夠有這樣一個領導地位,有兩個原因:

    原因一:

    中國有大量的科學家儲備。

    在中國我們不僅僅可以讓AI變得更加強大,同樣還可以讓它變得更加可信賴。

    原因二:

    中國是世界上最古老的現存文明之一,持續了幾千年。和西方相比,中國有着很多的長期思維的計劃傳統,這是西方世界所缺乏的。

    大家也知道,在西方世界非常難去設定一些長期的計劃,持續到下次選舉。

    當我還是一個學生的時候,有很多人說要修高鐵,現在20多年了還沒有開工。與此同時,中國已經做完了。

    麻省理工終身教授:面對人工智能危機,中國有獨特領袖優勢

    在這方面中國可以扮演一個非常重要的角色,把中國在技術方面的實力和長期規劃的智慧結合起來,希望中國在AI方面採取一個領先者的地位。

    我們組織了很多會議,讓很多AI研究員聚集到一起來討論怎麼樣增加AI的智慧。

    上一次會議有23個原則,被世界各地的AI研究員簽署。

    我在這裡給大家複述其中兩三點。

    第一個原則:

    我們應該避免武器和軍備競賽,應該把技術應用到可以幫助人們的方面。

    比如說生物、化學,更多的應該有助於人們找到一些疾病的治療方法,而不是引起致命的損傷。

    我們希望在生物和化學武器方面有一些國際化的禁用,這樣就可以不用擔心生化武器落入恐怖組織手中。

    我也非常高興看到中國作為一個大國,在3月時第一次站出來說要反對自動致命性武器的發明。中國做出的這一個努力非常重要。

    我們看到中國的影響力變得越來越大,同時也看到了聯合國付出的努力,希望可以使這一切變為可能。

    第二個原則:

    希望可以通過AI以及自動化創造出來更多的財富,使得所有人都可以從中受益。

    我認為我們全球GDP可以通過用機器替代人類的方法進行一個大爆炸,但是如果我們沒有辦法通過這個方法讓人人受益的話,那就是我們的錯誤。

    在科技和道德方面,我們希望可以確定的是,能夠讓整個社會變得更加和諧、更加一致、更加團結。

    最終,我認為在AI的安全性研究方面,我們需要有更大的投資:

    既然我們希望AI可以控制我們更多設備,AI可以對於我們的生命產生更大、更重要的影響,就必須要保證現在計算機系統中不能有那麼多的黑客、Bug。

    因為如果黑客能夠隨便黑進來的話,可能使得AI對自己產生非常負面的影響,我們要保證AI的目標和我們的目標是一致的。

    這意味着如果我們最終達成了AGI的話,我們會面臨一個很大的風險,如同在好萊塢的一些電影中看到的情況:

    AI會變成一個魔鬼一樣的東西,更可怕的是AI的複雜程度非常高,而它的目標與我們完全不同。

    黑犀牛這個種族完全滅絕的原因僅僅在於,我們比它們聰明很多,而且我們的目標跟它們也不同。

    麻省理工終身教授:面對人工智能危機,中國有獨特領袖優勢

    所以,如果AGI比起我們要智慧很多的話,我們不想讓自己成為黑犀牛這樣的一個角色,我們希望AGI能夠與我們的目標保持一致,將我們的目標作為它們的最終目標進行發展。

    我們應該更多的關注最終成果,而不是只是面對明天、後天的選擇。

    如果我們沒有辦法做到這一點,保持一個非常遠大的目標,有可能我們會達到人類歷史上能夠得到的最差的結果。

    我們應該更多的着眼於我們整個星球,如何通過技術控制發展方向,最終達到我們最想期待的未來,所有的人都能夠從中受益。不僅僅是好一點,而是好的非常多。

    現在我們可以想一下,2018年比起明朝或者說石器時代的時候都變得更好,為什麼?

    是因為技術的發展,之所以我非常感謝文明,也是因為用這種智能的方式我們得到了更好的生活。

    通過人類、人工智能兩者的結合,我們可以很好的解決現在我們面臨的問題。

    總而言之,我們現在所面臨的就是一個選擇,我們可以完全無動於衷,並且不去進行長遠的思考,只是非常盲目地開發,相信所有的技術發展都是對我們有利,不斷地來重複現在我們所做的工作,我們總是相信所有的技術都會讓一切變得更好,根本不去進行技術發展的控制,不去進行任何目標的制定。

    或者我們另外一個選擇,我們有非常宏偉的目標,並且不斷地向着這個目標來進行推進,使得人人可以從中受益。

    所以,我們希望最終達成的AI不僅僅取代我們,而是使得我們變得更好。

    以上內容整理自邁克斯•泰格馬克教授在長江商學院與湛廬文化合作舉辦的第23期「長江大講堂·生命3.0,重新定義AI的未來」上的演講

    來源 | 筆記俠授權整理,長江商學院略有編輯

    相關推薦