繼去年榮獲諾貝爾物理學獎引發全球關注后，“AI 教父”杰弗里·辛頓（Geoffrey Hinton），這位深度學習領域的奠基人近日在接受最新采訪中坦言：“幾乎所有頂尖研究人員都認為 AI 將變得比人類更聰明。”他之前在諾貝爾獎的官方采訪中表示：AI 最快 5 年超越人類智慧。

采訪伊始，他用幽默的語氣回憶起領取諾貝爾物理學獎時的趣事：“他們只是假裝我搞的是物理。”

然而，輕松的談笑之后，是他對未來的深沉憂慮：“我認為人類面臨的 AI 風險，遠比我們想象中要嚴重得多。”更令人矚目的是，辛頓首次給出了一個令人不寒而栗的預測：AI 導致人類滅絕的可能性高達 10% 至 20%。他直言，我們正處在決定未來的關鍵節點，亟需投入大量資源研究 AI 安全，否則后果不堪設想。

此外，他還罕見地公開批評了科技巨頭埃隆·馬斯克，認為其行為正在損害美國的科學根基，這場“教父”與首富的隔空交鋒，也折射出 AI 發展道路上復雜的科技、倫理與政治博弈。

以下是采訪的完整內容：

主持人（Steve Paikin）：我們本期的嘉賓是被譽為“ AI 教父”，因其在 AI 領域的開創性工作而榮獲諾貝爾物理學獎。他也曾讓埃隆·馬斯克感到不快，一會兒我們問問他。他就是杰弗里·辛頓，多倫多大學計算機科學榮休教授。今天他來到節目現場，與我們一起探討先進 AI 的前景與風險。

非常高興你能再次回到我們的演播室。

杰弗里·辛頓：謝謝你們邀請我。

主持人：我們先來看一小段視頻，我猜這是你人生中最美好的日子之一。

主持人：這是你在斯德哥爾摩領取諾貝爾獎的畫面，那份激動人心的感覺多久才會過去呢？

杰弗里·辛頓：嗯……等它過去了我再告訴你。

主持人：意思是現在還沒過去嗎？

杰弗里·辛頓：沒，還沒有完全消退。

主持人：那天是不是酷斃了？

杰弗里·辛頓：簡直太棒了。尤其是我根本就不是研究物理學的，卻拿了個物理學諾貝爾獎。

主持人：你想解釋一下這是怎么回事嗎？

杰弗里·辛頓：我想他們是想表彰 AI 方面所取得的重大進展，因為現在科學界很多令人興奮的點都在 AI 上面，所以他們就“挪用了”物理學獎，把它頒給了我，好像我是搞物理一樣。

主持人：你跟他們指出這個“錯誤”了嗎？

杰弗里·辛頓：是的。

主持人：然后呢？“謝謝你們的諾貝爾獎，但你們知道我不搞物理的。” 你當時就是這么說的嗎？

杰弗里·辛頓：我就是這么說的。

主持人：那他們是怎么回應的？他們是說“白送的便宜別不占”還是怎么著？

杰弗里·辛頓：差不多吧。

主持人：你把獎章放哪兒了？

杰弗里·辛頓：我可不告訴你。

主持人：我又不會去偷你的獎章，杰弗里。

杰弗里·辛頓：你不會，但別人可能會。

主持人：哦，好吧。那可是六盎司黃金，價值大約 15000 美元。看來你不會把它熔掉，所以你是不打算告訴我它是放在家里，還是鎖在銀行保險箱里，或者別的什么地方了？

杰弗里·辛頓：不告訴你。

主持人：也行。下面我來讀一下你的獲獎理由：“通過人工神經網絡實現機器學習的基礎性發現和發明”。我知道你肯定被問過無數次了，那咱們就再問一次。這話用大白話怎么說？

杰弗里·辛頓：好。我們的大腦里有一堆叫做“神經元”的腦細胞，它們之間是有連接的。當你學到一個新東西時，實際上是這些連接的強度發生了變化。所以，要搞清楚大腦是怎么工作的，關鍵就在于弄清楚連接強度是根據什么規則來變化的。這就是全部的核心。

大腦是怎么決定某個連接應該加強還是減弱，從而讓你在做某件事，比如理解我剛剛說的話時，能表現得更好。

問題就在于，它是怎么判斷的？如果我們能模擬這種機制，構建一個由大量“模擬神經元”組成的網絡會怎樣？現在我們知道了——它會變得非常聰明。

主持人：在成千上萬個科研方向中，你為什么選擇了這一個？

杰弗里·辛頓：這顯然是最有趣的一個。

主持人：對你來說？

杰弗里·辛頓：我認為它確實是最有意思的。要想了解人類，你必須要了解大腦是如何運作的。而實際上，我們仍然沒有完全真正理解大腦的工作機制。我們比以前有了更多的想法，但距離完全搞懂還有一段距離。這似乎就是一個巨大的課題。

主持人：在獲得諾貝爾獎之前，你就已經很有名了，而諾獎又極大地放大了你的影響力。從那時起，你就開始頻繁地警告我們 AI 的危險。你甚至在幾年前辭去了谷歌的工作，也是出于對 AI 風險的擔憂。那我們來詳細拆解一下：在你看來，當前缺乏對 AI 足夠控制的短期風險有哪些？

杰弗里·辛頓：好的，其實主要有兩種風險。一種是由于“壞人”濫用 AI 而產生的風險。這些是更短期，更迫在眉睫的風險，實際上已經在發生了。

另一種是完全不同的風險，當 AI 比人類更聰明時，它會不會想要接管一切？它會不會想把我們一腳踢開然后取而代之？你知道有多少更智能的東西被遠不如它智能的東西控制的例子？

主持人：沒多少。

杰弗里·辛頓：我的意思是，我們知道比較聰明的人可能會被不那么聰明的人控制，但這在智力上差別不大。

主持人：我本來想圍繞這點開個特朗普的玩笑，但算了，我們繼續。

杰弗里·辛頓：我也想開，但我忍住了，只是暗示了一下。

主持人：好，給我們舉個例子，說說你擔心的“壞人”利用 AI 技術使壞的具體情景嗎？

杰弗里·辛頓：比如有人獲取了大量關于民眾的數據，然后用偽造的 AI 視頻精準地推送給這些人，勸說他們不要去投票。

主持人：那確實是個問題。

杰弗里·辛頓：這些就是我們已經在面臨的問題。比如網絡攻擊，在 2023 年到 2024 年間，網絡釣魚攻擊增加了 1200%。2024 年的網絡釣魚攻擊次數是2023 年的 12 倍。主要是因為大語言模型的出現讓釣魚攻擊變得更加高效。過去的釣魚郵件語法可能有點問題，像是從烏克蘭語或其他語言生硬翻譯過來。拼寫也可能會有錯。所以人們一看就知道是釣魚郵件。但現在，它們都是地道的英文，非常難以辨別。

主持人：現在騙子的手段確實高級起來了。那關于你說的第二點風險“弱者控制強者”，比如較笨的人控制比較聰明的人，或者智能程度低的事物控制了更聰明的系統，你可以舉些例子嗎？

杰弗里·辛頓：我只知道一個例子，那就是嬰兒和母親之間的關系。對于嬰兒來說，控制母親是非常重要的。所以從進化角度來看，自然花了大量“心思”去優化嬰兒的哭聲——讓母親聽了以后難以忍受，從而迅速做出反應。但這可能是我能想到的唯一一個例子。

主持人：我們剛才談了短期風險。那從長期來看，風險有哪些？

杰弗里·辛頓：長期來看，我擔心 AI 會變得比我們更聰明。幾乎所有頂尖研究人員認為 AI 會比人類更聰明，他們唯一的分歧可能是在“何時會發生這個點上”。有人認為可能還需要 20 年，有些人認為只要 3 年，還有少數人認為就 1 年了。

總之，我們都同意 AI 會比人類更聰明。但問題是，到那時會發生什么？我們還完全無法預料。人們看法不一，但我們目前并沒有一個可靠的方式來衡量這些可能性。

我自己的直覺是，AI“接管一切”的概率在 10% 到 20% 之間，但這只是粗略猜測。我唯一可以肯定的是，這個概率高于 1%，也低于 99%。

主持人：你說“AI 接管一切”，其實我覺得你說得更嚴重——你曾表示人類可能有 10% 到 20% 的概率會因此滅絕。

杰弗里·辛頓：如果它接管了，那就會發生（滅絕）。

主持人：你能給個時間范圍嗎？

杰弗里·辛頓：呃，不能，就像我之前說的，目前根本無法預估這個時間點，但如果我們現在不采取行動，可能就用不了太久了。

現在，我們正處于這樣的一個歷史節點：我們仍有機會開發出安全的超級智能 AI，但我們現在還不知道該怎么做，甚至不知道有沒有可能做到。

希望是有可能的。如果可以的話，我們就應該努力去研究，投入大量資源去探索這個方向。

主持人：你能為我們設想一下那個場景嗎？AI 會如何利用其優越性讓人類滅絕？

杰弗里·辛頓：如果它們真想這么做，方法太多了，我覺得沒什么必要去猜測具體方式。我認為不會像《終結者》里那樣。比如說，它們可以制造一種病毒把我們全殺死。

主持人：聽起來我們得抓緊控制住這個局面了。我們現在有行動嗎？

杰弗里·辛頓：確實是該行動起來了。目前有一些人正在做 AI 安全研究，也有人關注它可能帶來的人類生存危機，但遠遠不夠。

現在的大公司更多是被短期利潤驅動的。我們需要公眾去督促政府，讓政府要求這些科技巨頭加大在安全研究上的投入，比如至少把三分之一的資源用在這上面。

主持人：進展如何？

杰弗里·辛頓：公眾意識在提高。政界人士也逐漸重視起來了。最近在美國出現了一些倒退……

主持人：你是指哪方面？

杰弗里·辛頓：拜登政府對 AI 安全很感興趣，還專門發布過一項行政命令來推動這方面的工作。但我擔心，就像拜登以前簽的很多行政命令一樣，特朗普上臺，可能又會被一筆勾銷，啥都不剩了。

主持人：也就是說，那項行政命令會被推翻。

杰弗里·辛頓：是的

主持人：我猜這可能跟現在美國最有錢、最懂技術的那幫人都支持現任政府了。你覺得這么說合適嗎？

杰弗里·辛頓：很遺憾，是這樣。

主持人：好吧，很明顯你是希望我們能把局面控制住。但問題是，現在好像大家還沒能就采取什么措施達成共識，那我們能做些什么呢？

杰弗里·辛頓：首先要做的是建立共識，讓大家意識到這是一個非常嚴重的問題。這不是科幻小說，而是現實威脅。我們得說服那些大公司在 AI 安全方面投入更多精力和研究。這就像氣候變化。這其實就像應對氣候變化一樣——你必須先讓人們相信氣候變化是真的，而且如果不采取措施，后果會非常嚴重，只有這樣，行動才有可能開始。

現在的行動還遠遠不夠，但至少有一點動靜了。在 AI 這個問題，我們首先需要建立共識。

不過有個好消息，面對 AI 可能帶來的人類生存危機，不同國家之間其實是有合作空間的。我們應該能夠和中國展開合作。其實，說實話，我現在都不太確定“我們”到底指誰了。以前我以為“我們”是指加拿大和美國，但現在嘛……好像也不是那么回事了。

主持人：確實不是了，你說得對。

杰弗里·辛頓：但無論如何，各國應建立合作，因為沒人想被滅絕。畢竟，國家領導人們都不想人類被滅絕，所以生存威脅這個問題上，他們有望達成合作共識，一起努力。這算一個小小的好消息。

但壞消息是我們還不知道該怎么做。我們現在迫切需要研究出應對之策。

主持人：那你覺得，是否有某個機構能夠在這方面起帶頭作用，推動全球合作？

杰弗里·辛頓：確實有一些組織在做這方面的努力，但還沒有哪個機構真正起到主導作用。

主持人：比如說，這是不是應該歸聯合國管呢？還是說，應該由誰來牽頭？

杰弗里·辛頓：聯合國嘛……說實話，它有點力不從心，難以勝任這項任務。

主持人：那誰能勝任呢？

杰弗里·辛頓：目前來看，還得是一些大公司，因為要搞 AI 安全研究，你必須能接觸到最前沿、最復雜的模型。而只有那些科技巨頭，才有足夠的資源去訓練和掌控這些模型。

主持人：那我們來談談世界首富埃隆·馬斯克，怎么樣？

杰弗里·辛頓：（笑）如果非談不可的話，那就聊聊吧。

主持人：（笑）我聽說你已經不在他的圣誕賀卡名單上了。

杰弗里·辛頓：其實我在很多方面都比較認同他的觀點。比如關于 AI 的生存風險問題，我跟他觀點是一致的。他確實很重視這個問題，而且他也確實做過不少好事，比如推動電動車普及，還有通過星鏈幫助烏克蘭維持通信，這些我都認可。

但現在他所支持的政府在做的很多事情，真的讓我感到震驚。他正在大規模裁撤政府工作人員，很多人是被隨意砍掉的。這些人其實都是踏實工作、品行正直的公務員。

他把這些人說成是腐敗、懶惰、沒用，然后就把他們掃地出門。這會帶來非常糟糕的后果，會影響到很多普通人，而他似乎完全不在意。他唯一一次表現出在意，是當我公開批評他的時候，他覺得我“刻薄”。

主持人：是啊，那我們來看看你們的那次“交鋒”。你在 X 上發了條推文：“我認為埃隆·馬斯克應該被英國皇家學會開除，不是因為他散布陰謀論和行納粹禮，而是因為他正在對美國的科學機構造成巨大損害。現在讓我們看看他是否真的信奉言論自由。”

結果馬斯克就馬上給你回復了：“只有怯懦、缺乏安全感的傻瓜才在乎獎項和會員資格。真正的審判者應來自歷史，永遠如此。你這條評論既無知又刻薄，而不屬實。話雖如此，我的哪些具體行為需要糾正？我會犯錯，但我會努力快速改正。”

你對他的推文有何反應？

杰弗里·辛頓：我覺得最好不要和埃隆·馬斯克進行冗長的你來我往，因為我還想繼續順利的入境美國呢（笑）。再說了，我的朋友楊立昆（Yann LeCun）已經替我回答了那些問題。

主持人：我們在哪里能看到那些回答呢？

杰弗里·辛頓：就在推特上。你可以在那條推文下面的評論區發現，有一串回復里就有。

主持人：所以那是你和他唯一的直接互動？

杰弗里·辛頓：大概在幾年前吧，他讓我打個電話給他，說是想聊聊“人類生存威脅”這個問題。其實，他是想讓我去擔任 XAI 公司顧問。我們確實先聊了幾句 AI 的生存威脅，然后他就開門見山問我，愿不愿意加入 XAI 當顧問，我拒絕了。

他以為我可能會同意，因為他雇傭了我非常好的一個學生在那兒做技術人員。然后他就開始漫無邊際地瞎扯。

于是我就臨時編了個借口，“對不起埃隆，我還有個會，得先走了。”

主持人：就這樣。

杰弗里·辛頓：對，就那一次。

主持人：如果我可以把這件事拆開來看——他在一開始對你發起了相當個人化的攻擊，就像你對他也有一些評價。公平地說，并不是所有人都認同他在臺上做的那個動作是納粹禮。他會辯稱他只是在向人群表達心意。

杰弗里·辛頓：當然（他會這么說）。

主持人：你不信這個說法？

杰弗里·辛頓：不信。特別是如果你了解他的過往，還有他父母的觀點等等。

主持人：是的，他確實時不時和一些法西斯主義的情況有些接近。但接下來的部分就比較有建設性了，他問你有什么可以改進的地方。

杰弗里·辛頓：是的，但我的好朋友楊立昆回答了，所以我就沒在參與。

主持人：你是否愿意分享一兩件你認為他應該做的事情？

杰弗里·辛頓：如果他要做的話……我的意思是，咱們先弄清楚事情的本質。他想要為富人進行大規模減稅，大概 4 萬億美元，這就是所要付出的代價。

為了不大幅增加國債，他們必須在別的地方削減開支。或者對我們征收關稅。

他們計劃做的兩件事是削減政府開支和征收關稅，而關稅實際上是對窮人的打擊。關稅是一種非累進稅。它們會讓所有商品價格上漲。

所以普通人最終將為他們購買的東西多支付 4 萬億美元，來為富人的減稅買單。這太惡心了。

主持人：這就是美國現在的政府政策。

杰弗里·辛頓：這很惡心。

主持人：你提到了對美國科學機構的損害。具體來說是指什么？

杰弗里·辛頓：舉個例子，如果你讓一個腦子進蟲子的瘋子來負責來管整個國家的衛生系統……

主持人：你說的是小羅伯特·F·肯尼迪（RFK Jr.），對吧？

杰弗里·辛頓：是的。

主持人：你完全不贊同他現在做的任何事嗎？

杰弗里·辛頓：也不能這么說。這些事情從來都不是完全黑白分明。

他提倡人們應該健康飲食，這一點是有價值的。但他極力反對的某些東西，比如植物油，可能沒有他說的那么糟糕。

但整體來說，健康飲食有助于改善身體狀況這個觀點是非常重要的，他多少也推動了一下。但他其他大部分的說法，基本上是胡說八道。

主持人：那你不認同他關于疫苗、制藥公司，或者像自閉癥成因這類事情的懷疑態度？

杰弗里·辛頓：對，我不認同。關于這些問題已經有大量的研究了。正是因為這些奇怪的聲音存在，才促使研究人員更加認真地去研究這些問題。

那些宣揚這些陰謀論的人，大多只是想賣你某種藥品或其他什么產品。他們這么做，是為了吸引注意力，本質上是一種營銷手段。

他們自己其實并不相信這些說法。就我所知，他自己的孩子都打了疫苗。

主持人：這就很說明問題了。就像當年福克斯新聞全天候播放反對強制接種疫苗，背地卻讓他們的所有員工都必須接種疫苗。

杰弗里·辛頓：沒錯。

主持人：我們已經聊了很多AI帶來的風險。那你能不能給我們留下一些稍微讓人感到希望的理由？讓人覺得這事最后也許并沒有那么糟？

杰弗里·辛頓：當然有。AI 之所以還在不斷發展，而且我們也無法真正阻止它，很大一個原因是它確實能帶來很多好處。

比如說在醫療領域，它將帶來巨大變革。未來你能享受到遠比現在更好的醫療服務。想象一下你擁有一個 AI“家庭醫生”，它看過上億病人的病例，了解并記得你和你家人做過的每一次檢查，能給出更準確的診斷。現在，AI和醫生合作處理復雜病例時，錯誤率已經明顯低于醫生單獨判斷。這一切已經在發生，而且還會繼續改善。

在教育方面，AI也將帶來巨大飛躍。我們知道，有私人家教的孩子，學習效率可以提升一倍，因為家教可以及時發現孩子沒理解的地方。而未來 10 年內，AI 系統可能就能勝任這個角色。

當一個孩子在學習時，AI 能精準識別孩子的誤解，因為它已經“看過”成千上萬個其他孩子的學習過程。它知道孩子是哪里沒弄懂，也知道該用哪個例子來幫助孩子理解。

如果說一個人類家教能讓孩子學得快兩倍，那這些 AI 輔導系統可能讓效率提升三到四倍。對大學來說這也許不是什么好消息，但對真正想學習知識的人來說，那可太棒了。

主持人：對大學不是好消息，是因為？

杰弗里·辛頓：也許以后我們就不再需要大學了。不過，我認為做研究生階段的研究是離不開大學的。我認為你大家仍然需要“學徒制”的方式來學習如何做研究。

因為科研這件事情，無法靠一套明確的規則來教。我們可以告訴你“我會這樣處理這個問題”，但我們不能制定一個“做研究就按這套流程來”的標準。根本不存在這樣的規則。這就是一種“跟著學”的過程——一種學徒制。

主持人：那是不是意味著，那些認為上大學去學習編程或計算機科學是個好主意的孩子們，他們現在有麻煩了？

杰弗里·辛頓：很可能是的。

主持人：我的意思是計算機科學專業不止教你怎么編程了，但是……

杰弗里·辛頓：是的。

主持人：人們稱你為“AI 教父”，你喜歡這個頭銜嗎？

杰弗里·辛頓：我挺喜歡的。雖然起初這個稱號并非出于善意。是在一次會議之后有人開始這么叫我的，那次會議我有點像是在主持，頻繁打斷別人說話。

主持人：哦，所以他們叫你教父是因為……

杰弗里·辛頓：是吳恩達（Andrew Ng）帶頭的。那是在英國溫莎的一次會議。會議結束后，吳恩達就開始叫我教父。

主持人：因為你總打斷別人說話？

杰弗里·辛頓：因為我是那里年紀最大的，而且對人有點指手畫腳。

主持人：明白了。你得了諾貝爾獎金的一半，大概是五十萬美元？

杰弗里·辛頓：整個獎金大概是一百萬美元。我拿了一半就是五十萬。

主持人：在這五十萬里，你捐了一半給“Water First”組織，對吧？

杰弗里·辛頓：是的，二十五萬美金相當于三十五萬加幣。

主持人：“Water First”是什么組織？

杰弗里·辛頓：“Water First”是一個培訓居住在原住民社區的人們掌握水處理技術的組織。教那些社區的居民如何讓他們的飲用水變得安全。

主持人：你為什么選擇他們？

杰弗里·辛頓：我在秘魯收養了一個孩子，并在那里住了兩個月，那里的自來水不能喝，簡直是致命的。所以我體會過沒有安全飲用水是什么滋味。

如果你有個嬰兒，卻沒有辦法保證他喝的水是干凈的，這就會占據你全部的生活精力，你得時刻想著怎么讓孩子不要生病。這簡直是強加給人們的一種瘋狂的生活負擔。

而且我覺得，在加拿大這樣一個富裕的國家，竟然有那么多原住民社區沒有安全飲用水，這簡直是一種恥辱。

比如在安大略省，20% 的原住民社區沒有安全的飲用水。

主持人：這話不會讓感到你滿意，我也不想敷衍你，但現在的情況比十年前要改善一些了。

杰弗里·辛頓：也許吧。

主持人：不，確實是進步了，我們可以這么說。

杰弗里·辛頓：可他們本就應該有安全的飲用水。

主持人：當然，毫無疑問。你接下來有什么計劃？

杰弗里·辛頓：我正試著退休呢，但這個退休計劃執行得一塌糊涂。

主持人：你現在多大？

杰弗里·辛頓：77歲。

主持人：哎呀，這年紀退休太早了。

杰弗里·辛頓：我原本 75 歲離開谷歌的時候就想著可以退休了。

主持人：你還有大把的時光呢。

杰弗里·辛頓：也許吧。

主持人：你看起來真不像77歲，我得說。

杰弗里·辛頓：謝謝。

主持人：不，我真覺得你的人生還至少能寫出一兩章新故事，甚至三章都有可能。

杰弗里·辛頓：你看起來也挺不像 77 歲的。

主持人：好的化妝師能改變一切。非常感謝你今天能抽出時間過來，并回答這些有點尖銳的問題。而且，也許你和埃隆會冰釋前嫌，一起嘗試解決我們正在面臨的難題。

杰弗里·辛頓：我覺得那不太可能。

主持人：這位是杰弗里·辛頓，多倫多大學計算機科學榮休教授，諾貝爾物理學獎得主。感謝你今晚的節目。

杰弗里·辛頓：謝謝你們邀請我。