黃仁勳再談AI風險：許多預測是編造的，中國將成全球開源重要力量

作者：Helen Li

編輯：徐清揚

美國當地時間9月14日，在知名科技播客All-In Podcast主辦的線下活動All-In Summit 2026上，輝達執行長黃仁勳與四位主持人就AI安全、AI末日論、遞迴自我改進、開源模型、AGI等話題展開討論。

四位主持人同時也是All-In Podcast的共同創辦人：天使投資人Jason Calacanis、前Facebook高層Chamath Palihapitiya、「PayPal黑幫」核心成員David Sacks，以及農業生物科技公司Ohalo Genetics和投資公司The Production Board的執行長David Friedberg。

訪談探討了一個核心問題：AI發展需要什麼樣的安全邊界。針對近期Anthropic執行長Dario Amodei關於AI安全的討論，以及領先實驗室呼籲「放慢腳步」的聲音，黃仁勳認為安全與創新並不矛盾。他表示，已發生的安全事件應作為工程問題來分析，並透過技術、流程和測試來控制。

針對近年來頻繁出現的AI「末日預測」，黃仁勳列舉了此前已被證明不準確的判斷，例如「放射科醫生將被AI取代」、「短期內90%的程式碼將由AI生成」、「50%的入門級工作即將消失」。他認為這類預測缺乏足夠的科學依據，不應被用來製造社會恐慌。

在談到遞迴自我改進（RSI）時，黃仁勳表示，RSI並非突然出現的神秘技術，而是上下文、強化學習、合成資料和LoRA等既有技術的組合。

至於開源與閉源模型之爭，他明確表示兩者缺一不可，並認為中國擁有大量工程師和科學、數學領域的人才，未來可能成為全球開源生態的重要貢獻者。

對話隨後轉向「AGI與超級智慧」。當被問及AGI的標準是否為達到人類智慧水準、該階段是否已經到來時，黃仁勳簡短回答：「已經達到了。」

以下為黃仁勳最新訪談的精編實錄，在不改變原意的情況下整理而成：

01 AI安全不能與創新對立

問：近期關於AI安全的討論越來越多。Dario Amodei發表了一篇關於AI安全的文章，前Anthropic研究員Jacob Cockson也因相關問題離職。你怎麼看這些事情？

黃仁勳：安全問題必須嚴肅對待，但安全與領先並不衝突。我們可以快速創新、迅速執行，讓美國在保持領先的同時確保安全。把這兩者視為互斥的選擇，本身就是一種錯誤。

Cockson勇於公開談論這些問題，這需要勇氣。作為吹哨者，他有權這樣做，但我認為他後續對未來的科學判斷缺乏足夠的科學依據，因為這些預測並非基於真正的科學研究。

許多領先實驗室正在從研究機構轉型為工程機構，而研究與工程本質上是不同的。如果在轉型過程中出現控制或管理問題，那是另一回事。至於Cockson實際看到了什麼，我並不知道。

問：近年來，AI產業出現了很多非常悲觀的預測，例如「AI可能毀滅人類、導致大規模失業」。你怎麼看這些說法？

黃仁勳：我認為我們不應該輕易為這些事情貼上所謂的「人類滅絕機率」或「文明毀滅」的標籤，因為其中很多其實是編造的。當你給某人貼上研究員或科學家的標籤，然後拋出一個聳人聽聞的預測，很容易引起公眾恐慌，我認為這是不負責任的。

我們過去見過很多這樣的預測。有人預測五年內放射科醫生將被AI完全取代，未來不再需要放射科醫生。現實是，世界需要更多放射科醫生；AI確實被用於醫學影像分析，但這與「放射科醫生消失」完全是兩回事。

還有人預測「未來6到12個月內，90%的程式碼將由AI生成，50%的入門級工作將在6到9個月內消失」。事實上，這些預測都沒有成真。此前也有人說「GPT-2和Llama 3太危險，不能發布」，甚至預測「第二年白領工作將消失一半」，或者所謂的「就業末日」即將到來。

我認為這些預測應該被記錄下來。多年後，我們回頭看，就會知道哪些預測是正確的，哪些只是在製造恐慌。

問：所以你認為AI安全問題更應該作為工程問題來處理？

黃仁勳：如果發生安全事件，我們首先應該從工程角度進行根本原因分析，了解發生了什麼、問題出在哪裡、可以採取哪些措施來防止類似事件再次發生，然後將這些措施轉化為系統、流程和技術控制。

我相信這些公司已經在做這些事情，包括更好的沙箱、更嚴格的運行環境、改進的監控和持續監控系統。我甚至願意打賭，這些問題是可以被控制和預防的。

如果一家工程公司真的不知道發生了什麼，也不知道如何控制，可以派工程師去幫助他們。但我不認為會走到那一步。這些實驗室裡有非常優秀的人才，我相信他們已經分析了相關問題並採取了適當的措施。

問：如果AI安全問題需要監管，監管應該從哪裡開始？

黃仁勳：監管應該針對真實存在的問題。真正需要關注的問題大多來自領先的AI實驗室，因為它們擁有最多的運算資源，正在處理最前沿的問題。一個高中生或一家普通的新創公司不太可能擁有足夠的運算能力來製造這些問題。

這些實驗室正在從研究轉向工程，同時也在建立公司、文化、技術和產品，這不是一個容易的過程。因此，應該關注它們如何建立更完整的工程體系，以確保技術開發和測試過程足夠安全。

問：是否需要第三方評估機構？

黃仁勳：我認為可以有多個評估和審計機構。它們不需要知道所有事情，但應該知道該問什麼問題。這有點類似財務審計。如果只有一家評估機構，它可能會受到影響；如果有多家評估機構，它們可以相互制衡。

02 「遞迴自我改進」沒那麼神秘

問：關於遞迴自我改進的討論越來越多，即AI生成資料、自我訓練、不斷加速。你怎麼看？

黃仁勳：我認為「遞迴自我改進」是最近比較流行的一個新標籤，但背後其實是許多既有技術的組合，包括上下文、技能、反思、強化學習、合成資料生成和LoRA。

這些方法確實可以讓AI在執行任務的過程中累積經驗，然後持續改進。例如，透過合成資料和強化學習，可以在不重新訓練整個基礎模型的情況下提升模型能力，而累積的經驗又可以進一步用來訓練基礎模型。我相信幾乎每家公司都在使用其中的一些技術。

「遞迴自我改進」這個詞聽起來可能像是系統會變得完全失控，但實際上，產品在發布前仍然需要經過評估、重新測試和回歸測試，這些都是最基本的工程控制。

這些領先實驗室正在從研究機構轉型為工程機構，我相信它們未來會有更好的方法、知識、實踐、工具和技術來控制、驗證和評估這些系統。遞迴自我改進可以在內部發生，但經過驗證的產品仍然可以安全地發布。

問：你怎麼看開源模型和閉源模型之間的關係？

黃仁勳：世界既需要開源模型，也需要閉源模型。我自己也會使用閉源的前沿模型。它們有點像瓶裝水；水本身是免費的，但不同形式的產品可以滿足不同的需求。

開源模型對於主權、隱私和企業的專有技術非常重要。在過去六個月裡，大約有4000億美元的創投資金流入了AI原生公司，其中約80%的公司使用開源模型。如果沒有開源模型，許多新創公司就無法實現自己的目標，因為它們想做的事情與領先實驗室正在做的事情不同。

美國真正的優勢在於擁有多種形式的創新。要贏得AI競賽，我們必須允許開源模型發展。

贏得AI競賽不僅僅是少數幾家美國公司獲勝，而是美國的公司、產業、研究人員、教育工作者、學生和企業家都能從這項技術中抓住機會。有些人會使用閉源模型，許多人會使用開源模型，兩者都需要。

問：你認為中國會成為全球開源生態的重要貢獻者嗎？

黃仁勳：我相信中國可能會為全球開源生態貢獻相當大的一部分。中國擁有大量的工程師，還有許多學習科學和數學的學生，像清華這樣的頂尖大學每年都會培養出許多優秀人才。

例如，中國工程師為Linux、Kubernetes（開源容器編排系統）以及許多軟體專案做出了貢獻。開源的一個特點是，一旦你下載了它，它就屬於你；你可以繼續修改、優化，把它變成自己的東西。

AI競賽最終歸結為誰能最好地利用這項技術。過去工業革命的許多重要發明來自歐洲，但美國後來很好地利用了那些技術。我希望下一次工業革命也能以類似的方式發展。

我認為中國的討論更務實，更關注經濟發展和社會進步，而不是不斷討論末日或文明毀滅。如果這些末日預測真的成立，我們當然應該討論和應對，但沒有必要製造恐慌。我們的工作是讓它成真。

問：如果AI最終自動化了大量的程式設計工作，工程師還需要做什麼？

黃仁勳：工程工作仍然會存在。我這一代工程師在軟體尚未普及時，並沒有花大量時間寫程式碼。現在軟體工程師花很多時間寫程式碼，未來如果其中很大一部分工作被自動化，人類仍然會從事工程工作。我的一個習慣是，我最喜歡的鍵盤按鍵是Backspace，因為最好的軟體往往意味著更少的程式碼。

03 輝達為何深度參與AI產業鏈

問：美國政府最初強調就業、再工業化、能源和供應鏈。這些事情現在確實正在發生。輝達已經成為整個AI產業的重要資本提供者。你如何決定資源配置的方向？

黃仁勳：AI是一場新的工業革命。這個產業包含許多組成部分，例如模型、晶片、應用、資料中心、建築、電力和發電設施。我一直在觀察整個生態系統，找出瓶頸所在。

如果一家非常好的公司受到某個環節的限制，我就會關注那個問題。可能是供應鏈，也可能是土地、電力或工廠。輝達的規模已經足夠大，所以我們必須提前很多年考慮供應鏈。像康寧、Lumentum、台積電和記憶體供應商這樣的公司，都是我們需要長期關注的企業。

問：有人認為AI產業的大部分利潤最終會轉移到應用層。為什麼輝達要進入模型和Hugging Face等更高層級的領域？

黃仁勳：輝達幾乎可以運行世界上所有的模型。大約一年半以前，人們主要討論OpenAI的模型，但現在有Meta的Muse、Grok、Gemini、Anthropic以及許多其他模型。許多前沿AI實驗室都建立在輝達的平台上。

我們的策略是幫助每個人成功，而不是接管別人的業務。我們會盡可能保持在技術堆疊的底層，只有在必要時才向上移動。CUDA支援大量的框架，Megatron和Megatron Core支援大規模訓練。我們發明必要的技術，然後讓整個生態系統發展，讓更多公司參與進來。

問：為什麼區域雲端服務供應商現在變得越來越重要？

黃仁勳：區域雲端服務供應商通常比大型超大規模雲端廠商更靈活，因為它們可以在當地找到土地、電力和工廠，並且更了解當地的需求。

未來將形成一個分散式的企業網路，越來越多的國家會將AI視為戰略產業。我們已經看到一些地區開始增加AI運算基礎設施。

問：輝達現在正在開發自己的開源模型，包括自動駕駛和生物醫學領域的模型。為什麼要做這些事情？

黃仁勳：因為客戶需要。我們有能力做到最好，所以我們就會去做。例如Alpamayo，這是我們的自動駕駛模型。它是一個具備推理能力的自動駕駛系統。過去，自動駕駛需要數十億小時的道路資料，但推理能力可以讓系統思考類似的情況，從而減少對大量實際道路資料的依賴。

自動駕駛的未來不僅包括乘用車，還包括農業設備、卡車、廂型車以及許多其他移動設備。許多公司沒有完整的技術堆疊，因此輝達可以提供完整的技術堆疊，客戶可以根據自己的需求進行最後一哩的調整。

生物醫學領域也是如此。我們開發了ESM2、ESMFold、OpenFold、AlphaFold 2以及一些等變模型和Protein Complexa（一種用於全原子蛋白質複合物的生成式AI框架），因為製藥公司確實需要這些技術。我的出發點始終是：有人需要這項技術，所以我們就去做。

04 馬斯克的Terafab

問：馬斯克宣布了Terafab晶片工廠計畫，規模非常大。你怎麼看？

黃仁勳：輝達非常了解製程技術，而且我們一直在挑戰製程的極限，所以當然可以討論這個問題。一旦馬斯克決定做某件事，就很難阻止他繼續下去，這也是他的超能力。

問：那麼輝達未來可以在他的工廠生產晶片嗎？

黃仁勳：我們可以討論。

問：如果AGI的定義是達到人類智慧水準，你認為我們已經進入這個階段了嗎？超級智慧呢？

黃仁勳：我們已經達到了，甚至可以說在某些特定領域，我們已經進入了超級智慧的階段。

問：為什麼？

黃仁勳：因為在一些非常特定的領域，AI已經超越了人類。自動駕駛就是一個例子。如果一輛車能比人類駕駛得更好，那麼在駕駛領域，它就是超級智慧。

目前，自動駕駛系統的事故率可以達到人類的十分之一。生物醫學領域也是如此。合成蛋白質和虛擬篩選等任務已經達到了超級智慧的水準。在這些特定領域，AI已經能夠執行超越人類能力的任務。

問：身處這樣技術的最前沿是什麼感覺？

黃仁勳：我喜歡這種感覺。未來是光明的。也許未來很多人不需要工作，但我不想錯過這個時代。

我希望我們所有人都能一起走向那個未來，人類最終會共同成功。我們需要鼓勵每個人，減少不必要的戲劇性爭論。最重要的是，我們需要確保整個美國都能參與其中。