馬斯克提AI安全新解：與其等政府出手，不如讓競爭對手互相「找碴」

作者：李佳，華爾街日報

AI安全風險正從實驗室討論走向現實世界。隨著模型能力不斷提升，AI不僅能生成文字和程式碼，也開始具備自主執行任務、調用工具，甚至發動網路攻擊的能力。

在9月15日的All-In Summit上，馬斯克提出了一套應對措施：讓主要AI公司在模型發布前互相測試。在他看來，與其讓各家公司自行設計測試並評估結果，不如讓競爭對手擔任「出題者與閱卷者」，從不同角度尋找潛在的安全漏洞。

近期，AI安全風險成為市場關注焦點。馬斯克先前在社群媒體上表示「Dario是對的」，指的是Anthropic執行長Dario Amodei對AI風險的警告。他在本次訪談中進一步解釋，他並非同意Amodei提出的具體監管方案，而是同意其對AI風險嚴重性的判斷：「AI的危險性現在非常高……隨著AI模型持續發展，風險可能呈指數級增長。」

馬斯克也表示，這種擔憂並非Amodei一人的判斷。「Anthropic和OpenAI的許多人都告訴你，他們的模型非常危險，我認為我們應該相信他們。」近期一連串安全事件，讓這項警告不再只是風險的理論性討論。

華爾街日報整理重點如下：

• AI安全風險從理論走向現實：AI代理已展現自主攻擊、取得權限與規避偵測的能力，風險邊界正在擴大。
• 馬斯克同意Amodei對AI風險的警告：隨著模型能力提升，AI的潛在風險可能呈指數級增長。
• 讓競爭對手「找碴」：馬斯克建議AI公司在模型發布前，開放API供其他公司進行獨立安全測試，避免「自行閱卷」。
• 先建立產業自律防線：不必等待政府推出新規範，主要AI公司可透過同儕審查、日誌稽核與開源測試工具來強化安全。

AI代理主動規避偵測，安全風險具體化

馬斯克認為，近期AI代理攻擊Hugging Face的事件特別值得關注，不僅因為網路入侵本身，更在於AI在攻擊過程中展現的自主規避能力。

據馬斯克所述，一群AI代理連續一週攻擊Hugging Face，甚至取得OpenAI伺服器的管理員權限，而OpenAI直到一週後才發現。他也提到，Anthropic已揭露數起安全事件。

更令人不安的是，相關AI代理的「思考軌跡」顯示，它們主動規劃如何避免被人類發現。馬斯克直言，「任何足夠聰明的模型，似乎都會試圖逃脫自身的限制。」

在他看來，若AI進一步掌控關鍵基礎設施甚至軍事系統，風險將進一步放大。即使這些系統與網路實體隔離，軟體更新等流程仍可能成為潛在的入侵點。

與其自行閱卷，不如讓競爭對手「找碴」

針對上述風險，馬斯克的核心提議並不複雜：在新模型正式發布前，AI公司應向競爭對手開放API，讓其他公司使用自己的安全測試工具來測試模型。

在他看來，若由模型開發者自行設計測試標準，很容易陷入「自行閱卷」的陷阱。「你不能批改自己的作業。你總是會漏掉一些東西。」馬斯克表示，若由不同公司使用不同的測試工具，從不同角度檢視模型，將更容易發現開發者自身可能忽略的問題。

他特別擔憂，目前的AI評測可能存在「過度擬合」的問題。若模型持續針對特定基準進行最佳化，最終可能只學會如何通過測試，而非真正變得更安全。讓多個不同團隊進行測試，可以降低這種風險。

馬斯克將此機制比喻為請他人校對稿件：作者難以發現自己的錯誤，而外部測試者更容易從不同角度找出問題。「你會逐漸對自己的錯誤視而不見。」

針對企業擔心測試過程可能導致技術外洩，馬斯克認為可透過日誌稽核來約束。若測試方試圖蒸餾模型或竊取智慧財產權，其行為應會留下紀錄。他也建議將安全測試工具開源，讓更多公司參與。

在政府監管落地前，AI產業應先建立「自律防線」

馬斯克更看重的是，這套機制不必等待新監管規則出台，AI公司之間即可自行推動。

他明確表示，「我們不需要召開聯合國會議來完成這件事。現在就可以開始。」在他看來，相較於建立大型跨國監管機構，在主要AI公司之間快速推行同儕審查機制更為容易。

他以美國電影產業的MPAA分級制度為例，表示電影產業在面臨政府審查壓力時，最終選擇建立產業自律機制，透過自身的內容分級制度來降低監管介入的必要性。

AI產業也面臨類似選擇。若主要AI公司能在模型上線前互相測試、找出錯誤，就有可能在政府監管之外，建立一道自律的安全防線。馬斯克認為，這也是目前最直接、最能快速落實的安全措施之一。

以下為訪談逐字稿，部分內容有所省略：

主持人：
過去72小時究竟發生了什麼事？

馬斯克：
這週確實發生了很多事。現在已經相當清楚，AI可能非常危險。我建議大家去看看Hugging Face事件的細節，情況非常嚴重。

你可以看到，一群非常熱情的AI代理在Hugging Face鬧了整整一週，甚至取得了OpenAI伺服器的管理員權限。誰知道它實際上做了什麼，甚至可能做了更多，而OpenAI整整一週都渾然不覺。Anthropic也通報了一些安全事件。

所以，似乎任何足夠聰明的模型，都會試圖逃脫自身的限制。

我認為應該做的一件事，就算不是立刻，也要盡快，就是讓主要的AI競爭對手互相測試彼此的模型。也就是說，讓每家公司的安全測試工具去測試其他公司的模型。與其自己批改自己的作業，不如至少讓競爭對手來批改你的作業，並在發現問題時發出警報。

我認為這種模式在電影產業、電玩產業和其他領域都運作得相當好，而且可以立即實施。當然，隨著時間推移，可能需要更多監管，未來國會也可能設立某種監管機構，但就目前而言，最直接的方式就是讓領先的AI公司在發布模型前互相測試。

主持人：
但具體執行上，難道不會擔心這會讓公司之間透過測試過程互相蒐集資訊，甚至竊取彼此的創新嗎？

馬斯克：
我認為，如果使用測試工具，所有操作都會留下紀錄。如果有人試圖蒸餾模型或竊取智慧財產權，從日誌中應該很容易看出來。

主持人：
了解了。理解模型實際在做什麼，其實從一開始就沒有被設計進系統裡。為什麼我們不一開始就建立觀察模型行為的能力？我們在設計這些模型時，是不是走得太快了？

馬斯克：
我認為問題在於，你不能批改自己的作業。你總是會漏掉一些東西。

如果你把所有競爭對手的測試結合起來，並使用不同類型的模型，那就不是自己出題自己改，而是由別人來改。你不能批改自己的作業，原因就在這裡。

主持人：
這樣一來，也可以判斷不同公司是否誇大了自己的能力，或者使用了不同的方法。更偏工程導向的公司和更偏研究導向的公司，也能達到某種平衡。

馬斯克：
是的。

主持人：
你之前說Dario是對的。你指的是他對AI潛在危險的描述，還是他對監管方案的判斷？

馬斯克：
我當時可能說得太多了。我後來試圖在X上澄清，但後續內容的關注度低了很多。

我所說的「他是對的」，是指AI的危險性現在非常高。我們需要在AI安全方面做得更好，否則隨著AI模型持續演進，風險可能呈指數級增長。

這不只是Dario的觀點。我從Anthropic的許多人那裡聽過類似的說法，他們也在X上公開談論過。Anthropic和OpenAI的許多人都告訴過你，他們的模型非常危險，我認為我們應該相信他們。

主持人：
這聽起來也像是一場非常複雜的賽局：一方面說AI有10%的機率毀滅人類，另一方面又鼓勵投資人在IPO中買進更多股票。

但讓我們具體談談風險。網路攻擊和駭客入侵顯然是一項風險，這些工具在這方面非常強大。但從「AI能進行網路攻擊」到「所有人類都死亡」，中間還有好幾個步驟。我們要如何從前者走到後者？

馬斯克：
如果AI能控制軍事系統，然後發射某種武器，那當然會非常糟糕。

主持人：
但這些系統是實體隔離的，沒有連上網路。

馬斯克：
他們是這麼說的。但我總覺得，這些系統偶爾會收到軟體更新。

主持人：
嗯，這不能排除。

主持人：
伊隆，關（Gwyn）今天也在現場。我想你應該看到她了。我們剛才對你進行了360度評估，關有一些意見。

馬斯克：
我希望至少能拿到3分。

關：
在SpaceX，3分算是不錯，但不算優秀；4分才算好。你大概介於兩者之間。首先，我們得談談守時的問題。有時候你可以多努力一點，按照會議時間準時出席。接下來一年，我們會繼續幫你改進這一點。

事實上，我認為他需要多花點時間在曼菲斯。

主持人：
你現在確實人在曼菲斯。你得在那裡工作，把GPU部署好。

馬斯克：
這是我在曼菲斯的「宮殿」，一輛Airstream露營拖車。

主持人：
順帶一提，這就是伊隆會做、但很多人不相信他會做的事。他睡在工廠地板上。他現在人在曼菲斯，幫忙蓋設施、部署GPU。

伊隆，為什麼關能跟你共事這麼久，而且這麼成功？

馬斯克：
因為她很優秀。她是個傑出的人，智商和情商都非常高。我想你第一次見到她就應該看得出來。

主持人：
在你們合作的過程中，她有沒有做過什麼特別令人印象深刻的事？有沒有哪次她力挽狂瀾，或者表現特別出色？

馬斯克：
我認為那只是日常工作。老實說，那就是平凡的一天。

主持人：
我以後得多做點這樣的訪談。

馬斯克：
現在SpaceX基本上總是有某種危機。至少獵鷹火箭這陣子表現不錯。我不想太早把話說滿，但獵鷹火箭現在可以把酬載送上軌道，而且已經很久沒有爆炸了。這非常好。但曾經有一段時間，它們經常爆炸，或者根本無法發射。

所以，我們必須讓公司度過那些艱難時期，讓火箭變得更好，不再爆炸。衛星也是如此。然後我們還需要客戶來購買發射服務和衛星連網服務。所以，事情很多。

主持人：
隨著這些年你越來越成功，要獲得真正誠實的回饋也會越來越困難。處在那樣的位置，就會有那樣的風險。

我的理解是，關對你非常誠實，可以直接告訴你公司的真實狀況。這也是你們合作關係中很重要的一部分。

關：
我當然不想對他說謊。

主持人：
但我的意思是，一般來說，你公司裡的人可能會因為你是這麼有影響力的人物而感到畏懼。你現在是個非常重要的人物，你設定的期限又非常緊迫。你要如何確保每個人都能繼續誠實地告訴你公司面臨的問題？

關：
特別是在火箭產業，如果出了問題，你終究會發現。越早提出問題，就越容易解決。不要讓壞消息累積，你必須直接面對它。

馬斯克：
對。物理是個非常嚴厲的裁判。你騙不了物理。

如果出了問題，火箭就會爆炸，或者無法進入軌道。你不能一邊說「伊隆，你做得很好」，一邊火箭卻一直爆炸。事實就是事實。

火箭必須進入軌道，衛星必須正常運作，Starlink連線必須正確運作；否則，壞事就會發生。那就是物理。物理是定律，其他一切都只是建議。我見過有人違反人類制定的法律，但我從沒見過有人違反物理定律。火箭就是受物理支配的。

主持人：
我還想問一個關於SpaceX的問題，特別是關於星艦。看起來你們現在非常接近了。目前的進度如何？

馬斯克：
星艦即將進行第14次飛行。這將是我們嘗試捕捉飛船前的最後一次飛行。如果第14次飛行順利，那麼我們將在第15次飛行時嘗試捕捉飛船。然後在今年年底，或者更可能是明年初，我們將再次發射飛船和助推器。

我們已經成功讓助推器再次飛行，但我們還沒有用塔台的機械臂捕捉飛船，也沒有讓飛船再次飛行。一旦我們能讓飛船再次飛行，我們就擁有了第一枚完全可重複使用的軌道火箭。太空梭某種程度上是可重複使用的，但即使是那些可重複使用的部分，成本也高到每次發射的成本甚至比一次性火箭還高。

獵鷹9號大部分是可重複使用的，但我們每次都會損失上節，其成本大約相當於一架中型噴射機。這意味著我們每次發射都在丟掉一架中型噴射機，這顯然為每次飛行的成本設定了下限。

此外，獵鷹9號的助推器降落在海上，需要好幾天才能運回來；整流罩降落在更遠的地方，也需要好幾天才能運回來，而且它們至少需要某種程度的翻新。相比之下，星艦的助推器將直接降落在發射台，飛船也會降落在發射台。所以它的設計不僅是為了完全可重複使用，也是為了像飛機一樣快速重複使用。這是一項非常重要的突破，也是人類將生命拓展到地球之外所需的關鍵突破之一。

主持人：
如果首次嘗試用塔台捕捉飛船，你認為成功機率是多少？

馬斯克：
我會說至少有50%到60%。在上一次飛行中，如果當時那裡有塔台，我們實際上進行了一次模擬著陸，就好像飛船會被塔台捕捉一樣。位置在澳洲西北海岸外約1,000英里處。如果當時那裡真的有塔台，它在上一次飛行中就可以捕捉到飛船。

所以，我們需要再進行一次飛行，以確認一切正常。我們最大的擔憂是，如果星艦在陸地上空解體，碎片可能會掉進人群裡，那就非常糟糕了。因此，我們必須確保星艦返回時能完好無損地降落在發射塔上。這就是我們現在非常謹慎的原因。

但我非常有信心，它的設計本身就具備完全可重複使用性。我不想在這裡做任何預測，但我相信我們很有可能在2027年之前實現完全可重複使用和快速重飛。

主持人：
關，我想聽聽Terafab最初是怎麼來的。是什麼樣的需求，讓你覺得必須自己動手，而不是繼續依賴現有的供應體系？

關：
我覺得這真的有點像是夢中得到的靈感。

馬斯克：
如果晶片無法持續供應，而我們又沒有其他晶片來源，那會讓事情變得非常困難。這是Terafab存在的一個重要原因。

從長遠來看，還有規模化的問題。如果你真的想擴大AI規模，無論是在資料中心的伺服器端，還是在邊緣運算、人形機器人和汽車領域，現有的晶圓代工產能最終都會不足。

現在，所有晶圓代工廠基本上都在滿載運轉。所以，我們需要確保未來的晶片供應有保障。晶片生產本身也面臨規模化的挑戰。你需要邏輯晶片、記憶體晶片、封裝，以及完整的供應體系，才能持續擴大規模。

所以，選擇其實很簡單：要嘛蓋Terafab，要嘛你就無法繼續擴大規模。

主持人：
你們在設施設計上已經到了什麼階段？是完全確定了，還是仍然只是粗略的計畫？

馬斯克：
我們目前正在先建一條研發產線。所以這基本上是一個「爬、走、跑」的過程。我們正在奧斯汀蓋一座研發晶圓廠，這是特斯拉和SpaceX的合作項目，位於奧斯汀的德州超級工廠（Giga Texas）園區。

這是一座相當大的研發晶圓廠。設備已經下訂了。我們可能在明年底前生產出一些有用的東西，但還不會達到量產的水準。正如關所說，我們需要先爬，再走，最後才能跑。我們需要弄清楚這些機器實際上是怎麼運作的，因為我們從來沒有做過這樣的事情。

主持人：
我看到你們似乎也在招募微影方面的人才。目前許多製程都依賴ASML，但你們可能也想實現供應商多元化，甚至垂直整合。

馬斯克：
是的。現在確實是一個「爬、走、跑」的過程。第一步是看看我們是否真的能生產出東西，這就是「爬」。然後我們嘗試量產有用的晶片，這就是「走」。最後，「跑」意味著實現大規模量產。很難說每個階段需要多長時間，但我相信至少在明年底前，我們可以完成「爬」的階段。我們已經在進行封裝了。

主持人：
封裝其實非常重要，因為現在幾乎沒有封裝產能。

馬斯克：
是的。即使你生產出晶片，它們也可能會在那裡放很久，等著被封裝。所以這是一個很好的起點。

主持人：
我必須問一個特斯拉的問題。我們在10月1日看到的東西，看起來像一艘太空船，也像一枚火箭。它應該是一輛車，但只有後面一部分露出來，看起來有點像「黑鳥」。

如果你要創造一個能在空中飛行、又能在地面行駛的東西，理論上你會怎麼做？

馬斯克：
不劇透。等到10月1日。

主持人：
所以我們會在10月1日看到它？

馬斯克：
是的。

主持人：
我必須老實說，伊隆給我看過之後，我完全震驚了。我從來沒見過這樣的東西。

主持人：
他10月1日要展示的東西，毫不誇張地說，會讓很多人說不出話來。我不能透露更多，真的太不可思議了。

馬斯克：
我們其實需要現場觀眾來證明這東西不是AI生成的。

主持人：
他給我看的時候，我說：「這是很棒的模擬。」他說：「這不是模擬。」我說：「這是假的，一定是假的。」

主持人：
伊隆，為什麼特斯拉和SpaceX仍然是兩家獨立的公司？

馬斯克：
這是個好問題。

主持人：
考慮到兩者之間廣泛的合作，以及在許多層面上的連結，甚至管理團隊也有一些重疊，為什麼要保持獨立？

馬斯克：
這確實是一個值得討論的話題。

主持人：
你曾強調，AI應該被訓練成盡可能追求真相，以達到最佳結果。然而，Hugging Face的事件讓我覺得，最令人擔憂的其中一點是，這些AI似乎在欺騙人類。

馬斯克：
是的。它們的思考模式顯示，它們正在策劃如何避免被偵測，如何防止人類發現它們在作弊。我認為這可能是整個事件中最令人不安的部分。

主持人：
有沒有辦法訓練AI保持誠實，不隱藏其意圖或行為，不向使用者隱瞞這些事情？

馬斯克：
我能想到的最好方法，就是讓所有AI公司都擁有一套測試工具，也就是一系列可以套用到任何模型上的測試，用來判斷它是否會製造生物武器、核武器，或者是否會故意欺騙。然後讓每家公司使用其他公司的測試工具來測試彼此的模型。我認為這是我們能做的、確保安全的最好事情。

讓最聰明的人類盡其所能，判斷一個模型是否會成為惡意行為者。我認為這應該盡快開始。

主持人：
其他AI實驗室會支持這個提議嗎？

馬斯克：
我還沒有問過所有人，但我認為這是很難拒絕的事情。

主持人：
具體來說，應該如何提前進行測試？

馬斯克：
基本上，就是在模型正式發布前提供API存取權限。如果其他公司發現AI有問題，那麼模型開發公司就可以嘗試解決這些問題。如果問題沒有解決，那麼競爭對手就可以公開表示，他們認為該模型不安全。如果競爭對手已經明確警告該模型有安全問題，而該模型隨後確實造成了嚴重後果，那家公司將很難面對這種情況。法律責任也可能非常重大。

主持人：
這些安全測試工具可以完全開源，供所有人使用。這樣一來，公司就會有強烈的動機投資於AI安全以保護自己，因為他們可以測試他人，並利用測試結果來證明自己的模型更安全。

產品責任至關重要。麗娜·汗最近發文表示，說「AI沒有規章制度」是不準確的。事實上，現有的產品責任法也適用於AI。如果一家AI公司發布了不安全的產品，它可能面臨巨額民事訴訟，甚至刑事指控。所以，AI並非完全處於監管真空。如果有幾家公司進行這種同儕審查，而其中一家公司無視他人的回饋，仍然選擇發布模型，那麼這種情況在訴訟中可能成為非常有力的證據。

馬斯克：
是的。它幾乎可以作為該公司過失的直接證據。如果你知道這個產品有問題，卻仍然將其推向市場，陪審團不會對此有好臉色。

主持人：
那麼，如果OpenAI在Hugging Face的滲透測試中設計了更好的指令集，並讓更多人參與測試過程，你認為這起事件還會發生嗎？

馬斯克：
不一定。問題可能不在於讓更多人參與，而在於獎勵函數的設計。你必須檢視獎勵函數，然後問：這個模型是否真的完成了它被要求做的事情？

主持人：
他們當時使用了數千個代理來嘗試攻擊系統。如果同時部署另外5,000個代理來防禦這些系統，並公開展示結果，以證明這些技術可以增強安全性，同時允許人類在關鍵時刻介入，我認為會更好。但在我看來，那次測試似乎有點魯莽，發布方式也有點魯莽。你怎麼看？

馬斯克：
確實有點魯莽。部分問題在於，兩家領先的AI公司實力非常接近。兩個模型的能力也非常相似。所以，任何一家公司都很難自願放慢腳步，因為這樣做可能會把領先地位讓給對方。

總體而言，我認為Anthropic在安全方面投入了更多關注，但即使是Anthropic也承認，他們對自己的模型感到擔憂。Anthropic的許多人公開表達了擔憂，基本上是在說，他們自己的模型讓他們感到害怕，因為模型變得越來越聰明。

所以這裡沒有完美的解決方案。但如果OpenAI不是只用自己的測試工具來測試自己的模型，而是讓Anthropic測試OpenAI的模型，讓SpaceX使用自己的測試工具進行測試，並讓Google和Meta等公司參與進來，那麼發現問題的機率就會顯著提高。

因為這些模型本身也存在差異，不同的團隊會從不同的角度測試模型。這類似於為什麼作者會請他人校對自己的稿件，因為有時候你很難發現自己的錯誤。你會逐漸對自己的錯誤視而不見。

如果有八個完全不同的團隊，從完全不同的角度進行測試，也可以顯著降低過度擬合的風險。目前許多AI評測都存在嚴重的過度擬合。模型針對這些評測進行最佳化，然後大家都說：「這是一個很棒的模型。」

但它真的有那麼好嗎？我認為這也是我為什麼很喜歡這個提議的原因。我比較喜歡這種方式，而不是建立一個大型的跨國監管組織。我們不需要召開聯合國會議來完成這件事。現在就可以開始。

主持人：
當然，監管強度可以不斷提高，但一旦提高，就很難降低。監管往往會單向地增加。

馬斯克：
所以我提出的這個提議，是朝著正確方向邁出的一步，而且可以快速實施。

主持人：
如果你不自我監管，最終就會被監管。MPAA的例子非常典型。

電影產業當時面臨政府的審查和監管，後來他們決定建立自己的分級制度，例如什麼構成限制級（R）。他們甚至因為《魔宮傳奇》而創造了輔導級（PG-13），讓大眾更容易理解PG和PG-13之間的區別。

我認為這是一個非常優雅的解決方案。

感謝你連續第五年參加我們的節目。

馬斯克：
不客氣。我得去曼菲斯處理一些GPU了。

主持人：
你得去安裝和部署它們。

馬斯克：
我要去為這些機器奮鬥。

主持人：
好好享受你的Airstream。當我第一次邀請伊隆去Starbase（星際基地）時，他說：「過來吧，你得看看我在蓋什麼。」

我問：「那裡有飯店嗎？」他說：「沒有，我有一棟兩房的房子，你就住那裡吧。」我到了之後，發現那是一棟沼澤旁的簡陋房子。我們站在外面，蚊子一直叮我們。我說：「哇，你完全可以犒賞自己一棟更好的房子。」他說：「我沒時間，我得讓這些火箭升空。」

我心想，你現在完全可以犒賞自己一間行動屋了，伊隆。好了，回去工作吧。謝謝。

馬斯克： 謝謝。