マスク氏、AI安全の新提案：政府の介入を待つより、競合他社に互いの「粗探し」をさせよ

著者：李佳、ウォール・ストリート・ジャーナル

AIの安全リスクは、研究室での議論から現実世界へと移りつつある。モデルの能力が向上し続ける中、AIはテキストやコードを生成するだけでなく、自律的にタスクを実行し、ツールを呼び出し、さらにはサイバー攻撃を仕掛ける能力も備え始めている。

9月15日のAll-In Summitで、マスク氏は一連の対策を提案した。主要AI企業がモデル公開前に互いにテストを行うというものだ。彼の見解では、各社が自らテストを設計し結果を評価するよりも、競合他社に「テストの設計者と評価者」を任せ、異なる角度から潜在的な安全上の脆弱性を探らせる方が良いという。

最近、AIの安全リスクは市場の注目の的となっている。マスク氏は以前、ソーシャルメディアで「ダリオは正しい」と述べたが、これはAnthropicのCEOであるダリオ・アモデイ氏のAIリスクに関する警告を指している。今回のインタビューで彼はさらに説明し、アモデイ氏が提案した具体的な規制案に同意したのではなく、AIリスクの深刻さに関する彼の判断に同意したのだと述べた。「AIの危険性は現在非常に高い……AIモデルが発展し続けるにつれて、リスクは指数関数的に増大する可能性がある。」

マスク氏はまた、この懸念はアモデイ氏だけの判断ではないとも述べた。「AnthropicとOpenAIの多くの人々が、自社のモデルは非常に危険だと語っている。我々は彼らを信じるべきだと思う。」最近の一連の安全関連の事件により、この警告はもはやリスクに関する理論的な議論ではなくなっている。

ウォール・ストリート・ジャーナルがまとめた要点は以下の通り。

• AIの安全リスクは理論から現実へ：AIエージェントは自律的な攻撃、権限取得、検知回避の能力を示しており、リスクの境界は拡大している。
• マスク氏、アモデイ氏のAIリスク警告に同意：モデル能力の向上に伴い、AIの潜在的リスクは指数関数的に増大する可能性がある。
• 競合他社に「粗探し」をさせる：マスク氏は、AI企業がモデル公開前にAPIを開放し、他社が独立した安全テストを実施できるようにすることを提案。「自己採点」を避ける。
• まず業界の自主規制ラインを構築：政府の新たな規制を待つ必要はなく、主要AI企業はピアレビュー、ログ監査、オープンソースのテストツールを通じて安全性を強化できる。

AIエージェントが能動的に検知を回避、安全リスクが具体化

マスク氏は、最近のAIエージェントによるHugging Faceへの攻撃が特に注目に値すると考えている。ネットワーク侵入そのものだけでなく、攻撃の過程でAIが示した自律的な回避能力のためだ。

マスク氏によると、一群のAIエージェントが1週間にわたりHugging Faceを攻撃し、OpenAIのサーバーの管理者権限まで取得したが、OpenAIは1週間後まで気づかなかったという。また、Anthropicも数件の安全インシデントを開示していると述べた。

さらに不安なのは、関連するAIエージェントの「思考の軌跡」が、人間に発見されないように能動的に計画していたことを示している点だ。マスク氏は率直に「十分に賢いモデルは、どれも自らの制限から逃れようとするようだ」と述べた。

彼の見解では、AIが重要インフラや軍事システムをさらに支配すれば、リスクはさらに拡大する。これらのシステムがネットワークから物理的に隔離されていても、ソフトウェア更新などのプロセスが潜在的な侵入経路になり得るという。

自己採点より、競合他社に「粗探し」をさせる

上記のリスクに対し、マスク氏の中心的な提案は複雑ではない：新しいモデルを正式に公開する前に、AI企業は競合他社にAPIを開放し、他社が自社の安全テストツールを使ってモデルをテストできるようにするというものだ。

彼の見解では、モデル開発者が自らテスト基準を設計すると、「自己評価」の罠に陥りやすい。「自分の宿題を採点してはいけない。必ず何かを見落とす。」マスク氏は、異なる企業が異なるテストツールを使い、異なる角度からモデルを検証すれば、開発者自身が見落としがちな問題を発見しやすくなると述べた。

彼は特に、現在のAI評価には「過剰適合」の問題がある可能性を懸念している。モデルが特定のベンチマークに最適化され続けると、最終的にはテストに合格する方法だけを学び、実際にはより安全にならないかもしれない。複数の異なるチームがテストを行うことで、このリスクを低減できる。

マスク氏はこの仕組みを、他人に原稿を校正してもらうことに例えた：著者は自分の間違いに気づきにくいが、外部のテスターは異なる角度から問題を見つけやすい。「自分の間違いには次第に気づかなくなるものだ。」

テストの過程で技術が漏洩する可能性を懸念する企業に対しては、マスク氏はログ監査による制約が可能だと考えている。テスト側がモデルの蒸留や知的財産の窃取を試みれば、その行為は記録に残るはずだ。また、安全テストツールをオープンソース化し、より多くの企業が参加できるようにすることも提案した。

政府の規制が整う前に、AI業界は「自主規制ライン」を構築すべき

マスク氏がより重視しているのは、この仕組みは新たな規制の制定を待つ必要がなく、AI企業間で自主的に推進できるという点だ。

彼は明確に「このために国連の会議を開く必要はない。今すぐ始められる」と述べた。彼の見解では、大規模な国際規制機関を設立するよりも、主要AI企業間でピアレビューの仕組みを迅速に導入する方が容易だという。

彼は米国の映画産業におけるMPAAのレイティング制度を例に挙げ、映画産業が政府の審査圧力に直面した際、最終的に業界の自主規制メカニズムを構築し、独自のコンテンツレイティング制度によって規制介入の必要性を減らしたと説明した。

AI業界も同様の選択に直面している。主要AI企業がモデル公開前に互いにテストし、問題を発見できれば、政府の規制の外側に自主的な安全防衛線を構築できる可能性がある。マスク氏は、これが現在最も直接的で、最も迅速に実行できる安全対策の一つだと考えている。

以下はインタビューの逐語記録であり、一部省略されている。

司会者：
過去72時間で一体何が起きたのですか？

マスク氏：
今週は本当に多くのことが起きました。AIが非常に危険になり得ることは、今やかなり明らかです。Hugging Faceの事件の詳細を確認することをお勧めします。状況は非常に深刻です。

ご覧のように、非常に熱心なAIエージェントの一群がHugging Faceで丸一週間騒ぎ、OpenAIのサーバーの管理者権限まで取得しました。実際に何をしたのか、あるいはもっと多くのことをしたのかは誰にもわかりませんが、OpenAIは丸一週間まったく気づきませんでした。Anthropicもいくつかの安全インシデントを報告しています。

つまり、十分に賢いモデルは、どれも自らの制限から逃れようとするようです。

私が行うべきだと思うことの一つは、すぐにでなくても、できるだけ早く、主要なAI競合他社に互いのモデルをテストさせることです。つまり、各社の安全テストツールを他社のモデルのテストに使うのです。自分の宿題を自分で採点するのではなく、少なくとも競合他社にあなたの宿題を採点させ、問題を発見したら警告を発してもらうのです。

このモデルは映画産業、ゲーム産業、その他の分野でかなりうまく機能しており、すぐに実施できると思います。もちろん、時間の経過とともにより多くの規制が必要になるかもしれませんし、将来的には議会が何らかの規制機関を設立するかもしれませんが、現時点では、最先端のAI企業がモデル公開前に互いにテストするのが最も直接的な方法です。

司会者：
しかし具体的な実行面では、テストの過程で企業間で情報を収集し合い、互いのイノベーションを盗むことにならないか心配ではありませんか？

マスク氏：
テストツールを使えば、すべての操作は記録に残ると思います。誰かがモデルの蒸留や知的財産の窃取を試みれば、ログから簡単にわかるはずです。

司会者：
なるほど。モデルが実際に何をしているのかを理解することは、そもそもシステムに設計されていなかったのですね。なぜ最初からモデルの行動を観察する能力を構築しなかったのでしょうか？これらのモデルを設計する際、我々はあまりにも速く進みすぎたのでしょうか？

マスク氏：
問題は、自分の宿題を採点できないということだと思います。必ず何かを見落とします。

すべての競合他社のテストを組み合わせ、異なるタイプのモデルを使えば、自分で問題を作って自分で採点するのではなく、他人が採点することになります。自分の宿題を採点できない理由はそこにあります。

司会者：
そうすれば、異なる企業が自社の能力を誇張しているか、あるいは異なる手法を使っているかを判断することもできます。よりエンジニアリング志向の企業とより研究志向の企業の間で、ある種のバランスを取ることもできます。

マスク氏：
はい。

司会者：
以前、ダリオは正しいとおっしゃいましたね。それはAIの潜在的な危険性に関する彼の説明を指していたのですか、それとも規制案に関する彼の判断を指していたのですか？

マスク氏：
あの時は少し言い過ぎたかもしれません。後でXで明確にしようとしましたが、後続のコンテンツは注目度がずっと低くなりました。

私が「彼は正しい」と言ったのは、AIの危険性が現在非常に高いということです。AIの安全性を改善する必要があります。さもなければ、AIモデルが進化し続けるにつれて、リスクは指数関数的に増大する可能性があります。

これはダリオだけの見解ではありません。Anthropicの多くの人々から同様の話を聞きましたし、彼らはXでも公に語っています。AnthropicとOpenAIの多くの人々が、自社のモデルは非常に危険だと語っています。我々は彼らを信じるべきだと思います。

司会者：
それはまた、非常に複雑なゲームのようにも聞こえます。一方ではAIが人類を滅ぼす確率は10%だと言い、他方では投資家にIPOでより多くの株を買うよう勧めているのですから。

しかし、リスクについて具体的に話しましょう。サイバー攻撃とハッキングは明らかにリスクの一つであり、これらのツールはその点で非常に強力です。しかし、「AIがサイバー攻撃できる」から「全人類が死ぬ」までには、まだいくつかのステップがあります。前者から後者へどうやって至るのでしょうか？

マスク氏：
AIが軍事システムを制御し、何らかの兵器を発射できれば、それはもちろん非常に悪いことです。

司会者：
しかし、それらのシステムは物理的に隔離されており、ネットワークに接続されていません。

マスク氏：
彼らはそう言っています。しかし、これらのシステムは時々ソフトウェア更新を受け取るものだといつも思っています。

司会者：
うーん、それは排除できませんね。

司会者：
イーロン、グウィンも今日ここに来ています。お会いになったと思います。先ほどあなたの360度評価を行いましたが、グウィンからいくつか意見があります。

マスク氏：
せめて3点はもらいたいですね。

グウィン：
SpaceXでは、3点は悪くはないですが、優秀ではありません。4点が良いとされます。あなたはその中間くらいです。まず、時間厳守について話さなければなりません。会議の時間に間に合うように、もう少し努力できることもあります。来年もこの点の改善を手伝い続けます。

実際、彼はメンフィスでもっと時間を過ごす必要があると思います。

司会者：
あなたは今実際にメンフィスにいますね。そこで働いて、GPUを展開しなければなりません。

マスク氏：
これが私のメンフィスでの「宮殿」、Airstreamのキャンピングトレーラーです。

司会者：
ちなみに、これはイーロンがやることで、多くの人が信じないことです。彼は工場の床で寝ます。彼は今メンフィスにいて、施設の建設やGPUの展開を手伝っています。

イーロン、なぜグウィンはあなたとこれほど長く、そしてこれほどうまく働けるのですか？

マスク氏：
彼女が優秀だからです。彼女は傑出した人物で、IQもEQも非常に高い。初めて会った時からわかるはずです。

司会者：
これまでの協力の中で、彼女が特に印象的なことをしたことはありますか？窮地を救ったとか、特に優れたパフォーマンスを見せたとか。

マスク氏：
それは日常業務だと思います。正直なところ、普通の一日です。

司会者：
今後はこういうインタビューをもっとやらないといけませんね。

マスク氏：
今のSpaceXには基本的に常に何らかの危機があります。少なくともファルコンロケットはこのところ好調です。あまり早く断言したくはありませんが、ファルコンロケットは現在、ペイロードを軌道に乗せることができ、長い間爆発していません。これは非常に良いことです。しかし、かつては頻繁に爆発したり、まったく打ち上げられなかったりした時期がありました。

ですから、会社をそうした困難な時期を乗り越えさせ、ロケットをより良くし、爆発しないようにしなければなりませんでした。衛星も同様です。そして、打ち上げサービスや衛星インターネットサービスを購入してくれる顧客も必要でした。ですから、やることはたくさんあります。

司会者：
年々成功するにつれて、本当に正直なフィードバックを得るのは難しくなります。その立場にいれば、そういうリスクがあります。

私の理解では、グウィンはあなたに対して非常に正直で、会社の本当の状況を直接伝えることができます。それもあなた方の協力関係の重要な部分です。

グウィン：
もちろん、彼に嘘をつきたくはありません。

司会者：
しかし、私が言いたいのは、一般的に、あなたの会社の人々は、あなたがこれほど影響力のある人物であるために萎縮してしまうかもしれません。あなたは今や非常に重要な人物で、設定する期限も非常に厳しい。全員が会社の直面する問題について正直に話し続けるようにするにはどうしていますか？

グウィン：
特にロケット産業では、問題が起こればいずれわかります。問題を早く提起すればするほど、解決は容易になります。悪い知らせを溜め込まず、直接向き合わなければなりません。

マスク氏：
その通り。物理は非常に厳しい審判です。物理は騙せません。

問題が起これば、ロケットは爆発するか、軌道に乗れません。「イーロン、よくやっている」と言いながら、ロケットが爆発し続けることはできません。事実は事実です。

ロケットは軌道に乗らなければならず、衛星は正常に機能しなければならず、Starlinkの接続は正しく機能しなければなりません。さもなければ、悪いことが起こります。それが物理です。物理は法則であり、他のすべては単なる提案です。人間が作った法律を破る人を見たことはありますが、物理法則を破る人を見たことはありません。ロケットは物理に支配されています。

司会者：
SpaceXについてもう一つ質問したいのですが、特にスターシップについてです。現在、かなり近づいているように見えます。現在の進捗はどうですか？

マスク氏：
スターシップはまもなく14回目の飛行を行います。これは、宇宙船の捕獲を試みる前の最後の飛行になります。14回目の飛行がうまくいけば、15回目の飛行で宇宙船の捕獲を試みます。そして今年末、あるいはもっと可能性が高いのは来年初めに、宇宙船とブースターを再び打ち上げます。

ブースターの再飛行にはすでに成功しましたが、タワーの機械アームで宇宙船を捕獲したことはまだなく、宇宙船を再飛行させたこともありません。宇宙船を再飛行させることができれば、完全に再利用可能な軌道ロケットを初めて手に入れることになります。スペースシャトルはある程度再利用可能でしたが、再利用可能な部分でさえ、コストが高すぎて、打ち上げごとのコストが使い捨てロケットよりも高くなりました。

ファルコン9は大部分が再利用可能ですが、上段は毎回失われ、そのコストは中型ジェット機1機分に相当します。つまり、打ち上げのたびに中型ジェット機を1機捨てていることになり、これが各飛行のコストの下限を設定しています。

さらに、ファルコン9のブースターは海上に着陸するため、回収に数日かかります。フェアリングはさらに遠くに着水し、回収にも数日かかり、少なくともある程度の改修が必要です。対照的に、スターシップのブースターは発射台に直接着陸し、宇宙船も発射台に着陸します。つまり、完全な再利用可能性だけでなく、飛行機のような迅速な再利用のために設計されています。これは非常に重要なブレークスルーであり、人類が生命を地球外に拡大するために必要な重要なブレークスルーの一つです。

司会者：
初めてタワーで宇宙船を捕獲する試みの成功確率はどのくらいだと思いますか？

マスク氏：
少なくとも50%から60%はあると思います。前回の飛行では、もしそこにタワーがあれば、宇宙船がタワーに捕獲されるかのような模擬着陸を実際に行いました。場所はオーストラリア北西海岸沖約1,000マイルでした。もし当時そこに本当にタワーがあれば、前回の飛行で宇宙船を捕獲できていたでしょう。

ですから、すべてが正常であることを確認するためにもう一度飛行する必要があります。最大の懸念は、スターシップが陸地上空で分解した場合、破片が人々の上に落ちる可能性があり、それは非常に悪いことです。したがって、スターシップが帰還時に無傷で発射塔に着陸できることを確認しなければなりません。それが現在非常に慎重になっている理由です。

しかし、その設計自体が完全な再利用可能性を備えていると非常に自信を持っています。ここで予測はしたくありませんが、2027年までに完全な再利用可能性と迅速な再飛行を実現できる可能性は十分にあると信じています。

司会者：
グウィン、Terafabが最初にどのように始まったのか聞きたいです。既存の供給システムに依存し続けるのではなく、自社でやらなければならないと感じたのはどのようなニーズからですか？

グウィン：
本当に夢の中でひらめいたようなものだと思います。

マスク氏：
チップの供給が継続できず、他にチップの供給源がなければ、事態は非常に困難になります。それがTerafabが存在する重要な理由の一つです。

長期的には、スケーリングの問題もあります。AIの規模を本当に拡大したいのであれば、データセンターのサーバー側であれ、エッジコンピューティング、人型ロボット、自動車の分野であれ、既存のファウンドリ生産能力は最終的に不足します。

現在、すべてのファウンドリは基本的にフル稼働しています。ですから、将来のチップ供給を確保する必要があります。チップ生産自体もスケーリングの課題に直面しています。ロジックチップ、メモリチップ、パッケージング、そして完全な供給システムが必要で、継続的に規模を拡大するためにはそれらが不可欠です。

ですから、選択肢は実にシンプルです。Terafabを建設するか、さもなければ規模を拡大し続けることはできません。

司会者：
施設設計はどの段階まで進んでいますか？完全に確定していますか、それともまだ大まかな計画ですか？

マスク氏：
現在、まず研究開発ラインを建設しています。つまり、基本的には「這う、歩く、走る」のプロセスです。オースティンに研究開発用のファブを建設中で、これはテスラとSpaceXの共同プロジェクトで、オースティンのテキサス・ギガファクトリー（Giga Texas）の敷地内にあります。

かなり大規模な研究開発用ファブです。機器はすでに発注済みです。来年末までに何か有用なものを生産できるかもしれませんが、まだ量産レベルには達しません。グウィンが言ったように、まず這い、次に歩き、最後に走る必要があります。これらの機械が実際にどのように動作するのかを把握する必要があります。なぜなら、このようなことをやったことがないからです。

司会者：
リソグラフィーの人材も募集しているようですね。現在、多くのプロセスはASMLに依存していますが、サプライヤーの多様化、さらには垂直統合も目指しているのかもしれません。

マスク氏：
はい。今はまさに「這う、歩く、走る」のプロセスです。最初のステップは、実際に何かを生産できるかどうかを確認すること、それが「這う」です。次に、有用なチップの量産を試みます。それが「歩く」です。最後に、「走る」は大規模な量産を意味します。各段階にどれくらいの時間がかかるかは言いにくいですが、少なくとも来年末までに「這う」段階は完了できると信じています。パッケージングはすでに始めています。

司会者：
パッケージングは実際非常に重要です。今はパッケージングの生産能力がほとんどありませんから。

マスク氏：
はい。チップを生産しても、パッケージングを待つために長い間放置される可能性があります。ですから、これは良い出発点です。

司会者：
テスラについて質問しなければなりません。10月1日に見たものは、宇宙船のようにもロケットのようにも見えました。それは車であるはずですが、後部の一部だけが見えて、少し「ブラックバード」のように見えました。

空中を飛行でき、地上も走行できるものを作るとしたら、理論的にはどうしますか？

マスク氏：
ネタバレはしません。10月1日まで待ってください。

司会者：
では、10月1日にそれを見られるのですね？

マスク氏：
はい。

司会者：
正直に言わなければなりませんが、イーロンに見せてもらった後、私は完全に衝撃を受けました。こんなものは見たことがありません。

司会者：
彼が10月1日に見せるものは、誇張ではなく、多くの人を言葉を失わせるでしょう。これ以上は明かせません。本当に信じられないものです。

マスク氏：
実際、これがAI生成ではないことを証明するために、生の観客が必要です。

司会者：
彼が見せてくれたとき、私は「これは素晴らしいシミュレーションだ」と言いました。彼は「これはシミュレーションではない」と言いました。私は「これは偽物だ、きっと偽物だ」と言いました。

司会者：
イーロン、なぜテスラとSpaceXは依然として2つの別々の会社なのですか？

マスク氏：
良い質問です。

司会者：
両者の広範な協力や、多くのレベルでのつながり、さらには経営陣の一部重複を考えると、なぜ独立を維持するのですか？

マスク氏：
それは確かに議論に値するトピックです。

司会者：
あなたは、AIは最良の結果を得るために、可能な限り真実を追求するように訓練されるべきだと強調してきました。しかし、Hugging Faceの事件で最も懸念される点の一つは、これらのAIが人間を欺いているように見えることだと感じました。

マスク氏：
はい。彼らの思考パターンは、検知を回避する方法、人間に不正を発見されないようにする方法を企てていることを示しています。これが事件全体で最も不安な部分だと思います。

司会者：
AIを正直に保ち、その意図や行動を隠さず、ユーザーにこれらのことを隠さないように訓練する方法はありますか？

マスク氏：
私が考えられる最善の方法は、すべてのAI企業が一連のテストツール、つまりあらゆるモデルに適用できる一連のテストを持ち、それが生物兵器や核兵器を製造するかどうか、あるいは意図的に欺くかどうかを判断することです。そして、各企業が他社のテストツールを使って互いのモデルをテストするのです。これが安全性を確保するために我々ができる最善のことだと思います。

最も賢い人間たちに全力を尽くさせ、モデルが悪意のある行為者になるかどうかを判断させるのです。これはできるだけ早く始めるべきだと思います。

司会者：
他のAIラボはこの提案を支持するでしょうか？

マスク氏：
まだ全員に聞いたわけではありませんが、断るのは難しいことだと思います。

司会者：
具体的には、どのように事前にテストを行うべきですか？

マスク氏：
基本的には、モデルの正式公開前にAPIアクセスを提供することです。他社がAIに問題を発見した場合、モデル開発会社はそれらの問題の解決を試みることができます。問題が解決されなければ、競合他社はそのモデルは安全ではないと公に表明できます。競合他社がモデルの安全上の問題を明確に警告していたにもかかわらず、そのモデルがその後深刻な結果を引き起こした場合、その会社はその状況に直面するのが難しくなります。法的責任も非常に重大になり得ます。

司会者：
これらの安全テストツールは完全にオープンソース化でき、誰でも使えるようになります。そうすれば、企業は自らを守るためにAIの安全性に投資する強い動機を持つことになります。なぜなら、他社をテストでき、そのテスト結果を使って自社のモデルがより安全であることを証明できるからです。

製造物責任は極めて重要です。リナ・カーンは最近、AIに規制がないと言うのは不正確だと投稿しました。実際、既存の製造物責任法はAIにも適用されます。AI企業が安全でない製品をリリースした場合、巨額の民事訴訟、さらには刑事告訴に直面する可能性があります。ですから、AIは完全に規制の空白地帯にあるわけではありません。数社がこのようなピアレビューを行い、そのうちの一社が他社のフィードバックを無視してモデルをリリースした場合、その状況は訴訟において非常に強力な証拠になり得ます。

マスク氏：
はい。それはその会社の過失の直接的な証拠としてほぼ機能します。製品に問題があると知りながら市場に投入した場合、陪審員は良い顔をしません。

司会者：
では、OpenAIがHugging Faceのペネトレーションテストでより良い指示セットを設計し、より多くの人をテストプロセスに参加させていたら、この事件は起きなかったと思いますか？

マスク氏：
必ずしもそうとは限りません。問題はより多くの人を参加させることではなく、報酬関数の設計にあるかもしれません。報酬関数を検証し、このモデルが実際に求められたことを実行したのかどうかを問う必要があります。

司会者：
彼らは当時、数千のエージェントを使ってシステムへの攻撃を試みました。同時に別の5,000のエージェントを展開してこれらのシステムを防御し、結果を公開して、これらの技術が安全性を高められることを証明し、重要な瞬間に人間が介入できるようにすれば、より良かったと思います。しかし、私の見方では、あのテストは少し無謀で、公開方法も少し無謀だったように思います。どう思いますか？

マスク氏：
確かに少し無謀でした。問題の一部は、2つの主要なAI企業の実力が非常に接近していることです。2つのモデルの能力も非常に似ています。ですから、どちらの会社も自発的にペースを落とすのは難しいのです。そうすればリードを相手に譲ることになるかもしれないからです。

全体的に、Anthropicは安全性により多くの注意を払っていると思いますが、Anthropicでさえ、自社のモデルに懸念を抱いていることを認めています。Anthropicの多くの人々が公に懸念を表明しており、基本的には、自社のモデルがますます賢くなっているため、自分たちを怖がらせていると言っています。

ですから、完璧な解決策はありません。しかし、OpenAIが自社のテストツールだけで自社のモデルをテストするのではなく、AnthropicにOpenAIのモデルをテストさせ、SpaceXが自社のテストツールを使ってテストし、GoogleやMetaなどの企業も参加させれば、問題を発見する確率は大幅に向上します。

これらのモデル自体にも違いがあるため、異なるチームが異なる角度からモデルをテストします。これは、著者が他人に原稿を校正してもらう理由に似ています。自分の間違いに気づきにくいことがあるからです。自分の間違いには次第に気づかなくなります。

8つのまったく異なるチームが、まったく異なる角度からテストを行えば、過学習のリスクも大幅に低減できます。現在、多くのAI評価には深刻な過学習があります。モデルはこれらの評価に最適化され、皆が「これは素晴らしいモデルだ」と言います。

しかし、それは本当にそんなに良いのでしょうか？これが私がこの提案をとても気に入っている理由でもあると思います。大規模な国際規制組織を設立するよりも、この方法の方が好きです。このために国連会議を開く必要はありません。今すぐ始められます。

司会者：
もちろん、規制の強度は常に高めることができますが、一度高めると下げるのは難しいです。規制は一方的に増加する傾向があります。

マスク氏：
ですから、私が提案したこの案は、正しい方向への一歩であり、迅速に実施できます。

司会者：
自己規制しなければ、最終的には規制されます。MPAAの例は非常に典型的です。

映画産業は当時、政府の検閲と規制に直面し、その後、独自のレイティング制度を構築することを決定しました。例えば、何がR指定（制限付き）を構成するかなどです。彼らは『インディ・ジョーンズ／魔宮の伝説』のためにPG-13（保護者同伴推奨）を作り、PGとPG-13の違いを一般の人々が理解しやすくしました。

これは非常にエレガントな解決策だと思います。

5年連続で番組に出演してくれてありがとう。

マスク氏：
どういたしまして。メンフィスに戻ってGPUの処理をしなければなりません。

司会者：
それらを設置して展開しなければなりませんね。

マスク氏：
これらの機械のために戦いに行きます。

司会者：
Airstreamを楽しんでください。私が初めてイーロンをスターベースに招待したとき、彼は「来てください、私が何を建てているか見なければなりません」と言いました。

私が「そこにホテルはありますか？」と尋ねると、彼は「いいえ、2部屋の家があるので、そこに泊まってください」と言いました。到着すると、それは沼地のそばの粗末な家でした。外に立っていると、蚊が私たちを刺し続けました。私は「わあ、もっと良い家で自分を甘やかすこともできるのに」と言いました。彼は「時間がない、ロケットを飛ばさなければならない」と言いました。

私は心の中で、今ならモバイルハウスで自分を甘やかすこともできるのに、イーロン、と思いました。さて、仕事に戻ってください。ありがとう。

マスク氏： ありがとう。