黄仁勋再谈AI风险：许多预测是编造的，中国将成为全球开源重要力量

作者：Helen Li

编辑：徐清扬

美国当地时间9月14日，在知名科技播客All-In Podcast主办的线下活动All-In Summit 2026上，英伟达首席执行官黄仁勋与四位主持人就AI安全、AI末日论、递归自我改进、开源模型、AGI等话题展开讨论。

四位主持人同时也是All-In Podcast的共同创始人：天使投资人Jason Calacanis、前Facebook高管Chamath Palihapitiya、“PayPal黑帮”核心成员David Sacks，以及农业生物科技公司Ohalo Genetics和投资公司The Production Board的首席执行官David Friedberg。

访谈探讨了一个核心问题：AI发展需要什么样的安全边界。针对近期Anthropic首席执行官Dario Amodei关于AI安全的讨论，以及领先实验室呼吁“放慢脚步”的声音，黄仁勋认为安全与创新并不矛盾。他表示，已发生的安全事件应作为工程问题来分析，并通过技术、流程和测试来控制。

针对近年来频繁出现的AI“末日预测”，黄仁勋列举了此前已被证明不准确的判断，例如“放射科医生将被AI取代”、“短期内90%的代码将由AI生成”、“50%的入门级工作即将消失”。他认为这类预测缺乏足够的科学依据，不应被用来制造社会恐慌。

在谈到递归自我改进（RSI）时，黄仁勋表示，RSI并非突然出现的神秘技术，而是上下文、强化学习、合成数据和LoRA等既有技术的组合。

至于开源与闭源模型之争，他明确表示两者缺一不可，并认为中国拥有大量工程师和科学、数学领域的人才，未来可能成为全球开源生态的重要贡献者。

对话随后转向“AGI与超级智能”。当被问及AGI的标准是否为达到人类智能水平、该阶段是否已经到来时，黄仁勋简短回答：“已经达到了。”

以下为黄仁勋最新访谈的精编实录，在不改变原意的情况下整理而成：

01 AI安全不能与创新对立

问：近期关于AI安全的讨论越来越多。Dario Amodei发表了一篇关于AI安全的文章，前Anthropic研究员Jacob Cockson也因相关问题离职。你怎么看这些事情？

黄仁勋：安全问题必须严肃对待，但安全与领先并不冲突。我们可以快速创新、迅速执行，让美国在保持领先的同时确保安全。把这两者视为互斥的选择，本身就是一种错误。

Cockson勇于公开谈论这些问题，这需要勇气。作为吹哨者，他有权利这样做，但我认为他后续对未来的科学判断缺乏足够的科学依据，因为这些预测并非基于真正的科学研究。

许多领先实验室正在从研究机构转型为工程机构，而研究与工程本质上是不同的。如果在转型过程中出现控制或管理问题，那是另一回事。至于Cockson实际看到了什么，我并不知道。

问：近年来，AI产业出现了很多非常悲观的预测，例如“AI可能毁灭人类、导致大规模失业”。你怎么看这些说法？

黄仁勋：我认为我们不应该轻易为这些事情贴上所谓的“人类灭绝概率”或“文明毁灭”的标签，因为其中很多其实是编造的。当你给某人贴上研究员或科学家的标签，然后抛出一个耸人听闻的预测，很容易引起公众恐慌，我认为这是不负责任的。

我们过去见过很多这样的预测。有人预测五年内放射科医生将被AI完全取代，未来不再需要放射科医生。现实是，世界需要更多放射科医生；AI确实被用于医学影像分析，但这与“放射科医生消失”完全是两回事。

还有人预测“未来6到12个月内，90%的代码将由AI生成，50%的入门级工作将在6到9个月内消失”。事实上，这些预测都没有成真。此前也有人说“GPT-2和Llama 3太危险，不能发布”，甚至预测“第二年白领工作将消失一半”，或者所谓的“就业末日”即将到来。

我认为这些预测应该被记录下来。多年后，我们回头看，就会知道哪些预测是正确的，哪些只是在制造恐慌。

问：所以你认为AI安全问题更应该作为工程问题来处理？

黄仁勋：如果发生安全事件，我们首先应该从工程角度进行根本原因分析，了解发生了什么、问题出在哪里、可以采取哪些措施来防止类似事件再次发生，然后将这些措施转化为系统、流程和技术控制。

我相信这些公司已经在做这些事情，包括更好的沙箱、更严格的运行环境、改进的监控和持续监控系统。我甚至愿意打赌，这些问题是能够被控制和预防的。

如果一家工程公司真的不知道发生了什么，也不知道如何控制，可以派工程师去帮助他们。但我不认为会走到那一步。这些实验室里有非常优秀的人才，我相信他们已经分析了相关问题并采取了适当的措施。

问：如果AI安全问题需要监管，监管应该从哪里开始？

黄仁勋：监管应该针对真实存在的问题。真正需要关注的问题大多来自领先的AI实验室，因为它们拥有最多的计算资源，正在处理最前沿的问题。一个高中生或一家普通的初创公司不太可能拥有足够的计算能力来制造这些问题。

这些实验室正在从研究转向工程，同时也在建立公司、文化、技术和产品，这不是一个容易的过程。因此，应该关注它们如何建立更完整的工程体系，以确保技术开发和测试过程足够安全。

问：是否需要第三方评估机构？

黄仁勋：我认为可以有多个评估和审计机构。它们不需要知道所有事情，但应该知道该问什么问题。这有点类似财务审计。如果只有一家评估机构，它可能会受到影响；如果有多家评估机构，它们可以相互制衡。

02 “递归自我改进”没那么神秘

问：关于递归自我改进的讨论越来越多，即AI生成数据、自我训练、不断加速。你怎么看？

黄仁勋：我认为“递归自我改进”是最近比较流行的一个新标签，但背后其实是许多既有技术的组合，包括上下文、技能、反思、强化学习、合成数据生成和LoRA。

这些方法确实可以让AI在执行任务的过程中积累经验，然后持续改进。例如，通过合成数据和强化学习，可以在不重新训练整个基础模型的情况下提升模型能力，而积累的经验又可以进一步用来训练基础模型。我相信几乎每家公司都在使用其中的一些技术。

“递归自我改进”这个词听起来可能像是系统会变得完全失控，但实际上，产品在发布前仍然需要经过评估、重新测试和回归测试，这些都是最基本的工程控制。

这些领先实验室正在从研究机构转型为工程机构，我相信它们未来会有更好的方法、知识、实践、工具和技术来控制、验证和评估这些系统。递归自我改进可以在内部发生，但经过验证的产品仍然可以安全地发布。

问：你怎么看开源模型和闭源模型之间的关系？

黄仁勋：世界既需要开源模型，也需要闭源模型。我自己也会使用闭源的前沿模型。它们有点像瓶装水；水本身是免费的，但不同形式的产品可以满足不同的需求。

开源模型对于主权、隐私和企业的专有技术非常重要。在过去六个月里，大约有4000亿美元的风险投资资金流入了AI原生公司，其中约80%的公司使用开源模型。如果没有开源模型，许多初创公司就无法实现自己的目标，因为它们想做的事情与领先实验室正在做的事情不同。

美国真正的优势在于拥有多种形式的创新。要赢得AI竞赛，我们必须允许开源模型发展。

赢得AI竞赛不仅仅是少数几家美国公司获胜，而是美国的公司、产业、研究人员、教育工作者、学生和企业家都能从这项技术中抓住机会。有些人会使用闭源模型，许多人会使用开源模型，两者都需要。

问：你认为中国会成为全球开源生态的重要贡献者吗？

黄仁勋：我相信中国可能会为全球开源生态贡献相当大的一部分。中国拥有大量的工程师，还有许多学习科学和数学的学生，像清华这样的顶尖大学每年都会培养出许多优秀人才。

例如，中国工程师为Linux、Kubernetes（开源容器编排系统）以及许多软件项目做出了贡献。开源的一个特点是，一旦你下载了它，它就属于你；你可以继续修改、优化，把它变成自己的东西。

AI竞赛最终归结为谁能最好地利用这项技术。过去工业革命的许多重要发明来自欧洲，但美国后来很好地利用了那些技术。我希望下一次工业革命也能以类似的方式发展。

我认为中国的讨论更务实，更关注经济发展和社会进步，而不是不断讨论末日或文明毁灭。如果这些末日预测真的成立，我们当然应该讨论和应对，但没有必要制造恐慌。我们的工作是让它成真。

问：如果AI最终自动化了大量的编程工作，工程师还需要做什么？

黄仁勋：工程工作仍然会存在。我这一代工程师在软件尚未普及时，并没有花大量时间写代码。现在软件工程师花很多时间写代码，未来如果其中很大一部分工作被自动化，人类仍然会从事工程工作。我的一个习惯是，我最喜欢的键盘按键是Backspace，因为最好的软件往往意味着更少的代码。

03 英伟达为何深度参与AI产业链

问：美国政府最初强调就业、再工业化、能源和供应链。这些事情现在确实正在发生。英伟达已经成为整个AI产业的重要资本提供者。你如何决定资源配置的方向？

黄仁勋：AI是一场新的工业革命。这个产业包含许多组成部分，例如模型、芯片、应用、数据中心、建筑、电力和发电设施。我一直在观察整个生态系统，找出瓶颈所在。

如果一家非常好的公司受到某个环节的限制，我就会关注那个问题。可能是供应链，也可能是土地、电力或工厂。英伟达的规模已经足够大，所以我们必须提前很多年考虑供应链。像康宁、Lumentum、台积电和内存供应商这样的公司，都是我们需要长期关注的企业。

问：有人认为AI产业的大部分利润最终会转移到应用层。为什么英伟达要进入模型和Hugging Face等更高层级的领域？

黄仁勋：英伟达几乎可以运行世界上所有的模型。大约一年半以前，人们主要讨论OpenAI的模型，但现在有Meta的Muse、Grok、Gemini、Anthropic以及许多其他模型。许多前沿AI实验室都建立在英伟达的平台上。

我们的策略是帮助每个人成功，而不是接管别人的业务。我们会尽可能保持在技术堆栈的底层，只有在必要时才向上移动。CUDA支持大量的框架，Megatron和Megatron Core支持大规模训练。我们发明必要的技术，然后让整个生态系统发展，让更多公司参与进来。

问：为什么区域云服务提供商现在变得越来越重要？

黄仁勋：区域云服务提供商通常比大型超大规模云厂商更灵活，因为它们可以在当地找到土地、电力和工厂，并且更了解当地的需求。

未来将形成一个分布式的企业网络，越来越多的国家会将AI视为战略产业。我们已经看到一些地区开始增加AI计算基础设施。

问：英伟达现在正在开发自己的开源模型，包括自动驾驶和生物医学领域的模型。为什么要做这些事情？

黄仁勋：因为客户需要。我们有能力做到最好，所以我们就会去做。例如Alpamayo，这是我们的自动驾驶模型。它是一个具备推理能力的自动驾驶系统。过去，自动驾驶需要数十亿小时的道路数据，但推理能力可以让系统思考类似的情况，从而减少对大量实际道路数据的依赖。

自动驾驶的未来不仅包括乘用车，还包括农业设备、卡车、厢式货车以及许多其他移动设备。许多公司没有完整的技术堆栈，因此英伟达可以提供完整的技术堆栈，客户可以根据自己的需求进行最后一英里的调整。

生物医学领域也是如此。我们开发了ESM2、ESMFold、OpenFold、AlphaFold 2以及一些等变模型和Protein Complexa（一种用于全原子蛋白质复合物的生成式AI框架），因为制药公司确实需要这些技术。我的出发点始终是：有人需要这项技术，所以我们就去做。

04 马斯克的Terafab

问：马斯克宣布了Terafab芯片工厂计划，规模非常大。你怎么看？

黄仁勋：英伟达非常了解制程技术，而且我们一直在挑战制程的极限，所以当然可以讨论这个问题。一旦马斯克决定做某件事，就很难阻止他继续下去，这也是他的超能力。

问：那么英伟达未来可以在他的工厂生产芯片吗？

黄仁勋：我们可以讨论。

问：如果AGI的定义是达到人类智能水平，你认为我们已经进入这个阶段了吗？超级智能呢？

黄仁勋：我们已经达到了，甚至可以说在某些特定领域，我们已经进入了超级智能的阶段。

问：为什么？

黄仁勋：因为在一些非常特定的领域，AI已经超越了人类。自动驾驶就是一个例子。如果一辆车能比人类驾驶得更好，那么在驾驶领域，它就是超级智能。

目前，自动驾驶系统的事故率可以达到人类的十分之一。生物医学领域也是如此。合成蛋白质和虚拟筛选等任务已经达到了超级智能的水平。在这些特定领域，AI已经能够执行超越人类能力的任务。

问：身处这样技术的最前沿是什么感觉？

黄仁勋：我喜欢这种感觉。未来是光明的。也许未来很多人不需要工作，但我不想错过这个时代。

我希望我们所有人都能一起走向那个未来，人类最终会共同成功。我们需要鼓励每个人，减少不必要的戏剧性争论。最重要的是，我们需要确保整个美国都能参与其中。