젠슨 황, AI 리스크 재차 언급: 많은 예측은 지어낸 것이며 중국은 글로벌 오픈소스의 중요한 세력이 될 것

작성자: Helen Li

편집자: 쉬칭양

미국 현지시간 9월 14일, 유명 테크 팟캐스트 All-In Podcast가 주최한 오프라인 행사 All-In Summit 2026에서 엔비디아 CEO 젠슨 황이 네 명의 진행자와 AI 안전, AI 종말론, 재귀적 자기 개선, 오픈소스 모델, AGI 등의 주제로 논의를 진행했다.

네 명의 진행자는 동시에 All-In Podcast의 공동 창립자이기도 하다: 엔젤 투자자 Jason Calacanis, 전 Facebook 임원 Chamath Palihapitiya, 'PayPal 마피아' 핵심 멤버 David Sacks, 그리고 농업 생명공학 기업 Ohalo Genetics와 투자회사 The Production Board의 CEO David Friedberg.

인터뷰는 핵심 질문 하나를 탐구했다: AI 발전에는 어떤 안전 경계가 필요한가. 최근 Anthropic CEO Dario Amodei의 AI 안전 관련 논의와 선도 연구소들의 '속도 조절' 요구에 대해 젠슨 황은 안전과 혁신이 모순되지 않는다고 보았다. 그는 이미 발생한 안전 사고는 공학적 문제로 분석되어야 하며 기술, 프로세스, 테스트를 통해 통제되어야 한다고 말했다.

최근 몇 년간 빈번하게 등장한 AI '종말 예측'에 대해 젠슨 황은 이미 부정확함이 입증된 판단들을 나열했다. 예를 들어 '방사선과 의사가 AI로 대체될 것', '단기간 내 코드의 90%가 AI에 의해 생성될 것', '초급 직무의 50%가 곧 사라질 것' 등이다. 그는 이러한 예측이 충분한 과학적 근거가 부족하다고 생각한다.

재귀적 자기 개선(RSI)에 대해 젠슨 황은 RSI가 갑자기 등장한 신비한 기술이 아니라 컨텍스트, 강화 학습, 합성 데이터, LoRA 등 기존 기술의 조합이라고 말했다.

오픈소스 모델과 클로즈드소스 모델의 논쟁에 대해서는 두 가지 모두 필수적이라고 명확히 밝혔으며, 중국에는 많은 엔지니어와 과학·수학 분야 인재가 있어 향후 글로벌 오픈소스 생태계의 중요한 기여자가 될 수 있다고 보았다.

대화는 이어서 'AGI와 초지능'으로 전환되었다. AGI의 기준이 인간 지능 수준 도달인지, 그 단계가 이미 도래했는지 묻는 질문에 젠슨 황은 짧게 답했다: "이미 도달했습니다."

다음은 젠슨 황의 최신 인터뷰를 원래 의미를 바꾸지 않고 정리한 발췌록이다:

01 AI 안전은 혁신과 대립할 수 없다

질문: 최근 AI 안전에 대한 논의가 점점 많아지고 있습니다. Dario Amodei가 AI 안전에 관한 글을 발표했고, 전 Anthropic 연구원 Jacob Cockson도 관련 문제로 퇴사했습니다. 이러한 일들을 어떻게 보십니까?

젠슨 황: 안전 문제는 진지하게 다루어야 하지만 안전과 선도는 충돌하지 않습니다. 우리는 빠르게 혁신하고 신속하게 실행하여 미국이 선두를 유지하면서도 안전을 확보할 수 있습니다. 이 둘을 상호 배타적인 선택으로 보는 것 자체가 오류입니다.

Cockson이 용기 있게 이러한 문제를 공개적으로 논의한 것은 용기가 필요한 일입니다. 내부고발자로서 그는 그렇게 할 권리가 있지만, 그가 이후에 제시한 미래에 대한 과학적 판단은 충분한 과학적 근거가 부족하다고 생각합니다. 이러한 예측은 진정한 과학적 연구에 근거한 것이 아니기 때문입니다.

많은 선도 연구소들이 연구 기관에서 엔지니어링 기관으로 전환하고 있으며, 연구와 엔지니어링은 본질적으로 다릅니다. 전환 과정에서 통제나 관리 문제가 발생한다면 그것은 별개의 문제입니다. Cockson이 실제로 무엇을 보았는지는 저도 모릅니다.

질문: 최근 몇 년간 AI 산업에는 'AI가 인류를 멸망시키고 대량 실업을 초래할 수 있다'와 같은 매우 비관적인 예측이 많이 등장했습니다. 이러한 주장을 어떻게 보십니까?

젠슨 황: 우리는 이러한 일들에 '인류 멸종 확률'이나 '문명 파괴' 같은 꼬리표를 쉽게 붙여서는 안 된다고 생각합니다. 그중 많은 것들이 사실은 지어낸 것이기 때문입니다. 누군가에게 연구원이나 과학자라는 꼬리표를 붙인 다음 선정적인 예측을 던지면 대중의 공포를 쉽게 유발할 수 있는데, 이는 무책임한 일이라고 생각합니다.

우리는 과거에 이런 예측을 많이 보았습니다. 누군가는 5년 안에 방사선과 의사가 AI로 완전히 대체되어 더 이상 방사선과 의사가 필요 없게 될 것이라고 예측했습니다. 현실은 세상에 더 많은 방사선과 의사가 필요하다는 것입니다. AI가 의료 영상 분석에 사용되는 것은 사실이지만, 이는 '방사선과 의사의 사라짐'과는 완전히 다른 이야기입니다.

또한 '향후 6~12개월 내에 코드의 90%가 AI에 의해 생성되고, 초급 직무의 50%가 6~9개월 내에 사라질 것'이라는 예측도 있었습니다. 실제로 이러한 예측은 모두 실현되지 않았습니다. 이전에도 'GPT-2와 Llama 3는 너무 위험해서 공개할 수 없다'거나 '내년에 화이트칼라 일자리의 절반이 사라질 것', 이른바 '고용 종말'이 곧 도래할 것이라는 말이 있었습니다.

저는 이러한 예측들을 기록해야 한다고 생각합니다. 여러 해가 지난 후 돌아보면 어떤 예측이 옳았고 어떤 것이 단지 공포를 조성했는지 알 수 있을 것입니다.

질문: 그렇다면 AI 안전 문제는 공학적 문제로 다루어야 한다고 보십니까?

젠슨 황: 안전 사고가 발생하면 우선 공학적 관점에서 근본 원인 분석을 수행하여 무슨 일이 일어났는지, 문제가 어디에 있는지, 유사한 사고를 방지하기 위해 어떤 조치를 취할 수 있는지 파악한 다음, 이러한 조치를 시스템, 프로세스, 기술적 통제로 변환해야 합니다.

저는 이러한 회사들이 이미 더 나은 샌드박스, 더 엄격한 실행 환경, 개선된 모니터링 및 지속적인 모니터링 시스템을 포함하여 이러한 일들을 하고 있다고 믿습니다. 이러한 문제들은 통제되고 예방될 수 있다고 장담할 수 있습니다.

만약 어떤 엔지니어링 회사가 실제로 무슨 일이 일어났는지, 어떻게 통제해야 하는지 모른다면 엔지니어를 보내 도울 수 있습니다. 하지만 그런 단계까지 갈 것이라고는 생각하지 않습니다. 이 연구소들에는 매우 뛰어난 인재들이 있으며, 그들이 이미 관련 문제를 분석하고 적절한 조치를 취했다고 믿습니다.

질문: AI 안전 문제에 규제가 필요하다면 규제는 어디서부터 시작해야 합니까?

젠슨 황: 규제는 실제로 존재하는 문제를 대상으로 해야 합니다. 진정으로 주목해야 할 문제는 대부분 선도 AI 연구소에서 비롯됩니다. 그들이 가장 많은 컴퓨팅 자원을 보유하고 가장 첨단의 문제를 다루고 있기 때문입니다. 고등학생이나 일반 스타트업이 이러한 문제를 일으킬 만큼 충분한 컴퓨팅 능력을 보유할 가능성이 낮습니다.

이 연구소들은 연구에서 엔지니어링으로 전환하는 동시에 회사, 문화, 기술, 제품을 구축하고 있으며, 이는 쉬운 과정이 아닙니다. 따라서 기술 개발과 테스트 과정이 충분히 안전하도록 더 완전한 엔지니어링 시스템을 어떻게 구축하는지에 주목해야 합니다.

질문: 제3자 평가 기관이 필요합니까?

젠슨 황: 여러 평가 및 감사 기관이 있을 수 있다고 생각합니다. 그들이 모든 것을 알 필요는 없지만 무엇을 물어야 하는지는 알아야 합니다. 이는 재무 감사와 다소 유사합니다. 평가 기관이 하나뿐이라면 영향을 받을 수 있습니다. 하지만 여러 평가 기관이 있다면 서로 견제할 수 있습니다.

02 '재귀적 자기 개선'은 그렇게 신비롭지 않다

질문: 재귀적 자기 개선에 대한 논의가 점점 많아지고 있습니다. 즉 AI가 데이터를 생성하고, 스스로 학습하며, 계속 가속화하는 것입니다. 어떻게 보십니까?

젠슨 황: '재귀적 자기 개선'은 최근 유행하는 새로운 용어라고 생각하지만, 그 이면에는 컨텍스트, 스킬, 성찰, 강화 학습, 합성 데이터 생성, LoRA 등 많은 기존 기술의 조합이 있습니다.

이러한 방법들은 실제로 AI가 작업을 수행하는 과정에서 경험을 축적하고 지속적으로 개선할 수 있습니다. 예를 들어 합성 데이터와 강화 학습을 통해 전체 기반 모델을 재학습하지 않고도 모델 능력을 향상시킬 수 있으며, 축적된 경험은 다시 기반 모델 학습에 사용될 수 있습니다. 거의 모든 회사가 이러한 기술 중 일부를 사용하고 있다고 믿습니다.

'재귀적 자기 개선'이라는 용어는 시스템이 완전히 통제 불능이 될 것처럼 들릴 수 있지만, 실제로 제품은 출시 전에 평가, 재테스트, 회귀 테스트를 거쳐야 하며, 이는 가장 기본적인 공학적 통제입니다.

이 선도 연구소들은 연구 기관에서 엔지니어링 기관으로 전환하고 있으며, 앞으로 이러한 시스템을 통제, 검증, 평가할 더 나은 방법, 지식, 실무, 도구, 기술을 갖게 될 것이라고 믿습니다. 재귀적 자기 개선은 내부적으로 발생할 수 있지만, 검증된 제품은 여전히 안전하게 출시될 수 있습니다.

질문: 오픈소스 모델과 클로즈드소스 모델의 관계를 어떻게 보십니까?

젠슨 황: 세상에는 오픈소스 모델과 클로즈드소스 모델이 모두 필요합니다. 저도 클로즈드소스 최첨단 모델을 사용합니다. 그것들은 생수와 비슷합니다. 물 자체는 무료이지만 다양한 형태의 제품이 다양한 요구를 충족시킬 수 있습니다.

오픈소스 모델은 주권, 프라이버시, 기업의 독점 기술에 매우 중요합니다. 지난 6개월 동안 약 4000억 달러의 벤처 자금이 AI 네이티브 기업에 유입되었으며, 그중 약 80%의 기업이 오픈소스 모델을 사용합니다. 오픈소스 모델이 없다면 많은 스타트업이 자신들의 목표를 이룰 수 없을 것입니다. 그들이 하려는 일이 선도 연구소들이 하는 일과 다르기 때문입니다.

미국의 진정한 강점은 다양한 형태의 혁신을 보유하고 있다는 점입니다. AI 경쟁에서 승리하려면 오픈소스 모델의 발전을 허용해야 합니다.

AI 경쟁에서 승리한다는 것은 소수의 미국 기업만이 승리하는 것이 아니라 미국의 기업, 산업, 연구자, 교육자, 학생, 기업가 모두가 이 기술에서 기회를 잡는 것입니다. 어떤 사람들은 클로즈드소스 모델을 사용할 것이고, 많은 사람들은 오픈소스 모델을 사용할 것입니다. 둘 다 필요합니다.

질문: 중국이 글로벌 오픈소스 생태계의 중요한 기여자가 될 것이라고 보십니까?

젠슨 황: 중국이 글로벌 오픈소스 생태계에 상당한 부분을 기여할 수 있다고 믿습니다. 중국에는 많은 엔지니어가 있고, 과학과 수학을 공부하는 학생들도 많습니다. 칭화와 같은 최고 대학들은 매년 많은 우수 인재를 배출합니다.

예를 들어 중국 엔지니어들은 Linux, Kubernetes(오픈소스 컨테이너 오케스트레이션 시스템) 및 많은 소프트웨어 프로젝트에 기여했습니다. 오픈소스의 특징 중 하나는 일단 다운로드하면 그것이 당신의 것이 된다는 점입니다. 계속 수정하고 최적화하여 자신의 것으로 만들 수 있습니다.

AI 경쟁은 궁극적으로 누가 이 기술을 가장 잘 활용하느냐로 귀결됩니다. 과거 산업혁명의 많은 중요한 발명품이 유럽에서 나왔지만 미국이 나중에 그 기술들을 잘 활용했습니다. 다음 산업혁명도 비슷한 방식으로 전개되기를 바랍니다.

중국의 논의는 더 실용적이며 경제 발전과 사회 진보에 더 초점을 맞추고, 종말이나 문명 파괴를 계속해서 논의하지 않는다고 생각합니다. 만약 이러한 종말 예측이 실제로 성립한다면 당연히 논의하고 대응해야 하지만, 공포를 조성할 필요는 없습니다. 우리의 일은 그것을 실현하는 것입니다.

질문: AI가 결국 많은 프로그래밍 작업을 자동화한다면 엔지니어는 무엇을 해야 합니까?

젠슨 황: 엔지니어링 작업은 여전히 존재할 것입니다. 제 세대의 엔지니어들은 소프트웨어가 보편화되지 않았을 때 코드 작성에 많은 시간을 쓰지 않았습니다. 지금 소프트웨어 엔지니어들은 코드 작성에 많은 시간을 쓰지만, 미래에 그중 상당 부분이 자동화된다면 인간은 여전히 엔지니어링 작업을 할 것입니다. 제 습관 중 하나는 제가 가장 좋아하는 키보드 키가 백스페이스라는 것입니다. 최고의 소프트웨어는 종종 더 적은 코드를 의미하기 때문입니다.

03 엔비디아가 AI 산업 체인에 깊이 참여하는 이유

질문: 미국 정부는 처음에 고용, 재산업화, 에너지, 공급망을 강조했습니다. 이러한 일들이 실제로 지금 일어나고 있습니다. 엔비디아는 이미 전체 AI 산업의 중요한 자본 제공자가 되었습니다. 자원 배분 방향을 어떻게 결정합니까?

젠슨 황: AI는 새로운 산업혁명입니다. 이 산업은 모델, 칩, 애플리케이션, 데이터센터, 건축, 전력 및 발전 시설 등 많은 구성 요소를 포함합니다. 저는 전체 생태계를 관찰하면서 병목 지점을 찾아왔습니다.

아주 좋은 회사가 어떤 단계에서 제한을 받는다면 저는 그 문제에 주목합니다. 공급망일 수도 있고, 토지, 전력, 공장일 수도 있습니다. 엔비디아의 규모는 이미 충분히 크기 때문에 공급망을 수년 앞서 고려해야 합니다. Corning, Lumentum, TSMC, 메모리 공급업체와 같은 회사들은 우리가 장기적으로 주목해야 할 기업들입니다.

질문: 일부에서는 AI 산업의 이익 대부분이 결국 애플리케이션 계층으로 이동할 것이라고 봅니다. 엔비디아가 모델과 Hugging Face 등 더 높은 계층의 영역에 진출하는 이유는 무엇입니까?

젠슨 황: 엔비디아는 거의 전 세계 모든 모델을 실행할 수 있습니다. 약 1년 반 전만 해도 사람들은 주로 OpenAI의 모델을 논의했지만, 지금은 Meta의 Muse, Grok, Gemini, Anthropic 및 기타 많은 모델이 있습니다. 많은 최첨단 AI 연구소들이 엔비디아 플랫폼 위에 구축되어 있습니다.

우리의 전략은 모든 사람의 성공을 돕는 것이지 다른 사람의 사업을 빼앗는 것이 아닙니다. 우리는 가능한 한 기술 스택의 하위 계층에 머물며 필요한 경우에만 위로 이동합니다. CUDA는 많은 프레임워크를 지원하고, Megatron과 Megatron Core는 대규모 학습을 지원합니다. 우리는 필요한 기술을 발명한 다음 전체 생태계가 발전하도록 하여 더 많은 기업이 참여하게 합니다.

질문: 지역 클라우드 서비스 제공업체가 점점 더 중요해지는 이유는 무엇입니까?

젠슨 황: 지역 클라우드 서비스 제공업체는 일반적으로 대형 하이퍼스케일 클라우드 업체보다 더 유연합니다. 현지에서 토지, 전력, 공장을 찾을 수 있고 현지 수요를 더 잘 이해하기 때문입니다.

미래에는 분산형 기업 네트워크가 형성될 것이며, 점점 더 많은 국가가 AI를 전략 산업으로 간주할 것입니다. 이미 일부 지역에서 AI 컴퓨팅 인프라를 늘리기 시작한 것을 보았습니다.

질문: 엔비디아는 현재 자율주행 및 생물의학 분야 모델을 포함한 자체 오픈소스 모델을 개발하고 있습니다. 왜 이러한 일을 합니까?

젠슨 황: 고객이 필요로 하기 때문입니다. 우리가 최고로 할 수 있는 능력이 있다면 그렇게 합니다. 예를 들어 Alpamayo는 우리의 자율주행 모델입니다. 추론 능력을 갖춘 자율주행 시스템입니다. 과거에는 자율주행에 수십억 시간의 도로 데이터가 필요했지만, 추론 능력을 통해 시스템이 유사한 상황을 생각할 수 있어 대량의 실제 도로 데이터에 대한 의존도를 줄일 수 있습니다.

자율주행의 미래는 승용차뿐만 아니라 농업 장비, 트럭, 밴 및 기타 많은 이동 장비를 포함합니다. 많은 회사가 완전한 기술 스택을 보유하지 못했기 때문에 엔비디아가 완전한 기술 스택을 제공할 수 있으며, 고객은 자신의 요구에 따라 마지막 단계의 조정을 할 수 있습니다.

생물의학 분야도 마찬가지입니다. 우리는 ESM2, ESMFold, OpenFold, AlphaFold 2 및 일부 등변 모델과 Protein Complexa(전원자 단백질 복합체를 위한 생성형 AI 프레임워크)를 개발했습니다. 제약 회사들이 실제로 이러한 기술을 필요로 하기 때문입니다. 제 출발점은 항상 누군가가 이 기술을 필요로 하므로 우리가 한다는 것입니다.

04 머스크의 Terafab

질문: 머스크가 Terafab 칩 공장 계획을 발표했는데 규모가 매우 큽니다. 어떻게 보십니까?

젠슨 황: 엔비디아는 공정 기술을 매우 잘 알고 있으며, 우리는 항상 공정의 한계에 도전해 왔기 때문에 당연히 이 문제를 논의할 수 있습니다. 머스크가 어떤 일을 하기로 결정하면 그가 계속하는 것을 막기 어렵습니다. 그것이 그의 초능력이기도 합니다.

질문: 그렇다면 엔비디아가 미래에 그의 공장에서 칩을 생산할 수 있습니까?

젠슨 황: 논의할 수 있습니다.

질문: AGI의 정의가 인간 지능 수준에 도달하는 것이라면, 우리가 이미 이 단계에 진입했다고 보십니까? 초지능은 어떻습니까?

젠슨 황: 우리는 이미 도달했으며, 특정 영역에서는 이미 초지능 단계에 진입했다고 말할 수도 있습니다.

질문: 왜 그렇게 생각합니까?

젠슨 황: 매우 특정한 영역에서 AI가 이미 인간을 능가했기 때문입니다. 자율주행이 한 예입니다. 자동차가 인간보다 더 잘 운전할 수 있다면 운전 영역에서는 초지능입니다.

현재 자율주행 시스템의 사고율은 인간의 10분의 1 수준에 도달할 수 있습니다. 생물의학 분야도 마찬가지입니다. 합성 단백질과 가상 스크리닝과 같은 작업은 이미 초지능 수준에 도달했습니다. 이러한 특정 영역에서 AI는 이미 인간 능력을 초과하는 작업을 수행할 수 있습니다.

질문: 이러한 기술의 최전선에 있다는 것은 어떤 느낌입니까?

젠슨 황: 저는 이 느낌이 좋습니다. 미래는 밝습니다. 아마도 미래에는 많은 사람이 일할 필요가 없겠지만, 저는 이 시대를 놓치고 싶지 않습니다.

우리 모두가 함께 그 미래로 나아가 인류가 궁극적으로 함께 성공하기를 바랍니다. 우리는 모든 사람을 격려하고 불필요한 극적인 논쟁을 줄여야 합니다. 가장 중요한 것은 미국 전체가 참여할 수 있도록 보장하는 것입니다.