Jensen Huang rẽ trái, Amodei rẽ phải

Tác giả gốc: Su Yang

Biên tập gốc: Xu Qingyang

Nguồn gốc: Tencent Technology

AI tiên phong tiếp tục tăng tốc hay phanh lại đang trở thành chủ đề gây tranh cãi nhất ở Thung lũng Silicon hiện nay.

Xoay quanh tranh cãi này, các ông lớn Thung lũng Silicon bắt đầu chọn phe. Amodei, Altman, Musk và Hassabis tạo thành "phe tạm dừng". Jensen Huang là người kiên định thuộc "phe tăng tốc", chỉ trích "thuyết tận thế AI" thiếu cơ sở khoa học; Yann LeCun tiếp tục chế giễu Amodei, ông nói: "(Amodei) khi còn ở OpenAI đã cho rằng GPT-2 nguy hiểm đến mức không nên công khai mã nguồn, lúc đó tôi đã chế giễu anh ta, giờ mọi người có thể tiếp tục."

Ngược lại, Zuckerberg và Nadella tỏ ra tương đối trung lập.

Việc các ông lớn chọn phe cho thấy Thung lũng Silicon chưa đạt được đồng thuận về việc tạm dừng các mô hình tiên phong, điều này bắt nguồn từ sự khác biệt về ổ sinh thái của mỗi bên trong chuỗi ngành AI. Những kẻ dẫn đầu ở tầng mô hình có thể kêu gọi tạm dừng vì nhiều lý do khác nhau, nhưng muốn Oracle, AWS với hàng trăm tỷ USD đơn đặt hàng sức mạnh tính toán và Nvidia đứng trên đỉnh chuỗi thức ăn dừng lại thì không thể nhận được phản hồi tích cực.

Tại Washington, lời kêu gọi "tạm dừng" không những không được ủng hộ mà còn gây ra hàng loạt nghi vấn.

"Điều này với tôi có chút giống ngựa Trojan (It feels a little bit to me like a bit of a Trojan horse)." JD Vance nói trong một cuộc phỏng vấn, câu này thực chất phản ánh quan điểm thực sự của Washington — khi doanh nghiệp tạo ra con ngựa liên tục yêu cầu thu hẹp cánh cổng, thì nên xem xét cánh cổng này rốt cuộc phù hợp với doanh nghiệp nào.

Tạm dừng, cảnh báo và một lá thư từ chức

Ngòi nổ của cuộc tranh luận này là việc từ chức của Jacob Coxon, một nhà nghiên cứu của Anthropic.

Anh từng làm nghiên cứu huấn luyện trước ba năm tại OpenAI và Anthropic, trực tiếp tham gia huấn luyện các mô hình tiên tiến nhất. Trong bài viết dài trên X, anh gần như không khách sáo: "Cả hai công ty đều không hành động có trách nhiệm. Họ đang lao thẳng vào siêu trí tuệ có khả năng tự cải thiện, đánh cược mạng sống của chúng ta."

Anh nói thẳng rằng những người trong phòng thí nghiệm thực sự tin AI có thể giết chết toàn bộ nhân loại trong vòng mười năm, và điều này tuyệt đối không phải là màn trình diễn quan hệ công chúng. Nhiều đồng nghiệp đã bắt đầu dùng "thời khắc then chốt" và "ván cuối" để mô tả giai đoạn hiện tại. Coxon thậm chí từ bỏ số cổ phần sắp được trao. Anh chỉ ở Anthropic bốn tháng, theo quy định công ty phải sáu tháng mới được hưởng quyền.

Cựu nhà nghiên cứu Anthropic Jacob Coxon

Ngay sau đó, Evan Hubinger, người phụ trách khoa học căn chỉnh của Anthropic, công khai phản hồi: Jacob nói đúng, chúng tôi thực sự nghiêm túc tin rằng AI có thể giết chết toàn bộ nhân loại. Cá nhân tôi cho rằng xác suất này trong vòng mười năm vượt quá 10%. Anthropic đang cố gắng hết sức, nhưng chúng tôi vẫn chưa có kế hoạch rõ ràng để giải quyết vấn đề căn chỉnh siêu trí tuệ, và còn xa mới đi đúng hướng.

Hai phát súng này đã đẩy những lo ngại vốn chủ yếu âm ỉ trong phòng thí nghiệm ra trước công chúng. Trong bối cảnh đó, nhà sáng lập kiêm CEO của Anthropic, Amodei, lập tức đăng bài viết dài, trình bày có hệ thống quan điểm "làm chậm nghiên cứu tiên phong". Ông không còn chỉ nói về "đầu tư nhiều hơn cho an toàn", mà yêu cầu rõ ràng chủ động kiểm soát tốc độ nhảy vọt năng lực, để lại thời gian cho cơ chế an toàn đuổi kịp.

Ông đưa ra lộ trình ba bước: trước tiên Anthropic đơn phương đưa vào các chuyên gia đánh giá độc lập có quyền hạn cấp nhân viên; sau đó thúc đẩy các công ty AI ở các nước dân chủ thiết lập tiêu chuẩn an toàn chung và giới hạn tăng trưởng năng lực; cuối cùng cố gắng phối hợp toàn cầu.

Altman, Musk, Hassabis nhanh chóng công khai hưởng ứng, tạo thành "phe tạm dừng".

Trước khi luận điệu "giảm tốc" của Jacob Coxon và Amodei xuất hiện, những "cha đỡ đầu AI" như Yoshua Bengio và Geoffrey Hinton vẫn luôn đưa ra các sáng kiến kêu gọi quan tâm đến rủi ro.

Nói về việc Coxon từ chức, Bengio cho rằng các nhà khoa học ở các phòng thí nghiệm AI tiên phong thường có thể nhìn thấy năng lực của các mô hình mới nhất sớm hơn công chúng, vì vậy phán đoán của họ về rủi ro đáng được xem xét nghiêm túc.

Đồng thời, Bengio còn đưa ra ví dụ cụ thể, cho rằng các hệ thống AI hiện tại đã có khả năng tấn công của hacker và thuyết phục, nếu bị dùng để gây hại cho lợi ích con người có thể gây hậu quả nghiêm trọng. Ông cũng lo ngại rằng khi AI có khả năng lập kế hoạch trong khoảng thời gian dài hơn, loại rủi ro này có thể mở rộng thêm.

Khi được BBC hỏi về xác suất AI "giết chết toàn bộ nhân loại" trong vòng mười năm vượt quá 10%, Geoffrey Hinton cũng cho rằng con số này "không phải là vô lý", nhưng đồng thời nhấn mạnh rằng không ai thực sự biết cách đưa ra một ước tính đáng tin cậy, vì nhân loại trước đây chưa từng đối mặt với "sự tồn tại của một loài có thể sớm thông minh hơn chúng ta".

Hinton cho rằng AI trong tương lai có thể bị dùng để thiết kế virus sinh học nguy hiểm, virus máy tính và phát động các cuộc tấn công mạng quy mô lớn. Vì vậy, con người cần tìm ra phương pháp kiểm soát hiệu quả trước khi rủi ro vượt khỏi tầm kiểm soát.

Khác với những người khởi xướng làn sóng "tạm dừng" mới ở Thung lũng Silicon, các "cha đỡ đầu AI" chủ yếu kêu gọi quan tâm đến rủi ro và khám phá cơ chế kiểm soát rủi ro, thay vì trực tiếp phanh lại. Hơn nữa, về lập trường, ý kiến và đề xuất từ giới học thuật thuần túy hơn, còn sáng kiến từ các phòng thí nghiệm tiên phong, dù bề ngoài gắn nhãn "vì nhân loại", vẫn khó thoát khỏi 100% cân nhắc thương mại.

Đây chính là lý do JD Vance nói "quan điểm tạm dừng" giống ngựa Trojan.

Bất đồng và chọn phe

Phe "tăng tốc", phe "giảm tốc" và phe "trung lập". Nguồn: New York Times

Ngày 15 tháng 9, nhiều lãnh đạo công ty công nghệ liên tiếp lên tiếng tại hội nghị Salesforce Dreamforce, cuộc tranh luận này bắt đầu trở thành màn đối đầu quan điểm trực tiếp hơn.

Cùng ngày, Amodei, Jensen Huang và Altman đều nói về an toàn AI, nhưng đưa ra câu trả lời khác nhau về tốc độ phát triển, trách nhiệm an toàn và hành động doanh nghiệp nên thực hiện.

Khi cùng xuất hiện với CEO Salesforce Marc Benioff, Amodei một lần nữa nhấn mạnh các doanh nghiệp AI nên thiết lập tiêu chuẩn an toàn cao hơn thông qua hành động của chính mình. Ông cho rằng việc doanh nghiệp chủ động áp dụng các biện pháp an toàn nghiêm ngặt hơn có thể trở thành cách thúc đẩy toàn ngành tiến lên.

Nói cách khác, thái độ của Amodei bắt đầu chuyển từ kêu gọi toàn ngành giảm tốc sang doanh nghiệp tự chủ lắp thêm hàng rào an toàn.

Jensen Huang thì cho rằng "không cần luật mới, cũng không cần quy định mới". Theo ông, tốc độ và an toàn không phải là mối quan hệ loại trừ lẫn nhau, doanh nghiệp có thể thúc đẩy phát triển mô hình nhanh nhất có thể; nếu phát hiện mất kiểm soát hoặc sản phẩm không đảm bảo an toàn thì nên tạm dừng để giải quyết vấn đề.

Thái độ của Benioff cởi mở hơn và nhấn mạnh tính tự chủ. Ông cho rằng nếu doanh nghiệp nghĩ nên chậm lại thì hãy chậm lại; nếu nghĩ nên tăng tốc thì hãy tăng tốc, đồng thời phải chịu trách nhiệm về quyết định của mình.

Nhà sáng lập kiêm CEO OpenAI, Altman, tại Dreamforce cho biết rất tự tin rằng OpenAI và toàn ngành AI có thể phát triển an toàn mà không gây tổn hại lớn cho công chúng. Ông đồng thời bày tỏ thất vọng khi bên ngoài hiểu quan điểm của ông là ủng hộ toàn ngành làm chậm tốc độ phát triển AI.

Nói cách khác, Altman cũng bắt đầu chuyển hướng, nhấn mạnh điều ông muốn nói không phải là kêu gọi ngành giảm tốc, mà là công tác an toàn và giám sát nên đi trước việc nâng cao năng lực.

Zuckerberg thì không chủ trương xây dựng hành động an toàn của một công ty trên tiền đề các công ty AI khác phải đồng bộ chậm lại. Ông cho rằng việc đưa vào các cơ quan đánh giá độc lập và cố vấn bên ngoài để kiểm tra tính an toàn của mô hình là thông lệ tốt nhất của ngành. Ông còn tiết lộ Meta trước đó đã tự làm chậm quá trình phát triển công cụ AI Muse, thay vì chờ các công ty khác đạt đồng thuận về việc làm chậm phát triển AI.

Thái độ của CEO Microsoft Satya Nadella ở mức độ nào đó nhất quán với Altman, khuyến khích lắp thêm hàng rào an toàn và cũng khuyến khích cạnh tranh đầy đủ.

"Điều đầu tiên chúng ta cần làm là phục vụ nhân loại và đảm bảo công nghệ nằm dưới sự kiểm soát của con người. Đồng thời, sự phổ biến rộng rãi của công nghệ AI mới là điều then chốt nhất, phải có lựa chọn, có cạnh tranh. An toàn phải được coi trọng, nhưng phải giải quyết bằng phương thức kỹ thuật và minh bạch, chứ không phải bí ẩn hóa nó." Nadella phát biểu ngày 15 tháng 9 khi tham dự hội nghị All-In Summit 2026.

Ngoài các doanh nhân này, tiếng nói từ Washington cũng tham gia thêm.

Sau khi Trump trực tiếp gọi điện cho Jensen Huang, công khai bày tỏ ủng hộ ngành AI tiếp tục phát triển, đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống Mỹ, David Sacks, sau đó cho biết các công ty công nghệ có thể tiếp tục thúc đẩy AI tiên phong, đồng thời đặt câu hỏi về động cơ đằng sau đề xuất "giảm tốc" của một số doanh nghiệp.

Vậy ai sẽ đặt ra quy tắc?

Khi cuộc thảo luận mở rộng, tranh cãi cũng lan từ bản thân rủi ro AI sang việc tiêu chuẩn an toàn của AI tiên phong rốt cuộc nên do doanh nghiệp tự đặt ra hay cần chính phủ và các cơ quan độc lập can thiệp?

Bloomberg dẫn nguồn tin thân cận cho biết Anthropic, Google và OpenAI trước đó đã thảo luận về việc thành lập một cơ quan tiêu chuẩn ngành AI.

Vào tháng 7, Hassabis từng đăng một bài viết đề xuất thành lập một cơ quan tiêu chuẩn AI do Mỹ dẫn dắt, mô hình hoạt động tương tự Cơ quan Quản lý Ngành Tài chính Mỹ (FINRA). Cơ quan này có thể kiểm tra các mô hình AI tiên tiến trước khi triển khai chính thức, đánh giá xem chúng có đạt tiêu chuẩn an toàn tương ứng hay không.

Theo hình dung của Hassabis, cơ quan này không nên hoàn toàn do chính phủ chủ đạo mà nên áp dụng mô hình hợp tác công tư. Trong đó, chính phủ đóng vai trò giám sát, ngành AI cung cấp tài chính, đồng thời thu hút các chuyên gia kỹ thuật hàng đầu độc lập và đại diện cộng đồng mã nguồn mở tham gia.

Hassabis cố gắng thêm một khâu kiểm tra an toàn độc lập trước khi mô hình bước vào thế giới thực, điều này khá phù hợp với bộ logic quản lý mà chính phủ Mỹ công bố đầu tháng 6: doanh nghiệp có thể tự nguyện giao mô hình cho chính phủ đánh giá trước khi phát hành công khai, tối đa có thể cung cấp khoảng thời gian truy cập 30 ngày trước khi phát hành và rõ ràng không áp dụng phê duyệt bắt buộc, không đặt giấy phép phát hành.

Điều đáng chú ý là sau đó Fable 5 và Mythos 5 ra mắt, không tuân theo quy trình này, nhưng bị phát hiện có năng lực tấn công và phòng thủ mạng cực mạnh, cuối cùng bị BIS Mỹ tạm thời gỡ xuống dưới hình thức quản lý xuất khẩu.

Tuy nhiên, dù vậy, thái độ của chính sách cũng chỉ yêu cầu lắp thêm hàng rào an toàn, chưa đưa ra tuyên bố hay chỉ đạo giảm tốc.

Người có quan điểm tương tự Hassabis là nhà khoa học trưởng của OpenAI, Jakub Pachocki. Đầu tháng 9, ông cũng nhấn mạnh rằng chia sẻ tiêu chuẩn an toàn và phối hợp quốc tế xung quanh việc phát triển thêm AI nên trở thành ưu tiên hiện nay.

Không ai thực sự đạp phanh

Cho đến nay, cuộc tranh luận này vẫn chưa thực sự thay đổi nhịp độ phát triển của các công ty AI tiên phong.

Anthropic, OpenAI, Google, xAI và các công ty khác vẫn tiếp tục thúc đẩy nghiên cứu phát triển mô hình, cạnh tranh xoay quanh sức mạnh tính toán, trung tâm dữ liệu và hạ tầng AI cũng không dừng lại vì cuộc tranh luận này. Ở tầng thị trường vốn xuất hiện những thay đổi khác nhau: Anthropic vẫn đang chuẩn bị IPO trong năm nay, còn OpenAI lùi kế hoạch IPO sang năm 2027.

Amodei muốn kéo cả ngành dừng lại, cùng Anthropic tìm giải pháp lắp hàng rào an toàn cho việc năng lực mô hình vượt giới hạn, ở mức độ nào đó có thể hiểu là "lợi dụng lòng tốt của người khác".

Đây cũng là lý do Amodei bị gắn nhãn "thiên thần nhỏ giả vờ hoàn hảo".

Về chủ đề kiểm soát rủi ro này, quan điểm mà Jensen Huang đại diện thực ra phù hợp với hiện trạng hơn. Nếu doanh nghiệp có lo ngại hoặc phát hiện vấn đề, hoàn toàn có thể tự khám phá giải pháp và chia sẻ giải pháp hiệu quả đã tìm ra với ngành.

Bắt một đội 100 người và một đội 1000 người cùng dừng lại, căn bản không có cơ sở đồng thuận. Ngay cả chính Amodei cũng rất rõ rằng nếu chỉ mình dừng lại, rất có thể sẽ bị các đối thủ như OpenAI vượt qua.

Quan trọng hơn là sự bất đồng ở tầng quản trị công ty. Anthropic, OpenAI đều là công ty lợi ích công cộng (Public Benefit Company), có thể hô hào "vì tương lai nhân loại mà từ bỏ lợi ích tài chính ngắn hạn", có thể nói với nhà đầu tư rằng "điều này chúng ta đã đồng thuận từ rất sớm", nhưng Google, Microsoft, Meta là những công ty niêm yết, ban quản lý có nghĩa vụ tín thác pháp định đối với cổ đông thị trường thứ cấp.

Hai loại công ty có lợi ích khác nhau, khả năng đạt đồng thuận về điểm này cũng không lớn.

Còn một chi tiết có thể bị bỏ qua. Trước "quan điểm tạm dừng", Anthropic và OpenAI đều lần lượt phát hành mô hình mạnh nhất, một là Fable 5.1, cái còn lại là GPT-6 Astra.

Dưới hàng loạt lời kêu gọi, các công ty khác còn phát hành mô hình mới nữa hay không?