Huang Renxun Hızlanma Derken Amodei Yavaşlama Diyor

Orijinal Yazar: Su Yang

Orijinal Editör: Xu Qingyang

Orijinal Kaynak: Tencent Teknoloji

Öncü yapay zeka hızlanmaya devam mı edecek yoksa frene mi basacak, Silikon Vadisi'nde şu an en tartışmalı konu haline geldi.

Tartışma etrafında Silikon Vadisi devleri taraf seçmeye başladı; Amodei, Altman, Musk ve Hassabis "duraklama yanlısı" grubu oluşturdu. Huang Renxun ise kararlı bir "hızlanma yanlısı" olarak "yapay zeka kıyamet teorisini" bilimsel temelden yoksun olmakla eleştirdi; Yann LeCun ise Amodei ile alay etmeye devam ederek şunları söyledi: "(Amodei) OpenAI'deyken GPT-2'nin açık kaynak olamayacak kadar tehlikeli olduğunu düşünüyordu, o zamanlar onunla alay etmiştim, şimdi herkes bu ironiyi görebilir."

Buna karşılık Zuckerberg ve Nadella gibi isimler nispeten tarafsız kaldı.

Devlerin taraf seçmesi, Silikon Vadisi'nde öncü modellerin duraklatılması konusunda bir fikir birliği oluşmadığını gösteriyor; bu da şirketlerin yapay zeka endüstri zincirindeki ekolojik konum farklılıklarından kaynaklanıyor. Model katmanındaki liderler farklı gerekçelerle duraklama çağrısı yapabilir, ancak elinde yüz milyarlarca dolarlık bilgi işlem siparişi bulunan Oracle, AWS ve sektörün zirvesindeki Nvidia gibi şirketlerin durmasını beklemek olumlu bir yanıt alamaz.

Washington'da "duraklama" çağrısı destek görmemekle kalmadı, bir dizi sorgulamaya da yol açtı.

"Bana biraz Truva atı gibi geliyor (It feels a little bit to me like a bit of a Trojan horse)." JD Vance bir röportajda böyle söyledi; bu söz aslında Washington'un gerçek görüşünü yansıtıyor: Truva atını üreten şirketler kapının daraltılmasını tekrar tekrar talep ettiğinde, bu kapının hangi şirketlere uygun olduğunu sorgulamak gerekir.

Duraklama, Uyarı ve Bir İstifa Mektubu

Bu tartışmanın fitili, bir Anthropic araştırmacısı olan Jacob Coxon'un istifası oldu.

Daha önce OpenAI ve Anthropic'te üç yıl ön eğitim araştırması yapmış, en öncü modellerin eğitimine bizzat katılmıştı. X'teki uzun yazısında neredeyse hiç nezaket göstermedi: "İki şirket de sorumlu davranmadı. Kendini geliştirebilen süper zekaya doğru doğruca koşuyorlar, hayatlarımızla kumar oynuyorlar."

Açıkça, laboratuvar içindeki insanların yapay zekanın on yıl içinde tüm insanları öldürebileceğine gerçekten inandığını ve bunun kesinlikle bir halkla ilişkiler gösterisi olmadığını söyledi. Birçok meslektaşı mevcut aşamayı "kritik an" ve "son oyun" olarak nitelendirmeye başlamıştı. Coxon, yakında hak kazanacağı hisselerden bile vazgeçti. Anthropic'te yalnızca dört ay kalmıştı; şirket kurallarına göre hisse hak edişi için altı ay gerekiyordu.

Anthropic eski araştırmacısı Jacob Coxon

Hemen ardından Anthropic'in hizalama biliminden sorumlu Evan Hubinger kamuoyuna yanıt verdi: Jacob haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten ciddi şekilde inanıyoruz. Kişisel görüşüme göre on yıl içinde bu olasılık %10'un üzerinde. Anthropic elinden geleni yapıyor, ancak süper zeka hizalaması için net bir planımız yok ve doğru yolda olmaktan çok uzağız.

Bu iki çıkış, esas olarak laboratuvar içinde biriken endişeleri doğrudan kamuoyunun önüne taşıdı. Bu bağlamda Anthropic kurucusu ve CEO'su Amodei hemen uzun bir yazı yayımlayarak "öncü araştırmaları yavaşlatma" önerisini sistematik biçimde ortaya koydu. Artık yalnızca "güvenliğe daha fazla yatırım" demekle kalmıyor, yetenek sıçramalarının hızının aktif olarak kontrol edilmesini ve güvenlik mekanizmalarına yetişme zamanı tanınmasını açıkça talep ediyordu.

Üç adımlı bir plan sıraladı: Önce Anthropic tek taraflı olarak çalışan yetkilerine sahip bağımsız değerlendiriciler getirecek; ardından demokratik ülkelerdeki yapay zeka şirketlerinin ortak güvenlik standartları ve yetenek artışı üst sınırları oluşturmasını sağlayacak; son olarak küresel koordinasyon denenecek.

Altman, Musk ve Hassabis kısa süre içinde kamuoyuna destek vererek "duraklama yanlısı" grubu oluşturdu.

Jacob Coxon ve Amodei'nin "yavaşlama" söylemi ortaya çıkmadan önce, Yoshua Bengio ve Geoffrey Hinton gibi "yapay zeka babaları" risklere dikkat çeken girişimlerde bulunuyordu.

Coxon'un istifası hakkında konuşan Bengio, öncü yapay zeka laboratuvarlarındaki bilim insanlarının en yeni modellerin yeteneklerini genellikle kamuoyundan daha erken görebildiğini, bu nedenle risk değerlendirmelerinin ciddiye alınması gerektiğini söyledi.

Aynı zamanda Bengio somut bir örnek vererek mevcut yapay zeka sistemlerinin bilgisayar korsanlığı ve ikna yeteneklerine sahip olduğunu, insan çıkarlarına zarar vermek için kullanılmaları halinde ciddi sonuçlar doğurabileceğini belirtti. Ayrıca yapay zekanın daha uzun vadeli planlama yeteneği kazanmasıyla bu tür risklerin daha da büyüyebileceğinden endişe ettiğini dile getirdi.

BBC'nin yapay zekanın önümüzdeki on yıl içinde "tüm insanları öldürme" olasılığının %10'un üzerinde olup olmadığını sorması üzerine Geoffrey Hinton da bu rakamın "mantıksız olmadığını" söyledi, ancak aynı zamanda insanlığın daha önce "yakında bizden daha zeki olabilecek bir türün varlığı" ile hiç karşılaşmadığı için kimsenin güvenilir bir tahmin yapmayı gerçekten bilmediğini vurguladı.

Hinton, yapay zekanın gelecekte tehlikeli virüsler, bilgisayar virüsleri tasarlamak ve büyük ölçekli siber saldırılar başlatmak için kullanılabileceğini düşünüyor. Bu nedenle insanlığın riskler kontrolden çıkmadan önce etkili kontrol yöntemleri bulması gerekiyor.

Silikon Vadisi'ndeki yeni "duraklama teorisi" savunucularından farklı olarak "yapay zeka babaları" daha çok risklere dikkat çekmeye ve risk kontrol mekanizmaları kurmayı keşfetmeye çağırıyor; doğrudan frene basmayı değil. Ayrıca konum açısından akademik alandaki görüş ve öneriler daha masumken, öncü laboratuvarların girişimleri, açıkça "insanlık için" etiketi taşısa bile, ticari kaygılardan %100 arınmış sayılamaz.

JD Vance'in "duraklama teorisini" Truva atına benzetmesinin nedeni tam da budur.

Ayrışma ve Taraf Seçme

"Hızlanma yanlısı", "yavaşlama yanlısı" ve "merkezci" kampları. Kaynak: New York Times

15 Eylül'de birçok teknoloji şirketi yöneticisi Salesforce Dreamforce konferansında art arda konuştu ve bu tartışma daha doğrudan bir görüş çatışmasına dönüşmeye başladı.

O gün Amodei, Huang Renxun ve Altman yapay zeka güvenliğini ele aldı, ancak geliştirme hızı, güvenlik sorumluluğu ve şirketlerin ne yapması gerektiği konusunda farklı yanıtlar verdi.

Amodei, Salesforce CEO'su Marc Benioff ile aynı sahnede yer aldığında, yapay zeka şirketlerinin kendi eylemleriyle daha yüksek güvenlik standartları belirlemesi gerektiğini bir kez daha vurguladı. Şirketlerin gönüllü olarak daha sıkı güvenlik önlemleri almasının, tüm sektörü ileriye taşımanın bir yolu olabileceğini düşünüyor.

Başka bir deyişle Amodei'nin tutumu, tüm sektörü yavaşlatma çağrısından şirketlerin kendi güvenlik önlemleri almasına doğru kaymaya başladı.

Huang Renxun ise "yeni yasalara da yeni düzenlemelere de gerek yok" dedi. Ona göre hız ve güvenlik birbirini dışlayan bir ilişki değil; şirketler model geliştirmeyi mümkün olduğunca hızlı ilerletebilir; kontrol kaybı tespit edilirse veya ürün güvenliği sağlanamıyorsa durup sorunu çözmelidir.

Benioff'un tutumu ise daha açık ve özerkliği vurguluyordu. Bir şirket yavaşlaması gerektiğini düşünüyorsa yavaşlamalı; hızlanması gerektiğini düşünüyorsa hızlanmalı ve aynı zamanda kendi kararlarının sorumluluğunu üstlenmeli, dedi.

OpenAI kurucusu ve CEO'su Altman, Dreamforce etkinliğinde OpenAI'nin ve tüm yapay zeka sektörünün kamuya ciddi zarar vermeden güvenli biçimde gelişebileceğine büyük güven duyduğunu söyledi. Aynı zamanda dışarıdan bazılarının kendi görüşlerini tüm sektörün yapay zeka gelişimini yavaşlatması gerektiği şeklinde anlamasından hayal kırıklığı duyduğunu belirtti.

Başka bir deyişle Altman da değişmeye başladı; söylemek istediğinin sektörü yavaşlatma çağrısı değil, güvenlik ve izleme çalışmalarının kapasite artışından önce gelmesi gerektiği olduğunu vurguladı.

Zuckerberg ise bir şirketin güvenlik eylemlerinin, diğer yapay zeka şirketlerinin eşzamanlı olarak yavaşlaması şartına bağlanmasını savunmuyor. Bağımsız değerlendirme kuruluşları ve dış danışmanların model güvenliğini denetlemesinin sektördeki en iyi uygulama olduğunu düşünüyor. Ayrıca Meta'nın, diğer şirketlerin yapay zeka gelişimini yavaşlatma konusunda önce fikir birliğine varmasını beklemeden Muse AI aracının geliştirilmesini kendiliğinden yavaşlattığını açıkladı.

Microsoft CEO'su Satya Nadella'nın tutumu bir ölçüde Altman'la aynı doğrultuda; güvenlik önlemleri alınmasını ve yeterli rekabeti teşvik ediyor.

"Önce yapmamız gereken insanlığa hizmet etmek ve teknolojinin insan kontrolü altında kalmasını sağlamak. Aynı zamanda yapay zeka teknolojisinin geniş biçimde yayılması en kritik nokta; seçenek ve rekabet olmalı. Güvenlik ciddiye alınmalı, ancak mühendislik ve şeffaf bir yaklaşımla çözülmeli, gizemleştirilmemeli." dedi Nadella, 15 Eylül'de All-In Summit 2026 zirvesine katılırken.

Bu girişimcilerin dışında Washington'dan sesler de tartışmaya katıldı.

Trump'ın doğrudan Huang Renxun'u arayıp yapay zeka endüstrisinin gelişiminin sürmesine verdiği desteği açıkça ifade etmesinin ardından, ABD Başkanı Bilim ve Teknoloji Danışmanları Konseyi Ortak Başkanı David Sacks, teknoloji şirketlerinin öncü yapay zekayı ilerletmeye devam edebileceğini söyledi ve bazı şirketlerin "yavaşlama" önerilerinin ardındaki motivasyonu sorguladı.

Kuralları Kim Koyacak?

Tartışma genişledikçe, anlaşmazlık yapay zeka riskinin kendisinden, öncü yapay zeka güvenlik standartlarının şirketler tarafından mı belirleneceği, yoksa hükümet ve bağımsız kurumların müdahale etmesi mi gerekeceği sorusuna doğru ilerledi.

Bloomberg'in konu hakkında bilgi sahibi kaynaklara dayandırdığı haberine göre Anthropic, Google ve OpenAI daha önce bir yapay zeka endüstri standartları kurumu kurmayı görüştü.

Temmuz ayında Hassabis, ABD öncülüğünde, çalışma modeli ABD Finans Endüstrisi Düzenleme Kurumu'na (FINRA) benzeyen bir yapay zeka standartları kurumu kurulmasını öneren bir makale yayımladı. Bu kurum, gelişmiş yapay zeka modellerini resmi olarak dağıtılmadan önce test ederek ilgili güvenlik standartlarını karşılayıp karşılamadıklarını belirleyebilir.

Hassabis'in tasavvuruna göre bu kurum tamamen hükümet tarafından yönetilmemeli, kamu-özel ortaklığı modeliyle çalışmalıdır. Hükümet denetim rolü üstlenirken, finansman yapay zeka endüstrisi tarafından sağlanmalı, ayrıca bağımsız üst düzey teknik uzmanlar ve açık kaynak topluluğu temsilcileri katılım göstermelidir.

Hassabis, modeller gerçek dünyaya girmeden önce bağımsız bir güvenlik kontrolü eklemeye çalışıyor; bu, ABD hükümetinin Haziran başında açıkladığı düzenleyici mantıkla oldukça uyumlu: Şirketler modelleri kamuya açıklamadan önce gönüllü olarak hükümet değerlendirmesine sunabilir, yayınlanmadan en fazla 30 gün öncesine kadar erişim imkanı sağlanabilir; zorunlu onay ve yayın lisansı olmadığı açıktır.

Oldukça dramatik olan ise sonrasında Fable 5 ve Mythos 5'in bu sürece uymadan yayına alınması, ancak son derece güçlü siber saldırı ve savunma yeteneklerine sahip olduklarının tespit edilmesi ve sonunda ABD Ticaret Bakanlığı Sanayi ve Güvenlik Bürosu (BIS) tarafından ihracat kontrolü biçiminde kısa süreliğine yayından kaldırılmasıydı.

Ancak yine de politikanın tutumu yalnızca güvenlik önlemleri alınmasını talep etmekle kaldı; yavaşlama yönünde bir açıklama veya yönlendirme yapılmadı.

Hassabis'e benzer görüşlere sahip olan OpenAI Baş Bilim İnsanı Jakub Pachocki de Eylül başında ortak güvenlik standartlarının paylaşılmasının ve yapay zekanın daha da geliştirilmesi konusunda uluslararası koordinasyonun mevcut öncelik olması gerektiğini vurguladı.

Kimse Gerçekten Frene Basmıyor

Şu ana kadar bu tartışma öncü yapay zeka şirketlerinin geliştirme hızını gerçekten değiştirmedi.

Anthropic, OpenAI, Google, xAI gibi şirketler model araştırma ve geliştirmeye devam ediyor; hesaplama gücü, veri merkezleri ve yapay zeka altyapısı etrafındaki rekabet de bu tartışma nedeniyle durmadı. Sermaye piyasasında ise farklı gelişmeler yaşandı: Anthropic bu yılki halka arz hazırlıklarını sürdürürken, OpenAI halka arz planını 2027'ye erteledi.

Amodei tüm sektörü durdurup Anthropic ile birlikte model yeteneklerinin sınır aşmasına karşı güvenlik önlemleri alma çözümleri aramak istiyor; bu bir ölçüde "başkasının sırtından cömertlik yapmak" olarak anlaşılabilir.

Amodei'nin "kusursuz bir melek gibi davranmak" etiketiyle damgalanmasının nedeni de budur.

Bu risk kontrolü konusunda Huang Renxun'un temsil ettiği görüş aslında mevcut duruma daha uygun: Bir şirketin endişeleri varsa veya sorun tespit ederse, çözümleri kendi başına araştırabilir ve keşfettiği etkili çözümleri sektörle paylaşabilir.

100 kişilik bir ekiple 1000 kişilik bir ekibin birlikte durmasını sağlamak için ortak bir zemin yok. Hatta Amodei bile yalnızca kendisi durursa OpenAI gibi rakipler tarafından geçilme ihtimalinin yüksek olduğunu çok iyi biliyor.

Daha da önemlisi kurumsal yönetim düzeyindeki ayrışma. Anthropic ve OpenAI kamu yararı şirketleri (Public Benefit Company) oldukları için "insanlığın geleceği uğruna kısa vadeli finansal çıkarlardan vazgeçmek" çağrısı yapabilir ve yatırımcılara "bu konuda çok önceden mutabık kaldık" diyebilirler; ancak Google, Microsoft, Meta gibi halka açık şirketlerde yönetim, ikincil piyasa hissedarlarına karşı mütevelli sorumluluğu taşır.

Çıkar yapıları farklı olan bu iki tür şirketin bu konuda fikir birliğine varma olasılığı da çok yüksek değil.

Gözden kaçmış olabilecek bir ayrıntı daha var. "Duraklama tartışması"ndan önce Anthropic ve OpenAI sırasıyla en güçlü modellerini yayımladı; biri Fable 5.1, diğeri GPT-6 Astra.

Tüm bu çağrılara rağmen diğer şirketler yeni modellerini yayımlayacaklar mı, yayımlamayacaklar mı?