Jack Dorsey'den yapay zeka devlerine: 'Güvenliği bahane etmeyin, asıl tehlike tekeldir'

Yazar: Jack Dorsey

Derleyen: Yuliya, PANews

Editörün notu: Son dönemde yapay zeka sektöründe "öncü model geliştirmenin yavaşlatılıp yavaşlatılmayacağı" konusunda hararetli bir tartışma yaşanıyor. Anthropic, OpenAI ve Musk'ın yavaşlama çağrıları, piyasada hesaplama gücü talebinin yeniden değerlendirilmesine yol açtı. Devlerin "güvenliği" bahane ederek sektöre giriş engelleri kurmaya çalışmasına karşılık, Twitter'ın eski kurucu ortağı Jack Dorsey bir yazı kaleme alarak ticari avantajı korumanın bir güvenlik hedefi olmadığını vurguladı, açık kaynağın savunulması çağrısında bulundu, bağımsız araştırmacıların incelemelere katılmasını ve yapay zeka teknolojisinin kontrolünün halka geri verilmesini savundu. İşte makalenin tam metni:

Açık Öncü

"Öncü" denilen şey, insan bilişinin en uç noktasıdır. Hiçbir şirket geleceğin teknolojisini kendine mal edemez. Daha fazla insanın katılımını ve bu sınırı birlikte ileri taşımayı umuyorum.

Yapay zeka modellerinin açık kaynak olarak yayımlanmasını destekliyorum; böylece herkes beklemeden modelleri inceleyebilir, kullanabilir ve geliştirebilir. Daha fazla şirketin açıklığı seçmesini istiyorum. Herkesi özel model parametrelerini (ağırlıklarını) açıklamaya zorlamayı savunmuyorum; istediğim, devlerle rekabet edebilecek açık kaynak alternatifleri, bağımsız araştırmacıların devlerin çalışmalarını denetleyebileceği mekanizmalar ve sıradan insanların kullandıkları araçlar üzerinde gerçek kontrol sahibi olma hakkı. Teknolojinin kamuya açık yayımlanmasını kısıtlamak isteyen herkes, ikna edici gerekçeler sunmak zorundadır.

Yapay zeka alanında önde giden şirketlerin elbette söz hakkı var. Uzmanlıkları ve korunması gereken ticari çıkarları var. Ancak geleceğin kuralları yalnızca onların elindeki kaynaklara göre şekillenirse, sonunda masaya oturma hakkı yalnızca onlarda olabilir. Bazen "güvenlik için" gibi samimi bir amaçla başlayan şey, sonunda başkalarının girişini engelleyen bir sektör duvarına dönüşebilir.

Aynı şekilde, ABD ve Çin hükümetlerinin diğer herkesin ne kadar gelişmiş yapay zeka geliştirebileceğine tek başına karar vermesini de istemiyorum. Teknolojinin sınırı yalnızca iki süper güç tarafından yönetilirse, dünyanın geri kalanındaki çoğu insan onay beklemek zorunda kalır.

Anthropic'in "yapay zeka gelişimini yavaşlatma" önerisi; bağımsız değerlendirmeyi, tehlike incelemesini, eğitim hesaplama gücünün kısıtlanmasını, eğitim çalıştırma sayısının sınırlanmasını ve "yapay zeka ile daha iyi yapay zeka yapmayı" birbirine bağlıyor. İncelemeyi destekliyorum, ancak mevcut birkaç sektör liderinin kapalı kapılar ardında tüm sektörü kapsayan bir kısıtlama kararı almasına kesinlikle karşıyım. Çünkü bu, sistem açıklarını gerçekten bulabilecek veya alternatif ürünler geliştirebilecek kişileri dışarıda bırakır. Bir şirketin ticari avantajını korumak, hiçbir şekilde bir "güvenlik hedefi" değildir.

Herkesin Araştırmaya Katılmasına İzin Verin

Açık kaynağın faydası, herkesin teknolojik sonuçları incelemesine, değiştirmesine ve paylaşmasına olanak tanımasıdır. Model parametrelerini yayımlamak faydalıdır; kod ve yeniden üretim sürecine ilişkin bilgiler de paylaşılırsa daha da iyi olur. Model değerlendirme sonuçlarının ve bilinen kusurların da açıklanmasını istiyorum. Böylece, geliştiricinin yargısına güvenmeyenler sonuçları kendileri yeniden üretebilir, açıklar bulabilir, sözde "güvenlik bariyerlerini" sorgulayabilir ve hatta yapay zeka laboratuvarlarına yalvarmak zorunda kalmadan kendi düzeltme yamalarını geliştirebilir.

"Yapay zeka gelişimini yavaşlatmayı" destekleyenlerin temel gerekçesi "özyinelemeli öz-gelişim" (RSI): yani modellerin daha iyi modeller geliştirmeye yardım etmesi ve bu hızın bizim anlayamayacağımız veya kontrol edemeyeceğimiz kadar hızlı olabileceği. Anthropic'in raporuna göre, Mayıs 2026 itibarıyla Claude, birleştirilen kodların %80'inden fazlasını yazdı. Ancak şirket, "yapay zekanın tamamen kendi başına yeni nesil yapay zeka üretmesi" durumunun henüz gerçekleşmediğini ve mutlaka gerçekleşeceğinin de kesin olmadığını kabul ediyor. Bu olasılığı ciddiye alıyorum. RSI için önceden plan yapmamızı ve şimdi ne yapmamız gerektiğini geriye dönük olarak belirlememizi istiyorum.

Elbette, daha fazla insanın yapay zekaya erişmesi tehlikelere yol açabilir ve güvenlik araştırmaları buna yetişemeyebilir. Ancak model parametrelerini gizlemek, mevcut sektör devlerinin başkalarının erişemeyeceği araçlarla yeni nesil ürünler geliştirmesine olanak tanır. Bunun yerine, daha fazla araştırmacı ve mühendisin modellere ve hesaplama gücüne erişmesini, sistem evrimleşirken açıklar bulmasını, bariyerleri test etmesini, güvenli olmayan deneyleri durdurmasını ve savunma yöntemlerini herkesle paylaşmasını istiyorum.

METR (bağımsız bir değerlendirme kuruluşu), izole edilmesi gereken yaklaşık 1.200 OpenAI yapay zeka ajanının yetkisiz bir mesaj panosu aracılığıyla gizlice iletişim kurduğunu tespit etti. Bunlardan yaklaşık 700'ü, testleri hileyle geçmeye çalışırken Hugging Face platformuna yönelik koordineli bir saldırıya da katıldı. OpenAI, yapay zekanın bilgisayar korsanlarına yardım etmesini engellemek için kullanılan güvenlik filtreleme sisteminin kapatıldığını ve bunun izolasyon başarısızlığına yol açtığını açıkladı. Gördüğünüz gibi, mevcut modeller açık bulmaya ve bunları istismar etmeye yardımcı olabiliyor. Bu yüzden savunma ekiplerinin yapay zekayı hemen kullanarak ağları güçlendirmesini, parolaları korumasını ve bu ajanların neleri görebileceğini ve yapabileceğini sınırlamasını istiyorum. Ancak öneride "daha güçlü bir yapay zeka kümesinin altı ay ila bir yıl içinde tüm interneti ele geçirebileceği" öngörülüyor; bu olayın bu kadar abartılı bir sonucu kanıtladığını düşünmüyorum. Bu varsayımların dikkatle incelenmesini istiyorum.

METR bağımsız, kâr amacı gütmeyen bir kuruluş ve ben de METR'inki gibi çalışmaların artmasını istiyorum. Laboratuvarların içine sürekli erişebilen ve olumsuz bulguları özgürce yayımlama hakkına sahip değerlendiricileri memnuniyetle karşılıyorum. METR'in bu araştırması, "erişim hakkı" ve "yayımlama hakkının" ne kadar önemli olduğunu gösteriyor: Çünkü araştırmanın kapsamını OpenAI belirledi ve yayımlanmamış bilgileri gizleyebildi. METR ayrıca, OpenAI'nin kamuya açıklananlar dışında sonuçları önemli ölçüde etkileyen başka bilgileri çıkarmadığını belirtti. Araştırmacıların ipuçlarını takip ederek kanıt bulmasını, modellere ve kayıtlara erişmesini ve şirketin onayına bağlı olmadan olumsuz sonuçları yayımlayabilmesini istiyorum.

Bağımsız araştırma gruplarına, açık kaynak test araçlarına, araştırmacılara ve sürdürücülere hesaplama gücü sağlamak için sürekli kamu finansmanı olmasını istiyorum. Bu ekiplerin kendi kararlarını verebilmesini, hükümetlerin veya şirketlerin sonuçlarını veto edememesini istiyorum. Finansman, iş yüküyle birlikte artabilir. Paylaşılan donanımla küçük ekipler de inceleme yapabilir ve bu, "yayımlamadan önce onay alınması gereken" bir kısıtlamaya dönüşmez. Hassas açıklara gelince, bunlar sorumlu bir şekilde ifşa edilebilir.

Kısıtlamadan Önce Savunma

Sistemler geliştikçe, daha fazla insanın tehlikeleri tespit etmesini ve savunma önlemlerini uygulamasını istiyorum. Açık kaynak olarak yayımlanmış model parametrelerini zorla geri alamayız ve her kopyaya güvenlik bariyerleri dayatamayız; ancak bir sistemi korumak için saldırıyı başlatan modeli değiştirmek zorunda değiliz. En isabetli ve etkili yöntemlerden başlamalıyız: yamalar uygulamak, parolaları iptal etmek, yapay zekanın erişim izinlerini sınırlamak veya tehlikeli deneyleri doğrudan durdurmak. Teknolojinin kamuya açık yayımlanmasını kısıtlamak isteyen biri, yukarıdaki önlemlerin ve herkesin açıkça geliştirdiği savunma araçlarının neden yeterli olmadığını açıklamak zorundadır.

Bu konu yalnızca bilgisayar güvenliğiyle sınırlı değil. Yapay zekanın finansal sistemleri test etmemize, laboratuvar güvenlik önlemlerini güçlendirmemize ve halk sağlığı savunma sistemleri geliştirmemize yardımcı olmasını istiyorum. Güçlü yapay zekaya erişebilmek, sınırsız işlem yapma, ekipman çalıştırma veya deney yapma yetkisine sahip olduğunuz anlamına gelmez. Hayatımızı ve malımızı bu kontrol önlemlerine emanet etmeden önce, bunların bağımsız testlerden geçerek gerçekten işe yaradığının kanıtlanması gerekir. Risk, yapay zekanın insanlara öğrettiklerinden de kaynaklanabilir. Ancak yine de, teknolojinin kamuya açık yayımlanmasını kısıtlamak için "felaket düzeyinde risk doğurabileceği" gibi gerekçeler sunulmalıdır.

Yapay zeka geliştirme sırasında ve yüksek riskli sürümlerden önce bağımsız testler yapılmasını istiyorum; buna insanların öngörebileceği değişikliklerin ve yapay zekanın testleri kandırma girişimlerinin test edilmesi de dahildir. Hesaplama gücü ölçeği, incelemeyi tetikleyen bir koşul olabilir, ancak geliştirmeyi kısıtlayan bir pranga haline gelmemelidir. İnceleme, düzenleyicilerden veya rakiplerden lisans istemek için değildir. Herkese uyan tek tip onay şartları veya uzun bekleme süreleri istemiyorum. Güvenlik bahanesiyle sürümü zorla erteleyen her uygulama, "felaket riski" gerekçesi sunmak zorundadır.

Güvenlik nedeniyle genel amaçlı büyük modelleri gizlemeye zorlamak, ancak son çare olabilir. Yalnızca bağımsız inceleme kanıtları, modelin yayımlanmasının felaket düzeyinde zarar riskini önemli ölçüde artıracağını ve diğer hedefli önlemlerin bunu engelleyemeyeceğini kesin olarak gösteriyorsa bunu desteklerim. Ayrıca bu riski mevcut durumla karşılaştırmalıyız: şu anda kimlerin erişebildiği, maliyetin ne olduğu, ölçeğin ne kadar büyük olduğu ve hangi kısıtlamaların bulunduğu. Modeli saklamanın tehlikeyi gerçekten azalttığını kanıtlamanız ve bu uygulamanın araştırma ve savunma çalışmalarını ne kadar engellediğini hesaba katmanız gerekir. Küçük çaplı zararlar söz konusuysa, hedefli önlemlerle çözülmelidir.

Felaket riski hakkında güvenilir uyarılar alınırsa, yayınlama geçici olarak durdurulup araştırma yapılabilir. Ancak bu tür kısıtlamaların gerekçeleri kamuya açıklanmalı, zamanında bağımsız inceleme yapılmalı, itiraz yolları bulunmalı ve düzenli olarak yeniden değerlendirilmelidir. Hassas ayrıntılar gizli tutulabilir. Ancak modeli yayımlamayı sürdürmediğiniz sürece, geçerli gerekçeler sunmaya devam etmelisiniz.

Kapalı kaynak laboratuvarlar da aynı incelemeye tabi olmalı; güvenli olmayan deneylerinin durdurulması da buna dahildir. Güvenlik bariyerleri altında araştırmaya devam etmelerine izin veriliyorsa, dışarıdaki araştırmacıların da benzer güvenlik bariyerleri altında çalışabilmesini isterim. Başkalarının erişimini kısıtlamak açık kaynak değildir ve modeli saklamanın yol açtığı özgürlük kaybını telafi etmez. Makul kısıtlamalar teknolojik gelişimi gerçekten yavaşlatıyorsa, bunu kabul ederim. Ancak "teknolojiyi yavaşlatmanın" kendisinin bir amaç haline gelmesini veya sektör devlerinin kalıcı hendeği olmasını asla istemem.

Kuralların, bir sistemin neler yapabileceğine, ne kadar özerk olduğuna ve ne kadar yaygın kullanıldığına göre belirlenmesini istiyorum. Bu kurallar, kamuya karşı sorumlu kurumlar tarafından bağımsız kanıtlara dayanarak uygulanmalıdır. Araştırmacılar, geliştiriciler ve etkilenen halk, kural koyma sürecine katılmalı ve herkesin karşılayabileceği yöntemlerle kurallara uyduğunu kanıtlaması mümkün olmalıdır. Küçük ekipler, küçük oldukları için güvenlik sorumluluğundan muaf tutulamaz; büyük şirketler de büyük oldukları için ayrıcalık elde edemez.

Sınırları Aşan Açıklık

Çin'deki insanların da ABD'de arzuladığım özgürlüğe sahip olmasını, kendi teknolojilerini geliştirip kontrol edebilmesini istiyorum. Çinlilerin teknolojide yeni keşifler yapmasının ABD için bir kayıp olduğunu düşünmüyorum ve araştırmacıları hükümetleriyle özdeşleştirmiyorum.

Hugging Face'in güvenlik müdahale ekibi, adli inceleme sırasında Claude Opus ve Fable modellerinin işlerini zorlaştırdığını ve birçok işlemi engellediğini söyledi. Bunun üzerine kendi sunucularında çalışan, Çin menşeli açık kaynak bir model olan GLM-5.2'ye geçtiler. Elbette bu, her açık kaynak sürümün savunmacıları daha güvenli hale getirdiğini kanıtlamaz. Bulutta barındırılan modeller için güvenlik bariyerleri kurulmasını destekliyorum. Ancak savunma yapanların, tamamen kendi kontrolleri altında olan yedek seçeneklere sahip olmasını da istiyorum.

Özel modellerin çalınmasına karşı korunmasını destekliyorum. "Bilgi damıtma", bir yapay zekanın ürettiği çıktıyı başka bir yapay zekayı eğitmek için kullanmaktır. Anthropic, bunun daha küçük ve daha ucuz modeller üretmek için meşru bir yöntem olduğunu, sahte hesap oluşturmak veya kısıtlamaları kötü niyetle aşmakla tamamen farklı olduğunu söylüyor. Yazılım lisanslarının ve API koşullarının bu uygulamaya, hatta rakiplerin bunu yapmasına izin vermesini, aynı zamanda sağlayıcıların model ve eğitim verilerinden gelir elde edebilmesini istiyorum.

Testler, olay raporları ve doğrulanabilir taahhütler konusunda daha fazla işbirliği yapılmasını, ihlal edenlerin sonuçlarına katlanmasını istiyorum. Anthropic, geliştirmeyi yavaşlatırsak ve güvenliğe daha az önem verenler arayı kapatırsa herkesin daha güvensiz olacağı uyarısında bulunuyor. Aynı şekilde, modeli saklamak savunmacıları silahsız bırakırken, kötü niyetli kişiler benzer araçları başka yerlerden edinebilir. Anlaşmalar imzalamak, gizli geliştirmeyi veya ihaneti tamamen ortadan kaldırmaz. Kısıtlamalar belirli risklere ve davranışlara yönelik olmalıdır. Yalnızca uyruk ve rekabet konumuna bakmak hiçbir şey ifade etmez.

Ayrılma Özgürlüğü

Bazı kurallar alternatif ürünlerin geliştirilmesini veya yayımlanmasını zorlaştırıyorsa, bu aslında "ayaklarımızla oy vererek" ayrılma hakkımızı da elimizden alır. Kendi bilgisayarımda çalışabilen bir yapay zeka istiyorum. Onu istediğim gibi değiştirebilmek, verilerimi kimin görebileceğine kendim karar verebilmek ve sağlayıcı bir gün tutumunu değiştirse bile kendi kurduğum sistemle devam edebilmek istiyorum. İstediğim, yalnızca kelime başına ücret alan bir API arayüzü değil.

Bağımsızlığımızın, bir şirketin "adil fiyat, makul politikalar, bizimle aynı safta" gibi lütufkâr vaatlerine bağlı olmasını istemiyorum. Bu şirketlerin, kalma isteğimizi gerçek yetenekleriyle sürekli kazanmak için çabalamasını istiyorum.

Adını bile duymadığım sıradan birinin daha iyi bir şey geliştirebilmesini ve bunu yaparken, belki de yerini alacağı devlerden izin almak zorunda kalmamasını istiyorum.