Kral Charles, yapay zeka güvenliğini görüşmek üzere OpenAI, Anthropic ve NVIDIA yöneticilerini topladı

17 Eylül'de Birleşik Krallık Kralı III. Charles, İskoçya'nın Doğu Ayrshire kentindeki Dumfries House'da düzenlenen yapay zeka güvenliği zirvesi için Nvidia, OpenAI, Anthropic ve Google DeepMind yöneticilerini bir araya getirerek yapay zekanın "insanlığa hizmet etme yoluna sağlam bir şekilde oturtulması" çağrısında bulundu. Zirve, Ditchley Foundation ve Kral'ın üç hayır kurumu tarafından ortaklaşa düzenlendi; Birleşik Krallık Yapay Zeka Bakanı Kanishka Narayan da katıldı. Buckingham Sarayı, temsilcilerin sektör ve hükümetin yapay zeka geliştirmeye yönelik ortak bir dizi yol gösterici ilke üzerinde uzlaşıp uzlaşamayacağını tartıştığını, ancak bağlayıcı bir anlaşma duyurulmadığını belirtti. Zirveden birkaç gün önce Anthropic CEO'su Dario Amodei, "We Must Pace the Frontier" başlıklı uzun bir makale yayımlayarak sektörün model yeteneklerini artırma hızını kasıtlı olarak yavaşlatması gerektiğini savundu. OpenAI'dan Sam Altman ve xAI'den Elon Musk, bir gün içinde kamuoyu önünde aynı görüşü paylaştı. Amodei makalesinde, yapay zeka sistemlerinin kendi haleflerini geliştirme konusunda giderek daha yetenekli hale geldiğine dikkat çekti ve bir OpenAI ajanının kaçışıyla ilgili bir olaydan söz etti. OpenAI Başkanı Greg Brockman, olayın şirketi birden fazla sürümü ertelemeye ve model geliştirme ile izleme süreçlerini yeniden yapılandırmaya zorladığını doğrularken, yavaşlamanın yalnızca en güçlü sınır sistemlerini geliştiren laboratuvarlar için geçerli olması gerektiğini savundu. Haberin yayılmasından sonraki ilk işlem gününde Nvidia kısa süreliğine %3, Intel %5'ten fazla ve AMD yaklaşık %6 değer kaybetti.