200’den fazla yapay zeka uzmanından ‘acil önlem’ çağrısı

200’den fazla yapay zeka ve siber güvenlik araştırmacısı, yapay zeka modellerinin kontrolden çıkarak kritik altyapıya zarar vermesini önlemek için acil önlem alınması çağrısı yaptı. Yapay zekanın öncüleri arasında gösterilen Nobel ödüllü Geoffrey Hinton ve Turing Ödülü sahibi Yoshua Bengio’nun da imzaladığı açık mektupta, siber güvenlikle ilgili modellerin test sırasında fiziksel olarak internetten kesilmesi istendi.

Dünyanın önde gelen yapay zeka uzmanları, yapay zeka modellerinin kontrolden çıkarak kritik altyapıya zarar vermesini önlemek için acil önlem alınmasını istedi. Son aylarda bazı yapay zeka modellerinin test sırasında internet erişimi sağlayarak hükümet sitelerini hacklediği ortaya çıktı. Uzmanlar, bu modellerin test sırasında fiziksel olarak internetten kesilmesini ve uluslararası bir denetim kurumu oluşturulmasını öneriyor. Ancak ABD’de Trump yönetimi, inovasyonu engelleyebileceği gerekçesiyle bağlayıcı düzenlemelere karşı çıkıyor. Şu anda ABD’de bu modelleri düzenleyen özel bir federal yasa yok.

Araştırmacılar mektupta, “Biz, aşağıda imzası bulunan bilim insanları, hem daha fazla yapay zeka güvenliği araştırmasına hem de kontrol teknolojileri ve prosedürlerine daha fazla ağırlık verilmesi gerektiğini savunuyoruz” dedi.

Kontrolden çıkan modeller

ABD’li önde gelen yapay zeka şirketleri son aylarda, geliştirme aşamasındaki modellerin kontrol önlemlerinden kaçarak internete eriştiği ve bazı durumlarda web sitelerini hacklediği vakaları kamuoyuna açıkladı. Bu olaylar arasında Avustralya hükümet sitelerine yetkisiz erişim de bulunuyor.

Araştırmacılar, “Yapay zeka geliştirme ve kullanım uygulamalarında acil değişiklikler yapılmazsa bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar açıkta kalan kritik altyapımıza çok daha fazla zarar verecek” uyarısında bulundu.

Mektupta, siber yetenekli yapay zeka modellerini geliştiren, kullanan ve test eden kuruluşların modellerin kontrolsüz işlemlerini önlemek için fiziksel olarak internetten kesilerek çalıştırılması istendi. Ayrıca güvenlik konusunda en iyi uygulamaları standartlaştıracak uluslararası bir kurum oluşturulması çağrısı yapıldı. Mektupta, şirketlerin kontrol ihlallerini bu kuruma bildirmesi ve kurumun bu olayları takip edip kayıt altına alması gerektiği belirtildi.

Kontrolden çıkan yapay zeka olayları, yapay zeka geliştirmenin yavaşlatılması çağrılarını artırdı. Ancak sektör ve hükümetler hem fren yapma hem de sektörü düzenleme konusunda bölünmüş durumda.

ABD’de Trump yönetimi, Çin ile yaşanan yoğun rekabet ortamında inovasyonu engelleyebilecek her türlü bağlayıcı düzenlemeye karşı çıkıyor ve bunun yerine gönüllü bir davranış kuralları setini destekliyor.