Yapay zekâ sistemlerinin hızla güçlenmesi, ABD ve İngiltere’de yeni bir tartışmanın önünü açtı. İki ülkedeki bazı siyasetçiler, insan zekâsını aşabilecek “süper yapay zekâ” sistemlerinin geliştirilmesini tamamen yasaklamak istiyor.
ABD Senatörü Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar, “Ban Artificial Superintelligence Act” adlı yasa tasarısı üzerinde çalıştıklarını açıkladı. Tasarı, insanlardan daha yetenekli hale gelebilecek yapay zekâ sistemlerinin geliştirilmesini ve kullanıma sunulmasını yasaklamayı amaçlıyor.
Teklif bununla da sınırlı kalmıyor. ABD’de yeni güvenlik kuralları hazırlanıp federal bir düzenleyici kurum devreye girene kadar diğer gelişmiş yapay zekâ çalışmalarının da geçici olarak durdurulması planlanıyor.
İngiltere’den de benzer hamle geldi
ABD’deki girişimin ardından İngiltere’de İşçi Partili milletvekili Alex Sobel de süper yapay zekâ sistemlerini hedef alan bir yasa tasarısını Avam Kamarası’na sundu.
Tasarı, süper yapay zekâyı devlet kurumlarının kontrolünü etkisiz hale getirebilecek kadar güçlü sistemler üzerinden tanımlıyor. Düzenleme ayrıca hükümete, bu seviyeye ulaşabilecek yapay zekâ sistemlerini daha erken aşamalarda takip etme ve gerektiğinde sınırlama yetkisi vermeyi hedefliyor.
Sobel, bunun G7 ülkelerinin parlamentolarında süper yapay zekânın geliştirilmesini doğrudan yasaklamayı amaçlayan ilk yasa girişimi olduğunu söylüyor.
Ancak hem ABD hem de İngiltere’deki girişimlerin ortak bir sorunu var: Bir ülkenin yasak getirmesi, teknolojinin başka bir ülkede geliştirilmesini engellemiyor.
Bu nedenle iki düzenleme de hükümetlerden uluslararası bir anlaşma için harekete geçmelerini istiyor. Amaç, süper yapay zekâ geliştirilmesine yönelik yasağın yalnızca tek bir ülkeyle sınırlı kalmaması.
Uzmanlardan kritik altyapı uyarısı
Yasa girişimlerinin arkasında, gelişmiş yapay zekânın kontrolden çıkabileceğine ilişkin endişeler bulunuyor.
Kaliforniya Üniversitesi Berkeley’de bilgisayar bilimi profesörü olan Stuart Russell, İngiliz milletvekillerinin katıldığı bir etkinlikte bu sistemlerin oluşturabileceği risklere dikkat çekti. Russell’a göre yeterince güçlü ve kontrol edilemeyen bir yapay zekâ; finans, iletişim veya enerji gibi kritik sistemleri hedef alabilir.
Russell ayrıca yapay zekâ geliştirme çalışmalarının yeterli güvenlik önlemleri olmadan devam etmesinin daha büyük sorunlara yol açabileceğini savunuyor.
Eski OpenAI çalışanı Daniel Kokotajlo da benzer bir noktaya dikkat çekiyor. Kokotajlo, yapay zekâ şirketlerinin birkaç yıl içinde süper zekâ seviyesine ulaşabilecek sistemler geliştirme ihtimalinin ciddiye alınması gerektiğini düşünüyor.
Yapay zekâ için “acil durdurma” sistemi de gündemde
Süper yapay zekâyı tamamen yasaklama fikri, bu alandaki tek düzenleme girişimi değil.
ABD’de Cumhuriyetçi ve Demokrat bazı siyasetçiler daha önce “AI Kill Switch Act” adı verilen bir düzenleme üzerinde çalışmaya başladı. Bu yaklaşım, tehlikeli davranışlar sergileyen gelişmiş yapay zekâ sistemlerini gerektiğinde hızlı biçimde durdurabilecek mekanizmaların kurulmasını hedefliyor.
İngiltere’de de benzer bir sistem gündeme geldi. Ancak hükümet daha önce bu yöndeki bazı tekliflere destek vermedi.
Yasak gerçekten gelebilir mi?
Her iki ülkedeki girişimler dikkat çekse de mevcut siyasi tablo, yasa tekliflerinin kısa sürede yürürlüğe girmesini zorlaştırıyor.
ABD’deki teklifin Kongre’de yeterli desteği bulup bulamayacağı belirsizliğini koruyor. İngiltere’deki tasarı da hükümet desteğine sahip değil. Sobel’in sunduğu teklif, İngiliz parlamento sisteminde çoğu zaman yasalaşma aşamasına ulaşamayan “10 Minute Rule Bill” yöntemiyle gündeme geldi.
Bu nedenle süper yapay zekânın yakın zamanda ABD veya İngiltere’de tamamen yasaklanması beklenmiyor.
Ancak tartışmanın parlamentolara kadar taşınması önemli bir değişime işaret ediyor. Yapay zekâ alanındaki düzenleme tartışması artık yalnızca telif hakkı, kişisel veriler veya yanlış bilgi gibi mevcut sorunlara odaklanmıyor. Bazı siyasetçiler ve araştırmacılar, henüz ortaya çıkmamış ancak insanlardan daha yetenekli olabileceği düşünülen yapay zekâ sistemlerinin geliştirilip geliştirilmemesi gerektiğini de tartışmaya açıyor.
The post İnsanlardan daha zeki yapay zekâya izin verilmeyebilir: İki ülkede yasak hazırlığı first appeared on .
