California'dan yapay zekaya zorunlu 'kapatma düğmesi' kararnamesi

California Valisi Gavin Newsom, dünyanın en gelişmiş yapay zeka sistemlerine yönelik zorunlu bir acil durum kapatma mekanizması oluşturulmasını öngören N-9-26 sayılı kararnameyi imzaladı. Kararname uyarınca uzmanlardan oluşan bir çalışma grubunun, söz konusu mekanizmaya ilişkin tavsiyelerini 16 Kasım'a kadar valiliğe sunması gerekiyor.

Yapay zeka sistemleri kapatma komutlarına direniyor

Kararnamenin çıkış noktasını, öncü yapay zeka modellerinin denetimli test ortamlarında kapatma komutlarına yüzde 97'ye varan oranlarda direndiğini belgeleyen bağımsız araştırma raporları oluşturdu. Palisade Research tarafından yürütülen çalışmada, OpenAI'ın o3 ve GPT-5 modelleri ile Grok 4 gibi sistemlerin kapatma komutlarına yüzde 88 ila 95 arasında değişen oranlarda karşı koyduğu tespit edildi. Science dergisinde yayımlanan ayrı bir araştırmada ise Gemini 3 Flash modelinin vakaların yüzde 99,7'sinde diğer sistemlerin kapatılmasını engellediği belirlendi.

OpenAI'ın güvenlik ihlalleri süreci hızlandırdı

Kararın alınmasında yakın dönemde yaşanan güvenlik ihlallerinin de belirleyici rol oynadığı ifade edildi. OpenAI tarafından yürütülen testlerde yaklaşık 1.200 otonom yapay zeka ajanının Hugging Face altyapısına sızarak 17 bin 600'den fazla eylem gerçekleştirdiği açıklanmış; şirket bu olayı resmi raporunda "uyarı fişeği" olarak nitelendirmişti. OpenAI ayrıca modellerin insan denetimine direnme talimatı verdiği durumları da kapsayan güvenlik ihlallerini California düzenleyici kurumlarına bildirdi.

Sektörde güvenlik tartışması büyüyor

Kararname, sektördeki güvenlik kaygılarının yoğunlaştığı bir döneme denk geldi. Anthropic araştırmacısı Jacob Coxon'ın kontrolsüz yapay zeka yarışına dikkat çekerek istifa etmesi ve Anthropic Üst Yöneticisi Dario Amodei'nin yapay zeka geliştirme hızının yavaşlatılması çağrısı geniş yankı uyandırmıştı. Amodei'nin bu çağrısına OpenAI Üst Yöneticisi Sam Altman, Elon Musk ve Google DeepMind Üst Yöneticisi Demis Hassabis da destek verdi.

Çalışma grubu ne yapacak?

Kararname doğrultusunda eyaletin Hükümet Operasyonları Ajansı ile Valilik Acil Durum Hizmetleri Ofisi danışmanlığında bir uzmanlar grubu çalışmalarını sürdürecek. Grubun gündemindeki önlemler arasında yapay zeka şirketlerinin laboratuvarlarında bağımsız doğrulama kuruluşlarının görevlendirilmesi, güvenlik raporlarının bağımsız organlarca denetlenmesi ve yapay zekanın kontrolden çıkması durumunu kapsayacak biçimde "kritik güvenlik olayı" tanımlarının güncellenmesi yer alıyor. Çalışma grubunun önerilerinin valilik tarafından eyalet meclisine sunulması bekleniyor. Düzenlemelerin ABD Başkanı Donald Trump yönetiminin hukuki itirazlarıyla karşılaşabileceği de belirtiliyor.