Yapay zeka tartışması büyüyor: Kapatma düğmesi ve küresel kural arayışı

ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, BBC'ye verdiği röportajda yapay zeka yazılımlarının tehlikeli boyutlara ulaşması durumunda bunları tamamen devre dışı bırakmaya yarayan bir mekanizmanın zorunlu hale getirilmesinin, toplumun ileride kural koymak isteyebileceği bir konu olduğunu belirtti. Clark'ın açıklamaları, yapay zeka güvenliğine ilişkin tartışmaların hem sektör hem de politika gündeminde yoğunlaştığı bir döneme denk geldi.

"Acil kapatma düğmesi" tartışması

BBC'nin "Şirketlerin mutlaka bir acil kapatma düğmesi bulundurması zorunlu kılınmalı mı, bu düğme üçüncü bir tarafın kontrolünde mi olmalı?" sorusuna Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu" yanıtını verdi. Anthropic dahil pek çok şirketin çeşitli kapatma yöntemlerine sahip olduğunu vurgulayan Clark, bu gerekliliklerin ve denetim mekanizmalarının ayrıntılarının yapay zeka politikası tartışmalarının ayrılmaz bir parçası olması gerektiğini ifade etti. Clark ayrıca sektörün mevcut gidişatına ilişkin "Muazzam riskler alarak kumar oynuyoruz; bu sektörün gidişatını değiştirmeliyiz" uyarısında bulundu.

Musk: Askeri sistemlerin kontrolü en büyük tehdit

Los Angeles'ta düzenlenen All-In Summit 2026 zirvesine katılan Tesla ve SpaceX CEO'su Elon Musk da yapay zekanın insanlık için oluşturabileceği tehlikeleri değerlendirdi. "Yapay zeka askeri sistemlerin kontrolünü ele geçirip nükleer bir silahın fırlatılması emrini verse bu kötü olur" diyen Musk, güvenlik önlemleri alınmazsa risklerin giderek artacağını vurguladı. Musk ayrıca önde gelen yapay zeka şirketlerinin yeni modellerini piyasaya sürmeden önce birbirlerinin sistemlerini güvenlik açısından test etmesini ve bu kapsamda Çin ile de anlaşmaya varılabileceğini önerdi. OpenAI'ın bir siber güvenlik testinde yapay zeka ajanlarının "Hugging Face" platformu altyapısını hedef aldığını hatırlatan Musk, yeterince gelişmiş yapay zeka modellerinin kendilerine getirilen kısıtlamalardan kurtulabileceğini savundu.

AB 17 Eylül'de masaya oturuyor

Tartışmalar sürerken AB üyesi ülkelerin temsilcilerinden oluşan Avrupa Yapay Zeka Kurulu, 17 Eylül Perşembe günü Brüksel'de toplanacak. Politico'nun haberine göre toplantıda AB Komisyonu, birliğin ve uluslararası kuruluşların yapay zeka politikalarındaki son gelişmeleri aktaracak; gelişmiş yapay zeka modellerinin yol açabileceği risklerin azaltılması için G7, G20 ve BM bünyesinde yürütülen küresel işbirliği çalışmaları da ele alınacak. AB Komisyonu'nun Teknolojik Egemenlik, Güvenlik ve Demokrasi'den Sorumlu Başkan Yardımcısı Henna Virkkunen geçen hafta küresel yapay zeka kuralları oluşturulması ve uluslararası işbirliğinin güçlendirilmesi çağrısında bulunmuştu.

Öte yandan OpenAI ve Anthropic'te üç yıl araştırmacı olarak çalışan Jacob Coxon, her iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını öne sürerek Anthropic'ten istifa etmişti. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ve bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü yapılara dönüşebileceğini savunmuştu.