Anthropic kurucusundan yapay zekaya zorunlu 'kapatma düğmesi' çağrısı

Yapay zeka şirketi Anthropic'in yedi kurucusundan biri olan Jack Clark, BBC'ye verdiği röportajda, tehlikeli boyutlara ulaşması halinde yapay zeka yazılımlarını tamamen devre dışı bırakabilecek bir kapatma mekanizmasının şirketler için yasal zorunluluk haline getirilmesinin gündeme gelebileceğini belirtti. Clark, Anthropic dahil çoğu yapay zeka laboratuvarının halihazırda bu tür yöntemlere sahip olduğunu, ancak yasa koyucuların bunu bağlayıcı bir kural olarak düzenlemesinin gerekebileceğini vurguladı.

Kapatma düğmesi bağımsız denetim altında olmalı

Clark, söz konusu mekanizmanın yalnızca şirketlerin kendi inisiyatifine bırakılmaması gerektiğini ifade ederek üçüncü bir tarafça doğrulanabilir bir yapının önemine dikkat çekti. Toplumun bu konuyu bilmek isteyeceğini ve zamanla etrafında kurallar oluşturabileceğini kaydeden Clark, yapay zekanın tamamen kuralsız bir sektör olarak ilerlemeye devam etmesinin kötü bir fikir olduğunu ekledi.

Şirket içinden yok olma uyarıları

Anthropic'in üst yöneticisi Dario Amodei de yapay zeka geliştirme hızının yavaşlatılması ve daha sıkı izlenmesi çağrısında bulundu. Şirketin bilim insanı Evan Hubinger ise önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme olasılığının yüzde 10'dan fazla olduğunu kişisel olarak değerlendirdiğini açıkladı. Geçen hafta Anthropic'ten ayrılan bir yapay zeka araştırmacısının da benzer kaygılarını paylaştığı gönderi geniş yankı uyandırmıştı.

Nobel ödüllü bilim insanından kritik uyarı

"Yapay zekanın babası" olarak tanınan ve Nobel Ödülü sahibi bilgisayar bilimcisi Geoffrey Hinton, yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde 10 olmasının mantıksız olmadığını söyledi. Hinton ve benzer kaygıları paylaşan isimler, yapay zekanın internete bağlı kritik sistemlerin kontrolünü ele geçirerek bu riski hayata geçirebileceğini öne sürdü. Buna karşın bazı sektör temsilcileri bu tür korkuların abartılı olduğunu savunuyor.

Yasal düzenleme tartışmaları sürüyor

ABD'li milletvekilleri, sorunlu yapay zeka araçlarını kapatmayı şirketler için zorunlu kılacak "Kill Switch Yasası" adıyla bir tasarı sundu. Tasarı aynı zamanda belirli devlet kurumlarına bir yapay zeka aracının kapatılmasını ya da kısıtlanmasını talep etme yetkisi tanıyacak. Ancak ABD Başkanı Donald Trump, yapay zekanın gelişimini yavaşlatma çağrılarını reddetti. İngiltere hükümeti de tehlikeli yapay zekalar için kapatma düğmesi oluşturma fikrini yakın zamanda geri çevirerek bu adımın başka ülkelerde geliştirilen sistemleri engellemeyeceğini gerekçe gösterdi. Değeri 965 milyar dolar olarak açıklanan Anthropic, halka arz hazırlıklarını sürdürüyor.