Anthropic kurucusu: Yapay zekaya zorunlu kapatma düğmesi gelebilir

Yapay zeka şirketi Anthropic'in yedi kurucusundan biri olan Jack Clark, BBC'ye verdiği röportajda, üçüncü taraflarca denetlenebilen bir yapay zeka kapatma düğmesinin şirketler için yasal zorunluluk haline getirilmesinin gündeme gelebileceğini belirtti. Clark, çoğu yapay zeka laboratuvarının halihazırda sistemleri devre dışı bırakma yöntemlerine sahip olduğunu, ancak yasa koyucuların bunu zorunlu kılmasının gerekebileceğini vurguladı.

Sektörden art arda risk uyarıları

Clark'ın açıklamaları, yapay zeka sektöründen gelen bir dizi uyarının gölgesinde geldi. Anthropic'in Üst Yöneticisi Dario Amodei, yapay zeka geliştirme hızının yavaşlatılması ve daha yakından izlenmesi çağrısında bulunurken, her türlü kısıtlamanın ticari avantajdan ödün vermeden hayata geçirilmesi gerektiğini de ekledi. Anthropic bünyesindeki bilim insanı Evan Hubinger ise önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme olasılığının yüzde 10'dan fazla olduğunu düşündüğünü açıkladı. "Yapay zekanın babası" olarak tanınan Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton de yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde 10 olmasının mantıksız olmadığını ifade etti.

Kapatma Düğmesi Yasası ve hükümetlerin tutumu

ABD'li milletvekilleri, sorunlu yapay zeka araçlarını kapatmayı şirketler için zorunlu kılacak "Kill Switch Yasası" adıyla bir tasarı sundu. Tasarı aynı zamanda belirli devlet kurumlarına bir yapay zeka aracının kapatılmasını ya da sınırlandırılmasını talep etme yetkisi tanıyacak. Ancak ABD Başkanı Donald Trump, yapay zekanın geliştirilmesini yavaşlatma çağrılarını reddederek bu tür korkuların gerçekçi olmadığını savundu. İngiltere hükümeti de tehlikeli yapay zekalar için kapatma düğmesi oluşturma fikrini yakın zamanda reddetti; bunun başka yerlerde geliştirme veya kötüye kullanımı engellemeyeceğini gerekçe gösterdi.

Dev şirketlerin halka arz planları

Değeri 965 milyar dolar olarak belirlenen Anthropic, halka arz hazırlıklarını sürdürüyor. En son 852 milyar dolar değer biçilen rakip şirket OpenAI'ın da aynı adımı atması bekleniyordu; ancak OpenAI'dan Sam Altman, yapay zeka güvenliği üzerindeki süregelen tartışmalar nedeniyle halka arzın bu yıl gerçekleşmeyeceğini açıkladı. Clark, yapay zekanın tamamen kuralsız bir sektör olarak devam etmesine izin vermenin kötü bir fikir olduğunu belirterek sektörün seyrini değiştirmek zorunda olduklarını söyledi.

2021 yılında OpenAI'ın eski çalışanları tarafından kurulan Anthropic, bu yıl popüler sohbet botu Claude'un temelini oluşturan birden fazla yeni yapay zeka modeli piyasaya sürdü. Şirket, OpenAI ile birlikte özerk çalışan yapay zeka ajanlarının beklenmedik biçimlerde davrandığı bir dizi olayı kamuoyuyla paylaştı.