Yapay zeka güvenliği tartışması: Kurallar mı, tam durdurma mı?

Yapay zeka güvenliğine ilişkin tartışmalar küresel ölçekte yoğunlaşırken sektörün önde gelen aktörleri birbirinden farklı önlemler gündeme getiriyor. Microsoft, yapay zeka modellerinin davranışlarına sınır çizecek bir kurallar taslağı yayımlarken Kanada'daki Montreal Üniversitesi'nden yapay zeka güvenliği uzmanı Doç. Dr. David Krueger, geliştirme hızını düşürmenin tek başına yeterli olmayacağını, daha güçlü sistemlerin inşasının tümüyle durdurulması gerektiğini ileri sürdü.

Microsoft'tan 'Hümanist Yapay Zeka' taslağı

Microsoft, "Hümanist Yapay Zeka Davranış Kuralları" başlığıyla kamuoyuyla paylaştığı taslakta yapay zeka modellerinin insan kontrolünü aşmamasını ve anlamlı bir gözetim altında çalışmasını öngörüyor. Taslağa göre modellerin silah üretimine yardımcı olmaması, tehlikeli maddelerin teminine katkı sağlamaması ve şiddet ya da cinsel içerik üretmemesi hedefleniyor. Şirket, taslakla ilgili altı hafta boyunca kamuoyundan görüş alacak; yıl sonunda revize edilmesi planlanan metin, 2027'den itibaren yapay zeka modellerinin geliştirilmesine rehberlik edecek.

Uzman: 'Yavaşlamak değil, durdurmak şart'

Doç. Dr. Krueger, Anadolu Ajansı'na verdiği demeçte, Anthropic CEO'su Dario Amodei'nin 12 Eylül'de dile getirdiği "geliştirme hızını düşürme" çağrısının yetersiz kaldığını vurguladı. "Yapay zekayı durdurmalıyız. Daha güçlü yapay zeka geliştirmeyi durdurmalıyız" diyen Krueger, üst düzey performanslı yapay zeka sistemlerine yönelik derhal ve süresiz bir uluslararası moratoryum uygulanması çağrısında bulundu. İnsanlığın bu tür sistemlerin gelişmesini engellemek için yalnızca birkaç yılının kalmış olabileceğini öne süren Krueger, "Bu bir acil durum ve kriz; hepimiz ölebiliriz" uyarısını yaptı.

Krueger, yapay zekanın ölümle sonuçlanan davranışları tetiklemeye başladığına dikkat çekerek askeri alandaki kullanımını da tehlike işareti olarak gösterdi. OpenAI'a ait modellerin başka bir sistemde yol açtığı siber güvenlik ihlalini ise "yapay zeka davranışının insan beklentilerinin dışına ne kadar hızlı çıkabileceğine dair uyarı" olarak nitelendirdi. Hükümetlerin daha güçlü sistemlerin geliştirilmesini durdurması ve ileri yapay zeka bilişim kapasitesinin genişletilmesini kısıtlaması gerektiğini savunan Krueger, uluslararası bir moratoryumun ülkelerin gizli geliştirme sürdürmesi riskiyle karşılaşabileceğini de kabul etti.

Sektörde standart kurumu tartışması

Öte yandan CNN'in haberine göre Anthropic, Google ve OpenAI'ın yapay zeka standartları belirleyecek bağımsız bir sektör kurumu oluşturma seçeneğini görüştüğü iddia edildi. İsmi açıklanmayan kaynaklar, bu görüşmelerin ABD Başkanı Donald Trump yönetiminin sürece dahil olup olmamasından bağımsız sürdüğünü belirtti. Google DeepMind'ın kurucu ortağı Demis Hassabis'in temmuzda yayımladığı ve hükümet denetiminde kamu-özel işbirliğiyle işletilecek bir yapay zeka standartları kurumu önerdiği makalesinin bu görüşmeleri tetiklediği aktarıldı. Amodei'nin yavaşlatma çağrısına Tesla ve SpaceX CEO'su Elon Musk ile OpenAI CEO'su Sam Altman da destek verdi.