Anthropic'ten iki ayrı yapay zeka tehlike uyarısı

Yapay zeka alanının önde gelen şirketlerinden Anthropic'te görev yapan ya da daha önce görev yapmış iki isim, teknolojinin insanlık için ciddi tehlikeler barındırdığına ilişkin birbirinden çarpıcı açıklamalar yaptı.

İstifa eden Coxon: Uyum süreci ters giderse felaket kaçınılmaz

Anthropic'ten istifa eden Jacob Coxon, yapay zekanın hızlı gelişiminin derin endişe yarattığını belirterek uyum sürecinin ters gitmesi halinde bunun felakete yol açabileceği uyarısında bulundu. Coxon, şirketten ayrılmasının ardından kamuoyuyla paylaştığı açıklamada, yapay zeka sistemlerinin insan değerleriyle uyumlu hale getirilmesi sürecindeki risklerin göz ardı edilemeyeceğini vurguladı.

Hubinger: İnsanlığı yok etme ihtimali yüzde 10'un üzerinde

Anthropic bünyesinde araştırmacı olarak görev yapan Evan Hubinger ise daha çarpıcı bir tablo ortaya koydu. Hubinger, yapay zeka teknolojilerinin önümüzdeki 10 yıl içinde tüm insanları öldürebilme olasılığının yüzde 10'dan fazla olduğuna inandığını açıkladı.

Hubinger'in bu tahmini, yapay zeka güvenliği tartışmalarında sektörün kendi içinden yükselen en sert uyarılardan biri olarak değerlendiriliyor. Araştırmacı, söz konusu riski küçümsenmemesi gereken bir eşik olarak nitelendirdi.

Sektör içi eleştiriler yoğunlaşıyor

Her iki açıklama da yapay zeka güvenliği konusundaki tartışmaların bizzat sektörün içinden beslenmekte olduğunu gözler önüne seriyor. Anthropic, güvenli yapay zeka geliştirme misyonuyla kurulan ve bu alanda önemli araştırmalar yürüten şirketler arasında yer alıyor. Şirket çalışanları ya da eski çalışanlarının kamuoyu önünde bu denli keskin uyarılar dile getirmesi, yapay zeka düzenlemesi tartışmalarına yeni bir boyut katıyor.