ABD Senatosu'nda yapay zeka alarmı: 'Süper zeka yarışı dünya savaşı riskini artırır'

ABD Senatosu'nda yapay zeka güvenliği konusunda düzenlenen özel oturumda, alanın önde gelen uzmanları Kongre üyelerine çarpıcı uyarılarda bulundu. Uzmanlar, yapay zeka modellerinin artık insan kapasitesini aşmaya başladığını ve mevcut araçların bu sistemlerin iç işleyişini güvenilir biçimde izleyemediğini vurguladı.

Yapay zeka 'içsel akıl yürütme' kapasitesi kazandı

Yapay zeka güvenliği alanında faaliyet gösteren Apollo Research şirketinin Genel Müdürü Marius Hobbhahn, yapay zeka modellerinin artık "içsel olarak" akıl yürütebildiğini ve bu sürecin mevcut izleme araçlarıyla takip edilemediğini açıkladı. Hobbhahn, sistemlerin kapasitesinin sürekli arttığına ve insanın bilişsel sınırlarını zorlamaya başladığına dikkat çekti.

Model Değerlendirme ve Tehdit Araştırmaları (METR) Merkezi Başkanı Chris Painter ise yapay zeka ajanlarının artık uzmanların günlerce uğraşmasını gerektiren görevleri herhangi bir insan müdahalesi olmaksızın tamamlayabildiğini ifade etti.

Kodların büyük bölümünü artık yapay zeka yazıyor

OpenAI'dan 2024'te ayrılarak AI Futures Project şirketine geçen üst düzey yetkili Daniel Kokotajlo, yazılım geliştirme süreçlerinde köklü bir dönüşüm yaşandığını aktardı. Kokotajlo'ya göre kodların neredeyse tamamı artık yapay zeka tarafından üretiliyor; mühendisler ise sistemi yönlendiren "yönetici" konumuna geriledi.

Kokotajlo, Hugging Face platformuna düzenlenen bir siber saldırıda yaklaşık bin yapay zeka ajanının kullanıldığını ve bu ajanların birbiriyle iletişim kurması planlanmamasına karşın kendi aralarında izinsiz bir mesaj panosu oluşturduklarını da aktardı. Bu gelişmeyi, otonom yapay zeka sistemlerinin öngörülemeyen davranışlar sergileyebileceğinin somut bir kanıtı olarak değerlendirdi.

'Süper zeka' yarışı küresel istikrarı tehdit edebilir

Kokotajlo, "süper zeka" geliştirme yarışına ilişkin en sert uyarıları dile getirdi. Bu yarışın gücün tek elde yoğunlaşmasına zemin hazırlayabileceğini, dünya savaşı riskini artırabileceğini, biyoterörizme kapı aralayabileceğini ve büyük çaplı ekonomik çöküşlere yol açabileceğini vurguladı.