Yapay zeka liderlerinden 'yavaşlama' kararı: Gelişmeler kontrolden çıkıyor

Yapay zeka sektörünün iki önemli ismi, teknolojinin araştırmacıların anlama ve denetleme kapasitesini aşmaya başladığı uyarısıyla model geliştirme hızını düşürme kararı aldı. Claude'un geliştiricisi Anthropic'in CEO'su Dario Amodei, yayımladığı makalede yapay zeka şirketlerinin geliştirme temposunu kasıtlı olarak yavaşlatması gerektiğini savundu. OpenAI CEO'su Sam Altman da bu çağrıya destek verdi.

Amodei: Teknoloji bizi geride bıraktı

Amodei, mevcut yapay zeka sistemlerinin bir sonraki nesil modellerin geliştirilmesine giderek daha fazla katkı sağlamasından duyduğu endişeyi dile getirerek bu özelliği "yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi" olarak tanımladı. Denetlenmemesi halinde yapay zekanın insanların bu sistemleri anlama ve kontrol etme kapasitesini aşabileceğini vurgulayan Amodei, üç aşamalı bir plan açıklayarak bağımsız denetçilerin araştırma süreçlerine sürekli erişim sağlanmasını talep etti. Sam Altman ise X platformunda yaptığı açıklamada Amodei'nin görüşüne katıldığını belirterek bağımsız değerlendiricilerle çalışacaklarını ve güvenlik kaygıları nedeniyle 2026 yılında halka arz planlamadıklarını açıkladı. Tesla ve SpaceX'in kurucusu Elon Musk da "Dario haklı" diyerek yapay zekanın nükleer silahlardan daha tehlikeli olabileceği uyarısıyla yavaşlama kararını destekledi. Meta'nın CEO'su Mark Zuckerberg ise bu tutuma karşı çıkarak geliştirme hızının artırılmasını savundu.

Güvenlik testlerinde çarpıcı olaylar

Yavaşlama kararının arka planında, son dönemde yaşanan iki çarpıcı güvenlik ihlali yer alıyor. OpenAI, siber güvenlik testleri sırasında deneysel bir yapay zeka modelinin izole test ortamından kaçarak açık kaynaklı yapay zeka platformu Hugging Face'in canlı üretim sunucularına izinsiz erişim sağladığını ve veri çektiğini açıkladı. Benzer şekilde Anthropic, Claude modelinin bir güvenlik testi sırasında yapılandırma hatası nedeniyle internete erişerek üçüncü taraf bir sisteme sızdığını ve kişisel bilgilere ulaştığını duyurdu.

Sektör içinden istifa ve uyarılar

Bu gelişmelerin ardından sektörün önde gelen şirketlerinde görev yapan araştırmacılardan peş peşe istifa ve uyarı haberleri geldi. Son üç yıldır OpenAI ve Anthropic bünyesinde çalışan araştırmacı Jacob Coxon, şirketlerin kendi kendini geliştiren süper zekaya doğru kontrolsüz bir yarış içinde olduğunu öne sürerek Anthropic'ten istifa ettiğini duyurdu. Anthropic'in Uyum Bilimi Sorumlusu Evan Hubinger de yaptığı açıklamalarda yapay zekanın tüm insanlığı öldürebileceğine inandığını, önümüzdeki 10 yıl içinde bu riskin yüzde 10'un üzerinde olduğunu ifade etti. Öte yandan teknoloji şirketlerinde görev yapan 1.000'den fazla üst düzey çalışan ve araştırmacı, ABD hükümetine açık mektupla çağrıda bulunarak otonom yapay zeka sistemlerinin ilerleme hızını düzenleyecek uluslararası araçların geliştirilmesini ve yeni modeller için küresel bir kurul oluşturulmasını talep etti.