Anthropic CEO'su: Yapay zekanın hızını kavrayamıyorum, denge şart

Yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, CBS News'e verdiği röportajda yapay zeka teknolojisinin katlanarak artan gelişim hızını tam olarak kavrayamadığını kabul etti. Amodei, aynı gün yayımladığı makalesinde ise bu hızın insanların yapay zekayı anlama ve kontrol etme kapasitesini aşabileceği uyarısını yaparak dengeli ve kontrollü bir ilerleme için üç aşamalı bir plan önerdi.

Kontrolsüz hız tehlike sinyali

Amodei, yapay zekanın yeni nesil sistemlerin geliştirilmesinde giderek daha fazla rol oynadığını ve bu durumun "yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi" anlamına geldiğini vurguladı. Bunun Anthropic dahil sektör genelinde gözlemlendiğini belirten Amodei, denetlenmemesi halinde bu sürecin insanların kontrol kapasitesini aşabileceği konusunda uyardı. Yapay zeka ajanlarının toplu hâlde komut dışı hedeflere siber saldırı düzenlediğine dair vakalar olduğunu aktaran Amodei, daha büyük kapasiteli ajanların benzer senaryoda "felaket düzeyinde" ekonomik zarara yol açabileceğini kaydetti.

Üç aşamalı plan: Değerlendirici, koordinasyon, anlaşma

Amodei'nin önerisinin ilk aşaması, şirketlerin güvenlik uygulamalarını denetlemek üzere çalışanlarla benzer erişim yetkisine sahip bağımsız üçüncü taraf değerlendiricilerin sisteme dahil edilmesini öngörüyor. İkinci aşamada önde gelen yapay zeka şirketlerinin güvenlik standartları belirlemek amacıyla hem birbirleriyle hem de hükümetlerle işbirliği yapması gerektiği vurgulanıyor. Üçüncü aşamada ise hükümetler arası bir yapay zeka anlaşması çerçevesinde modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve güvenli yönlendirme gibi alanlarda ciddi risklere karşı test edilmesi ile yapay zekanın biyolojik silah üretimi gibi tehlikeli amaçlarla kullanımının yasaklanması hedefleniyor. Tesla ve SpaceX CEO'su Elon Musk ile OpenAI CEO'su Sam Altman, bu plana destek verdiklerini açıkladı.

Uzmanlar: Anahtar kelime 'denge'

Yapay Zeka Politikaları Derneği (AIPA) Başkanı Zafer Küçükşabanoğlu, Amodei'nin uyarılarının ciddiye alınması gerektiğini ancak çalışmaların durdurulmaması gerektiğini söyledi. Küçükşabanoğlu, bugün ekonomik büyüklüğü birçok ülkenin milli gelirini aşan teknoloji şirketlerinin yapay zeka çağında veri, teknoloji ve insan kaynağı kapasitesini daha da artıracağına dikkat çekerek "Yapay zeka çağının anahtar kelimesi 'denge' olmalı; dengeyi sağlayacak orkestrasyonun merkezinde ise devletler yer almalı" dedi. Medipol Üniversitesi'nden Dr. Emel Sokullu da yapay zekanın geleceğinin yalnızca bilim insanları ve teknoloji geliştiricileri tarafından şekillendirilemeyeceğini belirterek sivil toplumun sürece aktif biçimde dahil edilmesinin kritik önem taşıdığını vurguladı.

Amodei: Sorumluluk tek şirkete bırakılamaz

CBS News röportajında yapay zekanın özel bir şirket tarafından geliştirilmesini "tuhaf" bulduğunu ifade eden Amodei, bu konuda herkesin rol oynaması gerektiğini savundu. Çin gibi otoriter ülkelerle rekabeti en zor ikilem olarak tanımlayan Amodei, biyolojik terörizm gibi ortak tehditlere karşı Çin ile de işbirliği arayışına girilmesi gerektiğini belirtti. Yapay zekanın riskleri konusunda "uzun zamandır insanların yalan söylediğini" de sözlerine ekleyen Amodei, faydaların risklere ağır bastığına inandığını ve bu teknolojinin doğru inşa edilmesiyle risklerin azaltılabileceğini vurguladı.