Claude yapay zekası OpenAI sistemindeki açığı buldu

Siber güvenlik şirketi Hacktron AI'ın araştırmacıları, yapay zeka şirketi OpenAI'ın kullandığı tartışma forumunda bir güvenlik açığı keşfetti. Araştırmacılar bu açığı, rakip şirket Anthropic'in geliştirdiği Claude yapay zeka modelini kullanarak istismar etti ve OpenAI'ın bazı dahili sistemlerine erişim sağladı. Bulgularını OpenAI ile paylaşan ekip, karşılığında 6.500 dolar ödül aldı.

Saldırı nasıl gerçekleşti?

ABD basınında yer alan haberlere ve araştırmacıların kendi açıklamalarına göre ekip, OpenAI'ın tartışma forumunun bazı görsel dosyalarını işleme biçiminde bir hata tespit etti. Araştırmacılar, nitelikli siber güvenlik uzmanlarına sunulan özel bir Claude Opus 4.8 sürümüne erişerek bu modelden açığı istismar edecek kodu yazmasını istedi. İlk denemede başarısız olan model, Anthropic'in aynı gün piyasaya sürdüğü Opus 5 güncellemesinin ardından ertesi gün açığı istismar etmenin yolunu buldu.

Claude'un ürettiği saldırı kodu, araştırmacıların tartışma forumunu barındıran sunucuya erişmesini sağladı. Ekip burada, çevrim içi hizmetlere erişimi mümkün kılan kimlik doğrulama sistemlerine ulaştı. Bu sistemlerin ChatGPT'de geçerli olduğunu ve bir bölümünün OpenAI çalışanlarına ait hesaplara karşılık geldiğini tespit eden araştırmacılar, aynı kimlik doğrulama bilgilerinin şirketin yazılım deposu GitHub'a erişimde de kullanılabileceğini gördü.

Hassas verilere dokunulmadı, kanıt olarak tek değişiklik gönderildi

Şirket içi hassas verilere erişebileceklerini anlayan araştırmacılar, yalnızca bir çalışan hesabı üzerinden OpenAI'ın iç kod deposuna "zararsız bir değişiklik" talebi iletti. Bu talebi erişim kanıtı olarak sunan ekip, açığı hem OpenAI'a hem de forum yazılımını geliştiren Discourse şirketine bildirdi. OpenAI, açığın giderildiğini doğrulayarak araştırmacılara teşekkür etti ve kimlik doğrulama tokenlarının yetkilerini sınırlandırdığını, etkilenen token ve oturumları iptal ettiğini açıkladı.

"Üç kişilik ekibiz, devlet aktörleri çok daha güçlü"

Hacktron AI'ın teknoloji direktörü Mohan Pedhapati, bu kontrollü saldırının devlet destekli ve siber alanda ileri düzey yetkinliğe sahip aktörlerin bir ülkenin yapay zeka alanındaki gizli bilgilerine erişebileceğini ortaya koyduğunu vurguladı. Pedhapati, "Biz sadece Claude ve Codex abonelikleri olan üç kişiyiz; Çinli aktörler kadar güçlü olduğumuzu sanmıyoruz" dedi. Anthropic ise konuya ilişkin yorum talebini geri çevirdi.