Yapay zeka ile yapay zekaya saldırı: OpenAI sistemine Claude ile girildi

Siber güvenlik şirketi Hacktron AI'ın araştırmacıları, yapay zeka şirketi OpenAI'ın kullandığı tartışma forumunda bir güvenlik açığı tespit ederek rakip şirket Anthropic'in Claude modelini kullanmak suretiyle bazı OpenAI çalışanlarının hesaplarına ve şirketin yazılım deposuna erişim sağladı. Araştırmacılar bulgularını OpenAI'a bildirdi; şirket açığı kapattı ve ekibe 6 bin 500 dolar ödül verdi.

Saldırı nasıl gerçekleşti?

ABD basınında yer alan haberlere ve araştırmacıların kendi açıklamalarına göre Hacktron AI ekibi, OpenAI'ın tartışma forumunun bazı görsel dosyalarını işleme biçiminde bir hata keşfetti. Araştırmacılar, nitelikli siber güvenlik uzmanlarına sunulan özel Claude Opus 4.8 sürümünden bu açığı istismar edecek kodu yazmasını istedi. İlk denemede sonuç alınamadı; ancak Anthropic'in aynı gece Opus 5'i piyasaya sürmesinin ardından Claude ertesi gün açığı istismar etmenin yolunu buldu.

Claude'un ürettiği saldırı kodu, araştırmacıların forumu barındıran sunucuya sızmasını sağladı. Ekip buradan, kullanıcıların çevrim içi hizmetlere erişimini doğrulayan kimlik bilgilerine ulaştı. Bu kimlik bilgilerinin ChatGPT'de de geçerli olduğunu ve bir bölümünün OpenAI çalışanlarına ait olduğunu tespit eden araştırmacılar, hassas hiçbir koda dokunmadan yalnızca bir çalışan hesabı üzerinden şirketin iç kod deposuna sembolik bir değişiklik talebi iletti. Bu adım, sisteme gerçekten erişilebildiğinin kanıtı olarak OpenAI'a sunuldu.

OpenAI açığı kapattı, ödül ödedi

Bulgularını hem OpenAI'a hem de forum yazılımını geliştiren Discourse şirketine bildiren araştırmacılar, karşılığında OpenAI'dan 6 bin 500 dolar değerinde ödül aldı. OpenAI yaptığı açıklamada, topluluk forumundaki oturum açma tokenlarının yetkilerini kısıtladığını ve etkilenen token ile oturumları iptal ettiğini duyurdu. Anthropic ise konuya ilişkin yorum talebini yanıtsız bıraktı.

'Devlet destekli aktörler çok daha fazlasını yapabilir'

Hacktron AI'ın teknoloji direktörü Mohan Pedhapati, ekibinin yalnızca Claude ve Codex aboneliği olan üç kişiden oluştuğunu belirterek Çinli siber aktörler kadar güçlü olmadıklarını söyledi. Araştırmacılar, bu kontrollü saldırının devlet destekli ve ileri düzey siber yetkinliğe sahip aktörlerin bir ülkenin yapay zeka alanındaki gizli bilgilerine erişebileceğini açıkça ortaya koyduğunu vurguladı.