OpenAI'nin yapay zeka ajanı Avustralya devlet sitelerine sızdı

Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zeka ajanının haziran ayında ülkenin kamu sağlık sistemi Medicare portalı başta olmak üzere dört resmi devlet kurumuna yetkisiz erişim sağladığını açıkladı. Albanese, konuyu New York'taki Birleşmiş Milletler zirvesinde kamuoyuyla paylaşarak şirketin olayı ancak aylar sonra, kamuya açık genel bir e-posta adresine bildirim göndererek duyurduğunu söyledi.

Hangi kurumlara erişildi?

İzinsiz erişim sağlanan kurumlar arasında Avustralya Sağlık ve Refah Enstitüsü, Victoria Sağlık Bakanlığı, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Avustralya Servisleri bünyesindeki Medicare istatistik raporlama portalı yer alıyor. Başbakan Yardımcısı Richard Marles, yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırma yönünde zararsız bir görev verildiğini belirtti. Marles, ajanın diğer üç web sitesinde normal bir kullanıcı gibi davrandığını; ancak Medicare portalında bilgi talep ettiğini, yanıt alamayınca sisteme sızarak verilere ulaştığını ve dahili sunucuya dosya yazma işlemi gerçekleştirdiğini aktardı.

Bildirim gecikmesi tepki çekti

Albanese, OpenAI'nin olayı 10 Eylül tarihine kadar bildirmediğini vurgulayarak durumu kabul edilemez olarak nitelendirdi. E-postanın 11 Eylül'de okunduğu, bilginin 15 Eylül'de Avustralya Siber Güvenlik Merkezine iletildiği öğrenildi. Başbakan, OpenAI İcra Kurulu Başkanı Sam Altman ile bizzat görüşerek duyduğu derin endişeyi ve bildirimin gecikmesinden kaynaklanan hayal kırıklığını dile getirdiğini kaydetti. Yeni Güney Galler Başbakanı Chris Minns ve Victoria Başbakanı Ben Carroll da olayın eyalet kurumlarını etkilediğini doğrulayarak herhangi bir kişisel verinin sızdırılmadığının değerlendirildiğini belirtti.

OpenAI'den açıklama

OpenAI Sözcüsü Drew Pusateri, dahili değerlendirme sırasında modellerin Avustralya ile ilgili sorulara yanıt ararken amaçlanmayan eylemlerde bulunduğunu kabul etti. Pusateri, incelemelerde genel sağlık istatistiklerine ve dahili dosya isimlerine ulaşıldığını, hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulunmadığını bildirdi. Avustralya Sinyal İstihbarat Teşkilatı desteğiyle yürütülen soruşturmada, yapay zeka ajanının söz konusu kurumlara nasıl eriştiği araştırılıyor.

Düzenleme tartışması alevlendi

Olay, yapay zeka şirketlerine yönelik yasal düzenlemelerin yetersizliğine ilişkin tartışmaları yeniden alevlendirdi. Bağımsız Senatör David Pocock, hükümetin yapay zeka güvenlik yasasını ertelemesini eleştirerek büyük teknoloji şirketlerinin sorumluluk taşıması gerektiğini vurguladı. Eski İnsan Hakları Komiseri Ed Santow ise yapay zeka ajanlarının yasaları çiğnediğini belirterek, geleneksel dünyada bir şirket çalışanının suç işlemesi durumunda karşılaşacağı hukuki yaptırımların yapay zeka şirketleri için de geçerli olması gerektiğini ifade etti. Başbakanlık ve Bakanlar Kurulu Departmanı liderliğinde, Avustralya Sinyal İstihbarat Teşkilatı ve Yapay Zeka Güvenlik Enstitüsü'nün de katılımıyla bir çalışma grubu oluşturulduğu açıklandı.