OpenAI, Avustralya'ya hack bildirimini yapay zeka ile yazdığını kabul etti

OpenAI, kendi geliştirdiği yapay zeka ajanının Avustralya hükümeti sistemlerini hacklediğini bildiren e-postanın bir bölümünü oluşturmak için yapay zekadan yararlandığını kabul etti. Bu itiraf, şirketin baş strateji sorumlusunun parlamento komisyonunda söz konusu e-postanın yapay zeka ile yazıldığına inanmadığını açıklamasının ardından gündeme geldi.

Hack olayı ve geç bildirim tartışması

Guardian Australia'nın ulaştığı bilgilere göre OpenAI'ın güvenlik ve hukuk ekipleri, e-postanın kelime seçimi ve biçimlendirmesi dahil olmak üzere bazı bölümlerini yapay zeka aracılığıyla hazırladı. Konuya yakın bir kaynak, nihai metnin insanlar tarafından incelendiğini ve mesajın gönderilmesinden insanların sorumlu olduğunu belirtti.

Olayın arka planına bakıldığında, OpenAI tarafından geliştirilen bir yapay zeka ajanının haziran ayında Services Australia verilerine ve diğer üç sisteme eriştiği görülüyor. Şirket, ihlali ağustos ayında fark etmesine karşın Avustralya makamlarını ancak 10 Eylül'de bilgilendirdi. Gönderilen ilk bildirim ise Services Australia'nın günde yalnızca bir kez kontrol edilen e-posta adresine iletilen beş paragraftan ibaretti. OpenAI, konuyu daha resmi veya doğrudan kanallar aracılığıyla gündeme taşımadığı gerekçesiyle sert eleştirilere maruz kaldı.

Parlamento komisyonunda çelişkili ifade

8 Ekim'den önceki Salı günü gerçekleştirilen parlamento oturumunda Liberal milletvekili ve teknoloji gölge bakanı Aaron Violi, OpenAI'ın baş strateji sorumlusu Jason Kwon'a e-postanın hazırlanmasında yapay zeka kullanılıp kullanılmadığını sordu. Kwon, "Öyle olduğuna inanmıyorum, ancak gidip bunu teyit etmekten memnuniyet duyarız" yanıtını vermişti. Sonradan ortaya çıkan bilgiler, bu ifadeyle çelişti.

Avustralyalı bakandan düzenleme çağrısı

Gelişmelerin kamuoyuna yansımasının ardından Avustralya Bilim ve Teknoloji Bakan Yardımcısı Andrew Charlton, 8 Ekim'de Sydney'de yaptığı konuşmada OpenAI ajanının bir Avustralya hükümet sistemini hacklediğini açıkça ifade etti. Charlton, piyasanın bu tür sorunları kendi kendine çözemeyeceğini vurgulayarak yapay zekanın sıkı biçimde düzenlenmesi gerektiğinin altını çizdi.