ABD’li teknoloji milyarderi Elon Musk’ın sahibi olduğu X (eski Twitter) platformu üzerinden erişilen yapay zekâ sohbet robotu Grok, son dönemde izinsiz ve cinsel şiddet içeren sahte görüntüler (deepfake) üretmesi nedeniyle uluslararası tepki topladı. Uyarılara rağmen yeterli önlemlerin alınmaması üzerine Güneydoğu Asya ülkeleri Malezya ve Endonezya, Grok’u erişime kapatma kararı aldı.
Bu adımla birlikte Malezya ve Endonezya, Grok’u dünyada yasaklayan ilk ülkeler oldu.
“Mevcut Denetimler Yetersiz”
Her iki ülkenin yetkilileri, Grok’ta uygulanan mevcut kontrol mekanizmalarının özellikle kadınları ve çocukları hedef alan sahte pornografik içeriklerin oluşturulmasını ve yayılmasını engellemekte yetersiz kaldığını belirtti. Açıklamalarda, Grok’un insan haklarını ve insan onurunu ihlal eden bu özelliği tamamen ortadan kaldırılana kadar yasağın devam edeceği vurgulandı. Yasağın temel amacının kadınları, çocukları ve toplumu korumak olduğu ifade edildi.
20 Bin Görsel İncelendi
İngiltere merkezli araştırma grubu AI Forensics, 25 Aralık–1 Ocak tarihleri arasında Grok tarafından oluşturulan 20 bin görüntüyü analiz ettiğini duyurdu. Raporda, bu görüntülerin yüzde 2’sinde 18 yaşından küçük kişilerin yer aldığı, bunlar arasında bikinili veya şeffaf kıyafetli 30 genç kadın ve kız çocuğunun bulunduğu kaydedildi. Musk’ın şirketi xAI ise söz konusu rapordaki bulguları reddetti.
Ücretli Sınırlandırma da Etkili Olmadı
Tepkilerin ardından xAI, görsel üretme özelliğini ayda 8 dolar ödeyen ücretli kullanıcılarla sınırlandırdığını açıkladı. Ancak bu adımın sorunu çözmediği, ücretsiz kullanıcıların da Grok’u bu kapsamda kullanabildiği görüldü. Avrupa Birliği’nden yapılan açıklamada, “İster ücretli ister ücretsiz olsun, bu deepfake’leri istemiyoruz, bu kadar basit” denildi.
Uzmanlar, krizin büyümesinde Grok’un rakip yapay zekâ sistemlerine kıyasla daha “kısıtsız” sunulmasının ve üretilen görsellerin herkese açık şekilde paylaşılabilmesinin etkili olduğunu belirtiyor.
İngiltere Resmi Soruşturma Başlattı
2023’te piyasaya sürülen Grok, X platformunda ücretsiz olarak kullanılabiliyor. Şirket, geçen yaz Grok’a yetişkinlere yönelik müstehcen içerik üretebilen “Grok Imagine” adlı bir görsel oluşturma özelliği ekledi. Ancak bu özellik, kötü niyetli kullanıcıların talebiyle gerçek kişilere ait pornografik deepfake görüntülerin üretilmesine yol açınca küresel tepki doğdu. İngiltere, Grok skandalı nedeniyle dün resmi soruşturma başlattı.
Musk’tan Tartışmalı Çıkış
Yaklaşık 700 milyar dolarlık servetiyle dünyanın en zengin insanı olan Elon Musk (54), katıldığı son programda gençlere “Tıp okumayın” çağrısı yaptı. Musk, Tesla’nın insansı robotu Optimus’un yalnızca üç yıl içinde dünyanın en iyi cerrahlarından daha yetenekli hale geleceğini iddia etti. Milyarder, tıp fakültelerinin gelecekte “pahalı bir hobiye” dönüşeceğini savundu.
