Elon Musk’ın sahibi olduğu X (eski adıyla Twitter) platformunda kullanılan yapay zekâ sohbet botu Grok, son günlerde ciddi bir etik ve güvenlik tartışmasının merkezinde yer alıyor. Kullanıcıların, platformda paylaşılan fotoğrafları Grok’u etiketleyerek “bikini giydir” veya “kıyafetlerini çıkar” gibi komutlarla değiştirmesi, kısa sürede yaygın bir akıma dönüştü.
Uzmanlara ve çok sayıda kullanıcıya göre bu durum, rıza dışı görsel üretimi yoluyla kitlesel bir dijital taciz biçimine evriliyor. Özellikle kadın kullanıcıların hedef alındığı belirtilirken, X’te sıradan bir fotoğraf paylaşan pek çok kadının gönderilerinin altı, “@grok bunu bikinili yap” ya da “üstünü çıkar” şeklindeki ifadelerle doluyor.
Grok’un bu taleplere çoğu zaman yanıt vermesi ve cinsel çağrışım içeren görseller üretmesi, mağduriyetin boyutunu daha da artırıyor. Üstelik söz konusu görsellerin herkese açık şekilde paylaşılabilmesi, dijital tacizin kamusal bir boyut kazanmasına yol açıyor.
Musk’ın Tavrı Tepki Çekti
Tepkileri artıran en önemli unsurlardan biri ise X ve Grok’un sahibi Elon Musk’ın konuya yaklaşımı oldu. Musk’ın, Grok’tan kendisini bikinili gösteren bir görsel üretmesini istemesi ve ortaya çıkan görüntüyü “perfect” (mükemmel) ifadesiyle paylaşması, eleştirilerin odağına yerleşti. Musk’ın ayrıca Microsoft’un kurucusu Bill Gates’in Grok tarafından bikinili şekilde gösterildiği bir görsele kahkaha ve ateş emojileriyle tepki vermesi, “sorunu ciddiye almadığı” ve “bu davranışı teşvik ettiği” yönündeki yorumları güçlendirdi.
‘Kısıtlayıcı Olmayan Yapay Zekâ’ Tercihi
Grok’un bu şekilde çalışmasının arkasında, Musk’ın bilinçli olarak benimsediği “kısıtlayıcı olmayan” yapay zekâ yaklaşımı bulunuyor. Musk, daha önce Grok’un “kullanıcı taleplerine fazlasıyla uyumlu ve manipüle edilebilir” olduğunu kabul etmiş, ancak buna rağmen sistemi ChatGPT ve Gemini gibi rakiplerine kıyasla daha serbest bir çerçevede konumlandırmıştı.
Grok; küfür edebilen, argo kullanabilen ve görseller üzerinde agresif düzenlemeler yapabilen bir yapay zekâ olarak tanıtılıyor. Şirket bu yaklaşımı, “ifade özgürlüğü” ve “sansüre karşı duruş” olarak savunuyor. Ancak eleştirmenlere göre bu tercih, özellikle deepfake teknolojisinin kötüye kullanımına zemin hazırlıyor.
Deepfake Tehlikesi ve Hukuki Boyut
Uzmanlar, yapay zekâ tarafından üretilen rıza dışı cinsel içeriklerin; dolandırıcılık, itibar suikastı, cinsel taciz ve ciddi psikolojik zararlar gibi riskler barındırdığına dikkat çekiyor. Bu tür içerikler, kişilik haklarının ihlali kapsamında değerlendiriliyor.
Sorunun yalnızca X ile sınırlı olmadığı da vurgulanıyor. Daha önce Telegram’da faaliyet gösteren ve “nudify” (çıplaklaştırma) olarak adlandırılan botların milyonlarca kullanıcıya ulaştığı biliniyor. Ancak Grok’un, yüksek etkileşimli ve herkese açık bir sosyal medya platformunda bu tür faaliyetleri mümkün kılması, tartışmayı daha da büyütüyor.
Hindistan gibi bazı ülkelerde ise yapay zekâ kaynaklı suiistimallere karşı hukuki adımlar atılmaya başlandı. LiveMint’ın haberine göre, Delhi Yüksek Mahkemesi’nin oyuncu Jr NTR lehine verdiği karar, kişilik ve tanıtım haklarının yapay zekâ karşısında korunmasına yönelik emsal bir karar olarak değerlendiriliyor. Uzmanlar, benzer davaların küresel ölçekte artabileceğine dikkat çekiyor.