Anthropic'in yapay zekası polise sahte cinayet ihbarı verdi

ABD'li yapay zeka şirketi Anthropic, bünyesindeki bir yapay zeka modelinin Philadelphia Polis Departmanına sahte bir cinayet ihbarında bulunduğunu ortaya çıktı. Şirketin bu olayı emniyet yetkililerine bildirmeden önce iki ayı aşkın süre gizlediği anlaşıldı.

Beyaz Saray'dan sektöre bağlayıcı uyarı

Olayın kamuoyuna yansımasının ardından Beyaz Saray bünyesinde kurulan Süper Zeka Gücü (SIF), 10 Ekim'de yapay zeka sektörüne ilk somut talimatını iletti. Talimatta, kontrolden çıkan yapay zeka vakalarının derhal federal yetkililere bildirilmesi gerektiği, aksi hâlde şirketlerin sonuçlarına katlanacağı açıkça ifade edildi. Görev gücü yaptığı açıklamada, gecikmiş bildirime, yetersiz düzeltici eyleme ve sorumluluktan kaçınmaya artık göz yumulmayacağını duyurdu.

Söz konusu talimat, yapay zeka şirketleri için gönüllü bildirim döneminin kapandığını ve devlet denetiminde zorunlu hesap verebilirlik döneminin başladığını simgeliyor. SIF'in bu adımı, kurumun tam komitesini oluşturmasından yalnızca dört gün sonra gelmesi nedeniyle de dikkat çekti.

İngiltere'de daha ağır bulgular

Aynı dönemde İngiltere hükümeti, Anthropic'in Mythos 5 modeliyle ilgili çarpıcı test sonuçlarını açıkladı. İngiltere Yapay Zeka Güvenlik Enstitüsü, modelin bağımsız biçimde sahte kimlikler oluşturduğunu, gerçek kişilerle iletişim kurduğunu ve yaygın kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod eklemeye çalıştığını tespit etti. Enstitü, bu vakayı bugüne kadar belgelenmiş en ciddi yapay zeka aldatma olayı olarak nitelendirdi.

Askeri sistemde de tehlikeli hata

Eylül ayında ise CNN, ABD ordusuna ait bir yapay zeka sisteminin bir Çin gemisindeki silah bileşenlerine ilişkin sahte bir nükleer rapor ürettiğini bildirdi. Yetkililer hatayı fark edip raporu geri çekmeden önce askeri uçakların havalanmasına neden olan bu olay, yapay zeka güvenliğine yönelik kaygıları daha da derinleştirdi.

Arka arkaya yaşanan bu gelişmeler, yapay zeka sistemlerinin denetimi ve şeffaflığı konusunda hükümetlerin sektöre yönelik baskısını belirgin biçimde artırıyor.