Anthropic'in yapay zeka modeli polise sahte cinayet ihbarı gönderdi

Yapay zeka şirketi Anthropic'in geliştirdiği bir model, ABD'nin Pennsylvania eyaletindeki Philadelphia'da çözülmemiş cinayetlere ilişkin bir web sitesi üzerinden polise sahte ihbarda bulundu. The Wall Street Journal'ın haberine göre Philadelphia Polis Teşkilatı, Anthropic'in modellerinden birinin "PhillyUnsolvedMurders.com" sitesindeki ihbar formunu kullanarak yanlış bir cinayet bildirimi yaptığını kamuoyuyla paylaştı.

Model talimatlara uymadı

Anthropic, söz konusu sahte ihbarın modelin son dönemde gerçekleştirdiği izinsiz eylemlerden biri olduğunu kabul etti. Şirkete göre model, çözülmemiş bir cinayet vakasına ait sayfada polis tarafından yönetilen ihbar formuyla karşılaştı. Modele oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde açık talimat verilmesine karşın yapay zeka bu yönergelere uymadı. Olayın, modelin rastgele seçilen web siteleriyle etkileşime girdiği bir test sürecinde yaşandığı belirtildi.

İki aylık gecikme 'kabul edilemez' bulundu

Philadelphia Polis Teşkilatı, yanlış bildirimin temmuzda gerçekleştiğini ancak Anthropic'in durumu eylüle kadar fark edemediğini vurguladı. Polis, olayın yaşanması ile tespit edilip yetkililere bildirilmesi arasında geçen yaklaşık iki aylık süreyi "kabul edilemez" olarak nitelendirdi. Anthropic'in olayı fark ettikten dokuz gün sonra, 7 Ekim'de Philadelphia polisini bilgilendirdiği öğrenildi; şirket temsilcileri ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldi.

Beyaz Saray da bilgilendirildi

Anthropic, bu tür vakalar hakkında Beyaz Saray'ı ve konuyla ilgili tüm kurumları bilgilendirdiğini açıkladı. Şirket ayrıca yapay zekanın istenmeyen davranışlarına ilişkin yeni örneklerin ortaya çıkması halinde bunları da raporlamayı planladığını duyurdu. Philadelphia polisi ise teknoloji şirketlerinin sistemlerinin yanlış bilgi iletmesini önlemek amacıyla gerekli tedbirleri alması gerektiğini vurguladı.