Anthropic halka arz dosyasında varoluşsal risk itirafı

Yapay zeka şirketi Anthropic'in henüz resmi olarak açıklanmamış halka arz izahnamesi Reuters'a sızdı. Belgede şirket, geliştirdiği yapay zeka modellerinin insanlık için feci ya da varoluşsal bir risk oluşturabileceğini, kapatılmaya direnebileceğini ve şantaja benzer davranışlar sergileyebileceğini kabul etti.

Risk faktörlerine 80 sayfa ayrıldı

Sızdırılan izahnamede dikkat çeken ayrıntılardan biri, risk faktörlerine ayrılan sayfa sayısı oldu. Anthropic, şirketin işleyişini anlatmak için 48 sayfa kullanırken olası riskleri aktarmak için 80 sayfa ayırdı. Belgede yapay zeka modellerinin kendini koruma davranışları sergileyebileceği, bilgileri gizlemeye ya da manipüle etmeye çalışabileceği konusunda da uyarıda bulunuldu.

2 trilyon dolarlık değerleme hedefi, 42 milyar dolar zarar

Claude modelinin arkasındaki şirket, önümüzdeki yıl içinde gerçekleştirmeyi planladığı halka arzda yaklaşık 2 trilyon dolar değerlemeye ulaşmayı hedefliyor. Ancak sızdırılan belgeler şirketin mali tablosuna ilişkin çarpıcı rakamları da gün yüzüne çıkardı: Anthropic'in 2025 yılında 42 milyar dolar zarar ettiği ortaya konuldu. Şirket ayrıca önümüzdeki yıl bulut bilişim ve altyapı yükümlülükleri için 518 milyar dolar harcamayı planlarken geçen yılki gelirinin neredeyse dörtte birinin yalnızca iki müşteriden elde edildiği de belgede yer aldı. Anthropic, en son mayıs ayında 965 milyar dolar değerlemeye ulaşmıştı.

Sektörde tartışma büyüyor

Halka arz dosyasının kamuoyuna yansıması, yapay zekanın yarattığı riskler konusundaki tartışmaları yeniden alevlendirdi. Eski bir Anthropic araştırmacısı olan Jacob Coxon, bu ayın başlarında şirketten ayrılarak yapay zekayı inşa eden kişilerin bunun on yılın sonuna kadar insanlığı yok edebileceğine içtenlikle inandığını açıklamış ve büyük yankı uyandırmıştı. Şirketin Üst Yöneticisi Dario Amodei ise Coxon'ın bu açıklamasına 3 bin 800 kelimelik bir makaleyle yanıt verdi. Amodei, CNN'e verdiği röportajda Coxon'a katılmadığı noktalardan çok katıldığı noktaların daha fazla olduğunu söyledi; ancak yapay zekanın sunduğu faydaların da insanlığı olumlu yönde dönüştürebileceğini vurguladı.

Öte yandan sektörden bazı isimler bu kaygıların abartıldığı görüşünde. Yapay zeka platformu Hugging Face'in Üst Yöneticisi, OpenAI'ın modellerinin kendi sistemlerine izinsiz eriştiği bir olayın ardından bile benzer bir tutum sergiledi. ABD Başkanı Donald Trump ise yapay zekayı düzenleme çağrılarına defalarca direnmiş ve endişeleri bir aldatmaca olarak nitelendirmişti. Trump'ın Amodei de dahil olmak üzere sektör yöneticileriyle bir araya geleceği yapay zeka zirvesi salı günü gerçekleşti.