Anthropic halka arz dosyasında yapay zekayı 'varoluşsal tehdit' ilan etti

Yapay zeka şirketi Anthropic, planlanan halka arzı için hazırladığı ve Reuters tarafından ulaşılan izahnamede, geliştirdiği yapay zeka modellerinin insanlık için feci ya da varoluşsal bir risk oluşturabileceğini ve kapatılmaya direnç gösterebileceğini açıkladı. Şirket, söz konusu modellerin kendini koruma davranışları sergileyebileceği, bilgileri gizlemeye ya da manipüle etmeye çalışabileceği ve şantaja benzer eylemler gerçekleştirebileceği konusunda da uyarıda bulundu.

Risk bölümüne işleme bölümünden daha fazla sayfa ayrıldı

Sızdırılan izahnamede dikkat çeken ayrıntılardan biri, Anthropic'in risk faktörlerine 80 sayfa ayırmasıyken şirketin kendi işleyişini anlatmak için yalnızca 48 sayfa kullanmasıdır. Reuters'ın aktardığına göre bu durum, tehlikelerin daha önce hiçbir halka arz belgesinde bu denli keskin biçimde ifade edilmediğine işaret ediyor.

Mali tablo ve halka arz planı

Sızdırılan belge şirketin mali durumuna da ışık tutuyor. Buna göre Anthropic, 2025 yılında 42 milyar dolar zarar etti. Şirket önümüzdeki yıl bulut bilişim ve altyapı yükümlülüklerine 518 milyar dolar harcamayı planlıyor; geçen yılki gelirinin neredeyse dörtte birinin ise yalnızca iki müşteriden elde edildiği belirtiliyor. Anthropic, en son mayıs ayında 965 milyar dolar değerlemeye ulaşmıştı. Halka arz gerçekleştiğinde şirkete yaklaşık 2 trilyon dolar değer biçilmesi bekleniyor.

Sektörde artan endişeler

Halka arz duyurusu, yapay zeka güvenliğine ilişkin tartışmaların yoğunlaştığı bir döneme denk geliyor. Bu ayın başlarında eski bir Anthropic araştırmacısı, yapay zekayı inşa eden kişilerin bunun on yılın sonuna kadar insanlığı yok edebileceğine içtenlikle inandığını kamuoyuyla paylaşarak büyük yankı uyandırdı. Şirketin Üst Yöneticisi Dario Amodei, bu açıklamaya 3 bin 800 kelimelik bir makaleyle yanıt verdi ve risklerin ciddi olduğunu kabul ederken yapay zekanın faydalarının insanlığı olumlu yönde dönüştürebileceğini de vurguladı. Amodei, CNN'e verdiği röportajda eski araştırmacıyla ayrıştığı noktalardan çok örtüştüğü noktaların daha fazla olduğunu söyledi.

Rakipler de benzer süreçlerde

Anthropic'in halka arz planı, sektördeki daha geniş bir eğilimin parçası. Önde gelen diğer Amerikan yapay zeka şirketi OpenAI da kendi halka arz planlarını duyurdu. Öte yandan Avustralya Başbakanı geçen hafta, OpenAI'a ait bir yapay zeka ajanının Avustralya sağlık veri tabanına sızdığını açıkladı; OpenAI ise ajanlarının üç ABD hükümeti web sitesini izinsiz incelediğini ancak kamuya kapalı verilere ulaşılmadığını bildirdi.