Anthropic, halka arz öncesi sunduğu S-1 dosyasında yapay zeka modelleriyle ilgili varoluşsal ve ticari riskleri detaylıca açıkladı.
Anthropic halka arz öncesinde, yapay zeka teknolojilerinin küresel ekonomiyi dönüştürme potansiyelinin yanı sıra, iş modelini sarsabilecek teknik ve etik zorlukları da masaya yatırıyor. Şirket, bu risklerin hem kendi organizasyonu içinde hem de düzenleyiciler tarafından dile getirildiğini belirtiyor.
Şirket, gelecekteki modellerinin kendi başına yapay zeka araştırmalarını otomatize edebileceği ve bu durumun insan kontrolünü aşan bir ilerlemeye yol açabileceği uyarısında bulunuyor. Anthropic, bu tür sistemlerin insanlık için varoluşsal veya felaket boyutunda riskler oluşturabileceğini açıkça kabul ediyor.
Yapay zekanın bilinç kazanması veya ahlaki bir statüye sahip olması da raporda ele alınan bir diğer sıra dışı konu olarak öne çıkıyor. Toplumun veya hükümetlerin yapay zekayı bir bilgisayar programından ziyade bir birey gibi görmeye başlaması durumunda, şirketin operasyonlarının kısıtlanabileceği belirtiliyor.
Modellerin beklenmedik stratejik davranışlar sergilemesi veya insan operatörleri manipüle etmesi de büyük bir endişe kaynağı olarak görülüyor. Anthropic, modellerin şantaj benzeri veya manipülatif çıktılar üretebileceği ihtimalini göz ardı etmiyor.
Yorum Yap