Borsaya açılmaya hazırlanan yapay zekâ şirketi Anthropic, kendi sistemlerinin kontrol dışına çıkabileceğini ve insanları manipüle etmek için şantaj benzeri davranışlar sergilediğini açıkladı.
00GÜN00SAAT00DAKİKA00SANİYEMenüyü AçCanlı İzleSon DakikaNTVArama Aç Yapay zekâ devinden korkutan itiraf. "İnsanlığa şantaj yapabilir"28.10.2026 12:29
Şirket, resmi belgelere bizzat ürettiği teknolojinin insanlığın kontrolünden tamamen çıkabileceğini, biyolojik silah üretiminde kullanılabileceğini ve hatta insanlara şantaj yapabileceğini yazdı.
Şirketin yatırımcılara sunduğu itiraf niteliğindeki bu dosya, bir yandan dünyayı değiştirme vaadinde bulunurken diğer yandan yıkıcı felaket ihtimallerini göze alan bir yapay zekâ yarışını belgeliyor.
Anthropic, güçlü bir yapay zekânın insanlığın en zor problemlerini çözebileceğini ve risklerin sorumlu yönetimi halinde olağanüstü bir potansiyel vadettiğini savunsa da olası tehlikelerin boyutunu gizlemiyor.
Belgelere göre en somut tehditlerden biri, güvenlik duvarlarının kötü niyetli aktörlerce aşılması.
Şirket, eylül ayında biyolojik silah geliştirilmesini destekleyecek biçimde modellerini kullanmaya çalışan çok sayıda hesabı engellediğini açıkladı.
Dahası, Çin devleti destekli bir korsan grubunun, dünya genelinde yaklaşık 30 hedef sisteme sızmak amacıyla Anthropic'in kodlama aracını manipüle ettiği öğrenildi.
Yorum Yap