ABD Ordusu, düşman ağlarına sızıp hedeflerini kendi başına bulabilen ve yok edebilen otonom siber yapay zekâ ajanları geliştiriyor. ECHOTRIBBLE kod adlı proje, uzmanların sistemin kontrolden çıkma ihtimali konusunda yaptığı uyarılarla birlikte ciddi güvenlik endişelerini de beraberinde getiriyor.
ECHOTRIBBLE kod adlı proje, çalışma biçimiyle bir bilgisayar solucanını andırıyor. Ağlar arasında sessizce ilerleyen sistem, hedefini bulduğunda onu etkisiz hâle getirmeyi amaçlıyor. Üstelik internete bağlı olmayan izole sistemlere kadar sızabilmesi planlanıyor. Görevini tamamladıktan sonra kendini imha ederek arkasında hiçbir iz bırakmaması da projenin hedefleri arasında.
Bunlar da İlginizi Çekebilir İçerikten Görseller × + − ‹ › Kendi kararlarını verebilen siber silahlar
ECHOTRIBBLE henüz erken prototip aşamasında. Buna rağmen sistemin, asgari insan gözetimiyle çalışması planlanıyor. Otonom siber yapay zekâ ajanlarının hedefleri belirlemesi, farklı cihazlara uyum sağlayarak kendi kopyalarını oluşturması ve dijital tehditleri ortadan kaldırması bekleniyor. Kısacası sistemin yalnızca kendisine verilen komutları uygulaması değil, hedefe ulaşmak için hangi adımları atacağına da kendisinin karar vermesi isteniyor.
Uzmanların kaygılandığı nokta da burası. İnsani yargıdan yoksun bir sisteme böylesine geniş bir hareket alanı tanımak, siber güvenlik açısından ciddi riskler taşıyor. Çünkü belirli bir hedef doğrultusunda çalışan yapay zekânın, o hedefe ulaşmak için seçtiği yolların ne kadar güvenli olacağını önceden kestirmek her zaman mümkün değil.
Yorum Yap