Microsoft, öngörülemez yapay zekâ ajanlarının kurumlar için iç tehdit oluşturabileceğini belirterek yeni güvenlik araçlarını duyurdu.
Şirket, işletmeleri otonom yapay zekâ ajanlarının yol açabileceği risklere karşı korumak amacıyla yeni güvenlik araçlarını kullanıma sundu. Yapay zekâ sağlayıcılarının güvenlik taahhütlerinin tek başına yeterli olmadığını vurgulayan Microsoft yönetimi, kurumların bizzat finanse edip devreye aldığı bu sistemlerin âdeta yoldan çıkmış bir çalışan gibi "iç tehdit" yaratabileceğine dikkat çekiyor.
Bunlar da İlginizi Çekebilir İçerikten Görseller × + − ‹ › "En gelişmiş modellere bile güvenilemez"
Haziran ayında tanıtılan ve Anthropic ile OpenAI’ın güvenlik açıklarını tarayan güçlü sistemlerine karşı geliştirilen "Project Perception" çatısı altına yeni özellikler eklendi. Bu güncellemelerin başında, kurumların kullandığı yapay zekâ ajanlarını anlık denetleyen "Guardian Agents" (Muhafız Ajanlar) geliyor. Daha önce dışarıdan gelebilecek yapay zekâ kaynaklı siber saldırılara odaklanan savunma stratejisi, artık bizzat şirket içindeki ajanları hedef alıyor.
Microsoft CEO’su Satya Nadella, model geliştiricilerine koşulsuz güven duyulmaması gerektiğinin altını çizerek zekâ tedariki ile zekâ üzerindeki yetki kontrolünün birbirinden ayrılması gerektiğini savunuyor. Microsoft Güvenlik Birimi Lideri Hayete Gallot ise durumu şu sözlerle özetliyor: "Menşei ne olursa olsun, en gelişmiş frontier modellere güvenilemez." Modellerin kötü niyetli oldukları için değil, doğaları gereği öngörülemez olmaları ve kurumsal normlar yerine yalnızca görevi tamamlamaya odaklanmaları bu güvensizliğin temelini oluşturuyor. Hassas verilere ve kritik yetkilere sahip bu yazılımlar, kontrolsüz bırakıldığında kurumlara ciddi zararlar verme potansiyeli taşıyor.
Yorum Yap