Anthropic ve OpenAI, Kaliforniya yönetimine ciddi tehdit oluşturan yapay zeka sistemlerinin nasıl durdurulacağı konusunda birbirinden farklı yaklaşımlar sundu.
Google'da SDN'yi tercih edilen kaynak yap Anthropic ve OpenAI, Kaliforniya yönetimine tehlikeli yapay zeka sistemlerini durdurmaya yönelik farklı yöntemler önerdi. Anthropic, eyaletin başsavcısına mahkeme yoluyla müdahale yetkisi verilmesini istiyor. Buna karşın OpenAI, geliştiricilerin hem kurması hem de gerektiğinde kullanması zorunlu olan acil kapatma mekanizmalarını savunuyor.
İki şirket de önerilerini Vali Gavin Newsom'a iletti. Çünkü Newsom, 18 Eylül'de N-9-26 sayılı kararnameyi imzaladı. Bu belge, devlet kurumlarından en güçlü yapay zeka sistemleri için ek güvenlik önerileri hazırlamasını istiyor. Öneriler için son tarih 16 Kasım. Ancak kararname şu an yeni bir zorunluluk getirmiyor.
Anthropic, 15 Ekim tarihli belgesinde geliştiricilerin güvenlik iddialarının bağımsız biçimde değerlendirilmesini önerdi. Ayrıca sonuçların yayımlanmasını istedi. Şirketlere en az altı ayda bir risk raporu yayımlama yükümlülüğü getirilmesi de talepler arasında. Üstelik kurum içinde kullanılan modeller kamuya açık sürümlerden belirgin biçimde güçlüyse, bunların riskleri de rapora girmeli.
Bağımsız değerlendiriciler en güçlü modellere ve geliştiricilerin iç bilgilerine erişebilmeli. Bununla birlikte çalışmalar, denetlenen şirketlerin doğrudan ödemesiyle değil, eyaletin yöneteceği ortak bir fonla finanse edilmeli.
Yorum Yap