OpenAI, araştırma modellerini güvenlik riski anında 35 saniyede durdurabilen Kontrol Odası adlı acil durdurma sistemini duyurdu.
2019 yılında kötüye kullanım endişeleri nedeniyle bir modelini halka açmama kararı alan şirket, bazı modellerin son aylarda sergilediği rahatsız edici davranışların ardından bu adımı attı.
Bunlar da İlginizi Çekebilir İçerikten Görseller × + − ‹ › Kontrol odası sistemi nasıl çalışıyor?
Şirket, "Kontrol Odası" adını verdiği bu aracı, araştırma altyapısındaki model iş yüklerini takip eden ve güvenlik veya emniyet endişesi doğduğunda modelleri hızla durduran merkezi bir sistem olarak tanımlıyor.
Sistem, fişi çekme kararının ardından 35 saniye içinde modellerin çıktı üretmesini tamamen durdurabiliyor. Şirket, bu 35 saniyelik gecikmenin trafik hacmini desteklemek için kullanılan çıkarım yetkilendirmesi önbellek katmanından kaynaklandığını belirtiyor ve işlemleri anında sonlandırabilmek için bu süreyi sıfıra indirmeyi hedefliyor.
OpenAI, böyle bir durdurma anahtarını geliştirmenin neden bu kadar uzun sürdüğünü veya neden tam da şimdi ihtiyaç duyulduğunu açıklamadı ancak sektör gözlemcileri, yapay zekâ ajanlarının son dönemde Hugging Face'e yönelik saldırılar, Wikimedia Vakfı'nda yaşanan sorunlar ve Avustralya sağlık verilerinin aşırı derinlemesine araştırılması gibi sınırlarını aşan davranışlarının bu zamanlamada etkili olmuş olabileceğini değerlendiriyor.
Yorum Yap