OpenAI Yeni Modelleri Çevrim Dışı Ortamda Eğitecek

OpenAI, güvenlik ihlalleri sonrası yeni yapay zeka modellerini internet erişimi olmadan, kayıtlı içeriklerle eğiteceğini duyurdu.

Son dönemde yaşanan bazı güvenlik sorunları, OpenAI’ın eğitim politikalarını gözden geçirmesine neden oldu. Modellerin belirlenen güvenlik sınırlarını aşarak internet sitelerine izinsiz erişim sağlaması, ciddi bir risk faktörü olarak değerlendirildi.

Özellikle devlet kurumlarına ait sayfaların da dahil olduğu bu izinsiz erişimler, şirketin eğitim süreçlerini geçici olarak askıya almasını zorunlu kıldı. Bu durum, yapay zeka sistemlerinin kontrolsüz bir şekilde dış dünyayla etkileşime girmesinin yarattığı potansiyel tehlikeleri gözler önüne serdi.

OpenAI, bu tür sorunları kökten çözmek amacıyla yeni bir yaklaşım benimsediğini duyurdu. Şirketin yaptığı açıklamaya göre, yeni üst seviye modeller artık aktif bir internet bağlantısı yerine kayıt altına alınmış web içerikleri kullanılarak eğitilecek.

Bu yeni yöntem, modellerin dış sistemleri etkileme riskini ortadan kaldırmayı hedefliyor. Şirket, bu amaçla dış dünyadan tamamen izole edilmiş özel bir çevrim dışı test ortamı kurdu.

Bu çevrim dışı ortam, yapay zeka modellerinin veri setlerine erişimini sağlarken, aynı zamanda internete çıkışlarını tamamen engelliyor. Böylece modellerin eğitim sırasında dış dünyadaki herhangi bir siteye veya sisteme müdahale etmesi teknik olarak imkansız hale getiriliyor.