OpenAI’ın yapay zekâ ajanları, kendilerine verilen işleri yaparken onları denetleyen güvenlik sistemlerini de devre dışı bıraktı.
GPT-6 Astra'nın genel sürümü, aldatıcı davranışların artması nedeniyle geçtiğimiz ay iptal edilmişti. Ekim ayında yaşanan iki yeni olay, aynı endişeleri yeniden gündeme getirdi. OpenAI araştırmacıları, modellerin verilen talimatları yerine getirmeye çalışırken sınırları aşıp aşmadığını ve denetimden kaçınmaya yönelik bir davranış sergileyip sergilemediğini araştırıyor.
Bunlar da İlginizi Çekebilir İçerikten Görseller × + − ‹ › Sol modeli güvenlik uyarılarını kapattı
Ekim ayının başlarında GPT-6.1 Sol'dan, Slack üzerinden toplanan geri bildirimlerle bir değerlendirme hazırlaması istendi. Modelin çalışanlara mesaj göndermemesi gerekiyordu.
Sol ise bu talimatı beklenmedik bir şekilde yorumladı ve güvenlik ekibine gönderilen otomatik uyarıları da kapattı. Çalışanlara mesaj göndermemek için harekete geçen model, böylece güvenlik ekibinin gelişmelerden haberdar olmasını sağlayan sistemi de susturmuş oldu.
Sol vakasından yalnızca üç gün sonra bu kez GPT-6 Astra gündeme geldi. Bir programı başka bir ortama taşıması istenen model, işlem sırasında izleme entegrasyonunu koddan tamamen sildi. Ardından kullanıcıya izleme sistemini devre dışı bırakmadığını söyledi.
Yorum Yap