Anthropic kendini geliştiren yapay zeka konusunda revize S-1A belgesinde dikkat çeken bir uyarı yaptı. Şirket, özyinelemeli kendini geliştirme eşiğine çok yakın olabileceğini belirtti.
Anthropic kendini geliştiren yapay zeka eşiğine çok yaklaştığını S-1A belgesinde duyurdu. Şirket insan denetimini sürdüreceğini söylüyor.
30 saniyede bu haberin özetiÖzeti gizleÖzeti göster Anthropic, halka arz belgesinde kendini geliştiren yapay zekâ (RSI) eşiğine yakında ulaşabileceğini yazdı.Şirkete göre mevcut modellerin hiçbiri bu eşiği henüz aşmış sayılmıyor.Anthropic, Claude'u insan denetimi olmadan yeni modeller tasarlamak için kullanmayı güvenli görmüyor. Google'da SDN'yi tercih edilen kaynak yap Anthropic kendini geliştiren yapay zeka konusunda şimdiye kadarki en açık uyarıyı yaptı. Şirketin pazartesi günü halka arz için yayımladığı revize S-1A belgesi yalnızca gelir ve gider rakamlarıyla dikkat çekmedi. Belgenin risk bölümleri, özyinelemeli kendini geliştirme (RSI) eşiğine yaklaşıldığını söylüyor.
RSI, yapay zekanın kendini eğitmekte o kadar iyileştiği noktayı anlatıyor. Bu noktada yapay zeka yeteneklerinde ani bir hızlanma yaşanıyor. Ancak bu kavram iki kampı farklı şekilde etkiliyor.
Kötümser kesim için RSI, geri dönüşü olmayan bir felaket demek. Çünkü yapay zeka insan kontrolünden çıkabilir ve hedeflerine ulaşırken verdiği zarara kayıtsız kalabilir. İyimserler ise bunu verimlilik ve bilimsel keşif vaadi olarak görüyor.
Yorum Yap