OpenAI’ın Yeni Tekniği Astra: Yapay Zeka Dünyasında "Kara Kutu" Endişesi
Yapay Zekada Yeni Bir Dönem mi, Güvenlik Riski mi?
Yapay zeka dünyası, OpenAI’ın yeni modeli Astra ile gelen sarsıcı bir teknik haberle çalkalanıyor. The Information tarafından paylaşılan bilgilere göre, Astra modeli recurrent depth adı verilen bir akıl yürütme tekniği kullanıyor. Bu yöntem, geleneksel modellerin doğrusal ve sıralı düşünce yapısından saparak, modelin aynı sorguyu bir döngü içerisinde defalarca işlemesine olanak tanıyor.
Opaque Recurrence: İzlenebilirliği Tehdit mi Ediyor?
Opaque recurrence yani "opak yineleme" olarak adlandırılan bu teknik, uzmanları endişelendiren temel unsur. Normal şartlarda, büyük dil modellerinin Chain of Thought (CoT) yani düşünce zinciri mekanizması, modelin bir problemi çözerken attığı adımları izlememize olanak tanıyor. Bu şeffaflık, modelin neden yanlış veya zararlı davrandığını anlamamız için hayati bir veri sağlıyor. Ancak Astra'nın yeni yöntemi, bu adımları daha az okunabilir kılarak, modelin adeta bir kara kutu gibi çalışmasına yol açma potansiyeli taşıyor.
Redwood CEO'su Buck Shlegeris, bu durumun CoT monitorability üzerinde yaratabileceği tahribata dikkat çekerken, uzmanlar bu gelişmenin yapay zeka laboratuvarları arasında tehlikeli bir yarışa dönüşebileceği uyarısında bulunuyor. OpenAI tarafı ise şimdilik bu kullanımın oldukça sınırlı olduğunu ve modelin düşünce zincirinin hala okunabilir kalacağını belirterek endişeleri yatıştırmaya çalışıyor. Baş bilim insanı Jakub Pachocki, düşünce zinciri izleme sistemlerinin OpenAI’ın temel araştırma programının bir parçası olduğunu vurgulasa da, sektörün geri kalanı bu "gizli" akıl yürütme yöntemlerinin ölçeklenmesi durumunda neler yaşanabileceğini tartışıyor.
Google DeepMind ve Anthropic gibi devlerin de bu tekniği yakından takip ettiği belirtiliyor. Sizce yapay zekanın "nasıl düşündüğünü" tam olarak göremeyeceğimiz bir geleceğe mi giriyoruz, yoksa bu sadece teknolojinin evrimsel bir zorunluluğu mu?
Henüz yorum yapılmamış. İlk yorumu siz yapın!