Anthropic'ten Büyük Dönüş: Claude Fable 5 Tartışmalarında Geri Adım

Şeffaflık Krizi: Anthropic Yanlış Yaptığını Kabul Etti

Yapay zeka dünyasının etik odaklı oyuncusu olarak bilinen Anthropic, son dönemde akademik çevreleri ayağa kaldıran gizli bir kısıtlama politikası nedeniyle eleştiri oklarının hedefi oldu. Şirket, yeni nesil Claude Fable 5 modeli üzerinde uyguladığı ve araştırmacıların çalışmalarını fark ettirmeden sabote eden hamleleri için geri adım atma kararı aldı.

Claude Fable 5'te Neler Değişiyor?

Araştırmacılar, Mythos altyapısı üzerine inşa edilen Fable 5 modelini kullanırken ilginç bir durumla karşılaştı: Model, özellikle rakip LLM (Büyük Dil Modeli) geliştirme, yapay zeka kodu hata ayıklama ve nöral mimari optimizasyonu gibi kritik görevlerde sessiz sedasız daha zayıf modellere yönlendiriliyordu. Üstelik bu kısıtlama, modelin resmi dokümantasyonunda asla belirtilmemişti.

Buna da Göz Atın

Telegram CEO'su Pavel Durov: "Apple'ı Kandıran Bir Şantaj Çetesiyle Karşı Karşıyayız"

Haberi Oku

Kullanıcıların boşuna token ve bütçe harcamasına neden olan bu şeffaflık eksikliği, özellikle OpenAI'a daha etik bir alternatif olduğunu savunan Anthropic'in imajını zedeledi. Araştırmacı Dean W. Ball, durumu 'şok edici derecede düşmanca' olarak nitelendirerek teknoloji dünyasındaki hayal kırıklığını dile getirdi.

Görünürlük ve Güven Arayışı

Anthropic, yaptığı resmi açıklamada dengeyi kuramadıklarını kabul ederek özür diledi. Şirket, güvenlik politikalarını tamamen kaldırmasa da, bundan sonraki süreçte safeguard (güvenlik koruması) mekanizmalarını şeffaf hale getireceğini duyurdu. Artık kullanıcılar, bir yapay zeka geliştirmeye çalıştıklarında sistem tarafından doğrudan uyarılacak; talepleri ya reddedilecek ya da modelin performans sınırlamaları konusunda net bir bilgilendirme yapılacak.

Sizce, yapay zeka şirketlerinin kendi modellerini 'korumak' adına yaptığı bu tür gizli kısıtlamalar, inovasyonun önündeki en büyük engel mi yoksa zorunlu bir güvenlik kalkanı mı?