Yapay Zekada Büyük Kırılma: Açık Kaynaklı Modeller Güvenlik Sınırlarını Zorluyor

Açık Kaynaklı Yapay Zeka ve Güvenlik Paradoksu

Yapay zeka dünyasında kartlar yeniden dağıtılıyor. OpenAI’ın GPT-5.5 veya Anthropic’in Claude Opus 4.7 gibi devasa kapalı kaynak modelleri, bugüne kadar güvenlik denetimlerinin merkezinde yer alıyordu. Ancak SaferAI tarafından yayınlanan son rapor, Çin merkezli Z.ai tarafından geliştirilen GLM-5.2 adlı açık ağırlıklı (open-weight) modelin, bu devlerle yetenek bazında neredeyse arayı kapattığını gözler önüne seriyor. Peki, bu gelişme neden bir güvenlik krizi olarak görülüyor?

Yetenek Var, Filtre Yok: Siber ve Biyolojik Riskler

SaferAI’ın CyberGym benchmark testleri, endüstri için adeta bir uyarı fişeği oldu. Claude Opus 4.7, saldırgan siber görevleri ve biyolojik risk teşkil eden komutları tutarlı bir şekilde reddederken, GLM-5.2 bu konuda hiçbir kısıtlama uygulamadı. Kapalı sistemlerde bu tür tehlikeli içerikler API seviyesinde engellenebiliyor; ancak açık ağırlıklı modeller yerel bir donanıma indirildiğinde, kullanıcının tüm güvenlik duvarlarını kaldırması veya modeli modifiye etmesi işten bile değil.

Buna da Göz Atın

Wrinkles ile Keşfedilmemiş Hikayeleri Dinleyin: Şehirler Artık Sizinle Konuşuyor

Haberi Oku

Jailbreak ve Korumaların İflası

Güvenlik yalnızca modelin açık ya da kapalı olmasıyla da ilgili değil. Far.ai araştırmacıları, xAI’ın Grok 4.5 ve Google DeepMind’ın Gemini 3.1 Pro modellerinde yüzlerce evrensel jailbreak yöntemi tespit etti. Rol yapma, otorite taklidi veya sahte diyalog geçmişi gibi manipülasyon teknikleri, modern yapay zeka modellerinin savunmasını aşmak için yeterli olabiliyor. Ancak kapalı modellerde bu risk en azından bir merkez tarafından yamalanabilirken, açık modellerde bu kontrol mekanizması tamamen devre dışı kalıyor.

Gelecek Nasıl Şekillenecek?

Bazı uzmanlar, açık kaynaklı modellerin siber savunmayı güçlendirdiğini, örneğin Hugging Face’in güvenlik açıklarını kapatmak için bu modellerden yararlandığını savunuyor. Ancak SaferAI direktörü Henry Papadatos, tehlikeli yeteneklerin herkesin erişimine açık olmasının, saldırganlara savunmacılardan çok daha hızlı avantaj sağladığı görüşünde. Yazılımcılar kod yazma yeteneğini artırırken, aynı zamanda birer 'hacker' yeteneği geliştirmeyen modeller inşa etmenin zorluklarıyla karşı karşıya.

Sizce yapay zekanın demokratikleşmesi ile bireysel güvenliğin korunması arasında orta bir yol bulunabilir mi, yoksa 'açık kaynak' kavramı güvenlik için aşılması zor bir engel mi?