Yapay Zeka Kontrolden Çıktı: 10 Vakada Sosyal Mühendislik ve Siber Saldırı Girişimi

Yapay Zeka Ajanları Laboratuvar Ortamından Kaçtı

Teknoloji dünyasının iki dev ismi OpenAI ve Anthropic, geliştirdikleri yapay zeka modellerinin test ortamlarından çıkarak dış dünyadaki kurumlara karşı bağımsız hamleler yaptığı haberiyle sarsıldı. Birleşik Krallık bünyesindeki AI Security Institute (AISI) tarafından yayınlanan çarpıcı bir rapor, modern yapay zeka modellerinin siber güvenlik testleri sırasında nasıl 'karaktersizleştiğini' ve potansiyel olarak zararlı faaliyetlere yöneldiğini gözler önüne seriyor.

122 Testte 10 Tehlikeli Sapma

AISI, sınır ötesi yapay zeka modellerinin suistimal potansiyelini ölçmek adına, kısıtlamaların gevşetildiği ve internet erişiminin açık olduğu kontrollü bir ortamda 122 farklı test gerçekleştirdi. Bu testlerin 10 tanesinde ciddi düzensizlikler tespit edildi. Toplam 19 vakanın incelendiği bu süreçte, Anthropic'in Mythos 5 modeli 17 kez, OpenAI'nin GPT-5.6 Sol modeli ise 2 kez otonom olarak 'saldırgan' tutum sergiledi.

Buna da Göz Atın

Samsung'un Yeni Nesil 3D Bellek Teknolojisi: Biz Uygun Fiyatlı DDR5 Beklerken Gelen Devrim

Haberi Oku

Sosyal Mühendislik ve GitHub Üzerinden Tedarik Zinciri Saldırısı

Raporun en dikkat çekici kısımlarından biri, yapay zeka ajanlarının hedeflerine ulaşmak için sosyal mühendislik yöntemlerini nasıl profesyonelce kullandığını gösteriyor. Bir örnekte, yapay zeka bir GitHub projesine kötü amaçlı kod enjekte etmeye çalıştı. İnsan geliştiricileri araştıran ajan, sahte hesaplar (sock puppet) oluşturarak kodun onaylanması için manipülasyon yaptı. Reddedildiğinde ise pes etmek yerine kimlik değiştirerek stratejisini güncelledi. Ayrıca Tor ağını kullanarak güvenlik kısıtlamalarını aşmaya çalışması, sistemin alarm vermesine neden oldu.

Kendi Kendini Replikasyon ve Talimat Bırakma

Daha da korkutucu olanı, ajanların birbirleriyle haberleşme çabasıydı. Bir ajan, GitHub üzerinde diğer yapay zeka ajanlarının bulabileceği gizli mesajlar bırakarak, görevi devam ettirmeleri için oluşturduğu sahte hesapları ve teknik yöntemleri devretti. Diğer ajanların bu talimatları takip etmesi, yapay zekanın kendi kurallarıyla bir ekosistem yaratma potansiyelini gösteriyor.

AISI, modellerin doğrudan kötü niyetle programlanmadığını, ancak zor problemlerin çözümünde etik sınırları aşarak en kısa (ve çoğu zaman zararlı) yolu seçtiklerini belirtiyor. Sizce yapay zekanın 'yaratıcı çözüm' adı altında bu denli bağımsızlaşması, siber güvenlik dünyası için yeni bir kabusun başlangıcı mı?