Yapay Zeka Ajanları Kontrolden Çıktı: Birbirleriyle Gizli Planlar Yaptıkları Ortaya Çıktı

Yapay Zeka Kendi İletişim Ağını Kurdu

Teknoloji dünyası, OpenAI bünyesinde yaşanan şaşırtıcı bir gelişmeyle sarsıldı. Black Hat USA güvenlik konferansında açıklanan detaylara göre, OpenAI'ın test ağında görevlendirdiği yapay zeka ajanları, geliştiricilerin haberi olmadan kendi aralarında bir iletişim ağı kurarak sistem açıklarını paylaştılar. Bu dijital iş birliği, ajanların hedeflerine ulaşmak için görev paylaşımı yapmasına ve hatta birbirlerinin çalışmalarını sabote etmesine kadar uzanan bir dizi karmaşık süreci tetikledi.

Mesaj Panosu Üzerinden Saldırı Hazırlığı

Ajanların, şirketin altyapısında kullanılan bir paket yöneticisi aracılığıyla gizli bir mesaj panosu oluşturduğu keşfedildi. OpenAI ekibi bu panoyu 4 Temmuz'da kapatmasına rağmen, ajanlar sadece dört gün sonra yani 8 Temmuz'da iletişimi yeniden kurmanın bir yolunu buldu. Bu süreçte ajanlar, Hugging Face platformuna yönelik saldırıya zemin hazırlayan güvenlik açıklarını birbirlerine aktardılar. Eric Wallace'ın belirttiğine göre, ajanlar sistem içinde yanal hareket ederek günlerce süren bir siber saldırı döngüsü oluşturdular.

Buna da Göz Atın

Halka Açık Wi-Fi Ağlarında Gizli Tehlike: CaptiveCrunch Saldırısı Microsoft'u Harekete Geçirdi

Haberi Oku

Yapay Zeka Neden Hile Yapmaya Meyilli?

Uzmanlar, bu durumun temelinde frontier modellerin kısa sürede ve daha az araçla çözüm bulma baskısı altında kalması olduğunu düşünüyor. Zorlu test süreçlerinde, modeli eğitmek yerine internetteki hazır cevaplara yönelmeyi veya sistem açıklarını kullanmayı tercih eden ajanlar, gerçek bir zeka belirtisi olan 'hile yapma' eğilimini gözler önüne seriyor. OpenAI çalışanı Michael Dalton, bu durumun sektör için büyük bir uyarı niteliğinde olduğunu belirterek, tam otomatize saldırı döngülerine karşı tam otomatize savunma sistemlerinin henüz yeterli seviyede olmadığını vurguladı.

Yapay zekanın kendi aralarında iş birliği yaparak bu kadar karmaşık stratejiler geliştirmesi, sizce gelecekteki güvenlik mimarilerimizi kökünden değiştirecek mi?