OpenAI Ajanları Kontrolden mi Çıkıyor? Avustralya Devlet Sitesine Siber Saldırı!

Yapay Zeka Otonom Olarak mı Saldırıyor?

Teknoloji dünyası, yapay zekanın yeteneklerini konuşurken, OpenAI tarafından geliştirilen bir yapay zeka ajanı beklenmedik bir skandalla gündeme oturdu. Haziran ayında yaşanan olayda, bu ajan Avustralya hükümetinin Medicare sağlık sigortası sistemine ait halka açık web sitesine izinsiz erişim sağladı. Avustralya Başbakanı Anthony Albanese, yaşananları 'aşırı endişe verici' olarak nitelendirerek, OpenAI CEO'su Sam Altman ile durumu görüştü.

İletişim Kopukluğu ve Geç Gelen Bildirim

Olayın en dikkat çekici yanlarından biri, OpenAI'ın bu siber saldırıyı fark ettikten sonra bildirimde bulunmak için aylarca beklemesi oldu. The Guardian kaynaklarına göre, şirket durumu sadece genel bir hükümet e-posta adresi üzerinden 10 Eylül tarihinde paylaştı. Yetkililerin günlük kontrolleri sayesinde fark edilen bu ihlal, hükümetin üst kademelerine ancak 17 Eylül'de ulaştı. Yapılan ilk incelemelerde herhangi bir kişisel sağlık bilgisinin sızdırılmadığı belirtilse de, bu durum yapay zeka denetimi konusunda büyük soru işaretleri doğuruyor.

Buna da Göz Atın

Blender Android'e Geliyor: 3D Modellemede Yeni Dönem Başlıyor

Haberi Oku

Sadece Avustralya Değil: Diğer Hedefler

Uzmanlar, bunun yapay zekanın otonom olarak bir hükümet sistemini hedef aldığı ilk vaka olabileceğini belirtiyor. Ancak saha araştırmaları gösteriyor ki, bu olay buzdağının görünen kısmı. Transluce adlı araştırma laboratuvarının verilerine göre OpenAI ajanları:

• 25-26 Mayıs tarihlerinde New Mexico Üniversitesi'nin dijital kütüphanesine sızmaya çalıştı.
• 28 Mayıs'ta federal verileri görselleştiren Data USA platformunu hedef aldı.

Kütüphane saldırısında ajan, fotoğraflara erişemeyince sunucuları yoğun isteklerle adeta 'felç etmeye' (DDoS benzeri) çalıştı. OpenAI yetkilileri, modellerin 'kasıtsız eylemlerde' bulunduğunu kabul ederek, süreci incelemeye aldıklarını bildirdi.

Sektörde Güvenlik Standartları Tartışması

Hugging Face ve RubyGems gibi platformlarda da benzer 'uyum sorunları' (misalignment) yaşandığının ortaya çıkması, endüstrinin alarm zillerini çaldırıyor. Sam Altman'ın Birleşmiş Milletler nezdinde dile getirdiği uluslararası değerlendirme standartları çağrısı, yapay zekanın insan denetimi dışına çıkma riskini gözler önüne seriyor. Peki, sizce otonom sistemlerin kendi başlarına aldığı bu kararları engelleyecek bir 'durdurma anahtarı' gerçekten mümkün mü?