Meta'nın Deepfake Sınavı: Oversight Board'dan Sert Uyarı ve Yeni Politikalar

Meta, Deepfake İçeriklerde Sınıfta mı Kaldı?

Teknoloji dünyasının dev ismi Meta, yapay zeka destekli içerik politikaları nedeniyle bir kez daha Oversight Board (Gözetim Kurulu) tarafından mercek altına alındı. Kurul, Meta'nın mevcut sisteminin yalnızca ünlü isimleri koruduğunu, sıradan kullanıcıların ise cinsel içerikli deepfake saldırıları karşısında tamamen savunmasız bırakıldığını vurguluyor.

AI Destekli İhlaller İçin Kritik Öneriler

Oversight Board, Meta'nın Adult Sexual Exploitation (Yetişkin Cinsel İstismarı) politikasının güncellenmesi gerektiğini savunuyor. Kurulun önerileri şu şekilde özetleniyor:

Buna da Göz Atın

Claude Reflect ile Dijital Dengenizi Kurun: Yapay Zeka Kullanımınızı Nasıl Yönetirsiniz?

Haberi Oku

• Rıza İlkesi: Yapay zeka ile oluşturulan cinsel içerikli görüntülerin varsayılan olarak 'rızasız' kabul edilmesi.
• Güvenilir Hesaplar: Kullanıcıların, haklarındaki ihlalleri bildirmeleri için 'bağlantılı hesaplar' (güvenilir arkadaş veya aile üyeleri) belirleyebilmesi.
• Bildirim Kategorisi: Yapay zeka kaynaklı cinsel içeriklerin, genel taciz ve çıplaklık kategorilerinden ayrıştırılarak raporlama formlarında özel bir başlık haline getirilmesi.

Şu an için yalnızca Texas ve Florida eyaletlerinde sınırlı olan bu özel raporlama erişiminin, tüm dünya kullanıcılarına açılması talep ediliyor. Zira kurul, yapay zeka destekli rızasız cinsel istismarın küresel ölçekte bir tehdit olduğunun altını çiziyor.

Vaka Analizi: Instagram'daki İhmal

Süreci tetikleyen olay, bir kullanıcının arkadaşına ait yapay zeka ile üretilmiş cinsel içerikli bir videoyu bildirmesine rağmen Meta'nın hiçbir aksiyon almamasıyla başladı. Şirket, içeriği sadece 'yetişkinlere özel' olarak işaretleyip yayında tutmayı tercih etmişti. Ancak Oversight Board, bu kararı bozarak videonun derhal kaldırılmasına hükmetti.

Meta, söz konusu kişinin kendi adına bildirim yapmadığı sürece ihlal oluşmadığını savunsa da, kurul bu yaklaşımın gerçekçi olmadığını belirtiyor. Özellikle kadınları ve genç kızları hedef alan bu dijital saldırıların, psikolojik ve toplumsal yaşam üzerinde yarattığı tahribatın boyutları oldukça endişe verici. Peki sizce Meta, yapay zeka tarafından üretilen içerikleri denetlemede ne kadar şeffaf bir yol izlemeli?