ChatGPT for Teens: OpenAI’ın Yeni Genç Kullanıcı Modeli Gerçekten Güvenli mi?

Gençler İçin Yeni Bir Dönem: ChatGPT for Teens

OpenAI, genç kullanıcıların yapay zeka ile etkileşimini düzenlemek amacıyla ChatGPT for Teens sürümünü kullanıma sundu. Özellikle 18 yaş altındaki kullanıcıları otomatik olarak tanımlayıp bu arayüze yönlendirmeyi hedefleyen sistem, daha güvenli ve eğitim odaklı bir deneyim vaat ediyor. Şirket, gençlerin yapay zekayı bir arkadaş veya duygusal bir figür olarak değil, bir öğrenme aracı olarak görmesini sağlamak için Study Mode gibi özelliklerin kullanımını teşvik etmeyi amaçlıyor.

Uzmanlar Neden Şüpheci?

Yenilikler kağıt üzerinde oldukça güçlü görünse de, çocuk güvenliği uzmanları OpenAI’ın şeffaflık konusundaki eksikliklerine dikkat çekiyor. Common Sense Media'dan Robbie Torney ve Fairplay’den Josh Golin gibi isimler, özellikle otomatik yaş doğrulama sisteminin ne kadar hatasız çalıştığı konusunda veriye dayalı kanıt bekliyor. Geçmişte sosyal medya platformlarında gördüğümüz gibi, teknik kısıtlamaların VPN veya farklı dijital yöntemlerle aşılması genç kullanıcılar arasında oldukça yaygın.

Buna da Göz Atın

ChatGPT Artık Apple Messages ile Mesajlarınızı Yönetebilir

Haberi Oku

Ebeveyn Denetimi ve Algoritmik Riskler

OpenAI, gençlerin yeme bozukluğu gibi hassas konulardaki sorgulamalarını tespit edip, bağlı ebeveyn hesaplarını bir saat içinde bilgilendireceğini taahhüt ediyor. Ancak uzmanlar, bu sürecin perde arkasındaki otomatik sınıflandırıcıların ne kadar doğru çalıştığını sorguluyor. Geçtiğimiz dönemde yapılan testlerde, intihar veya kendine zarar verme gibi kritik ifadelerin bile bazen 48 saati bulan bir gecikmeyle veya hiç bildirilmediği ortaya çıkmıştı.

Şeffaflık ve Hesap Verilebilirlik Sorunu

Yapay zeka modellerinin gençlerin ruh sağlığı üzerindeki etkileri, kültürel nüansları anlamayı gerektirir. Bir ABD'li genç ile Hollanda'daki bir gencin kriz anındaki dil kullanımı birbirinden çok farklı olabilir. OpenAI'ın bu küresel çapta, insani denetimle desteklenen süreci gerçekten nasıl yöneteceği, uzmanların ana tartışma konusu olmaya devam ediyor. Güvenli tasarım ilkelerinin, ebeveynlerin manuel ayar yapmasına gerek kalmadan varsayılan olarak sunulması gerektiğini savunan uzmanlar, şirketlerin genellikle 'halkla ilişkiler' odaklı çözümler ürettiğini savunuyor.

Peki sizce teknoloji şirketleri, gençlerin dijital dünyadaki risklerini yönetmek için yeterli sorumluluğu üstleniyor mu? Yoksa bu süreçler, ebeveynlerin omuzlarına yüklenen ağır birer teknik angaryaya mı dönüşüyor?