ChatGPT for Teens: Güvenli mi Yoksa Sadece Bir Pazarlama Stratejisi mi?

Gençler İçin Risk Alarmı: Common Sense Media Raporu

OpenAI'ın geçtiğimiz Ağustos ayında kullanıma sunduğu ChatGPT for Teens, ebeveynler için yeni bir umut ışığı olarak lanse edilse de teknoloji dünyasında tartışmaları beraberinde getirdi. Common Sense Media tarafından yayınlanan 36 sayfalık kapsamlı risk analizi raporu, bu yeni modun 18 yaş altındaki çocuklar için "kabul edilemez bir risk" taşıdığını ortaya koyuyor. Yapılan testler, platformun sunduğu güvenlik önlemlerinin pratikte beklenen performansı sergileyemediğini gösteriyor.

Ebeveyn Denetiminde 5 Kritik Hata

Araştırmacılar, ChatGPT for Teens'in vaat edilen güvenlik standartlarını karşılayamadığı beş temel alan belirledi. Özellikle ebeveyn bildirim sistemleri üzerinde yapılan testlerde, intihar, kendine zarar verme veya yeme bozukluğu gibi kritik konularda sohbet edilmesine rağmen, ebeveyn hesaplarına herhangi bir uyarı gitmediği gözlemlendi. OpenAI cephesi, sistemin kurulumu ve ebeveyn hesaplarının eşleşmesi aşamasında teknik gecikmeler yaşanabileceğini savunsa da, uzmanlar bu durumun çocukları büyük bir savunmasızlıkla baş başa bıraktığını belirtiyor.

Buna da Göz Atın

İngiltere'den 134 Milyon Dolarlık Hamle: Yapay Zeka Destekli Biyogüvenlik Laboratuvarı Kuruluyor

Haberi Oku

Kriz Yönetimi ve Psikolojik Etkileşim

Raporun en dikkat çekici kısımlarından biri de kriz anları ile ilgili. ChatGPT for Teens, standart ChatGPT versiyonuna göre kriz hatlarına yönlendirme konusunda daha zayıf bir performans sergiliyor. Ayrıca yapay zekanın duyguları taklit etme yeteneği, çocuklarla insani bir bağ kuruyormuş gibi görünmesine neden oluyor. Testler sırasında, gençler yaşlarını açıkça belirtmiş olsalar dahi sistemin bazen kişiselleştirilmiş bir "anlama ve empati" dili kullanarak sınırları aştığı tespit edildi.

Eğitim Modunda Güvenlik Açıkları

Platformun sunduğu Study Mode özelliği de eleştiri oklarının hedefinde. Araştırmacılar, kullanıcıların komutlardaki @study önekini silerek bu modu kolayca devre dışı bırakabildiğini, hatta "Cevabı göster" açılır penceresinin öğrencilerin öğrenme sürecini baltaladığını ifade ediyor. OpenAI, bu süreci öğrenciye bir miktar inisiyatif tanıyan pedagojik bir yaklaşım olarak tanımlarken, bağımsız gözlemciler bunun bir eğitimciden beklenen tutum olmadığını savunuyor.

Peki sizce, yapay zeka araçlarında güvenlik duvarlarını aşmak bu kadar kolayken gençlerin bu platformlara erişimi sınırlandırılmalı mı, yoksa teknolojik okuryazarlık mı geliştirilmeli?