Yapay zekanın gençler üzerindeki etkilerine yönelik tartışmalar sürerken OpenAI, ChatGPT’ye “yaş tahmini” adı verilen yeni bir güvenlik özelliği eklediğini duyurdu. Bu özellik, platformdaki reşit olmayan kullanıcıları tespit ederek sohbet içeriklerine otomatik kısıtlamalar getirmeyi amaçlıyor. Şirket, bu adımın özellikle çocuk ve gençlerin zararlı içeriklerle karşılaşma riskini azaltmaya yönelik olduğunu vurguluyor.
Davranışsal sinyaller analiz edilecek
OpenAI tarafından paylaşılan bilgilere göre yeni yaş tahmini sistemi yapay zeka destekli bir algoritma ile çalışıyor. Bu algoritma, kullanıcı hesaplarını belirli davranışsal ve hesap düzeyindeki sinyaller üzerinden analiz ederek yaş tahmininde bulunuyor. Değerlendirilen unsurlar arasında kullanıcının beyan ettiği yaş, hesabın ne kadar süredir aktif olduğu ve günün hangi saatlerinde daha sık kullanıldığı gibi veriler yer alıyor.
ChatGPT’de halihazırda 18 yaş altındaki kullanıcılar için cinsellik, şiddet ve benzeri hassas konuları filtreleyen içerik kısıtlamaları bulunuyor. Yeni yaş tahmini mekanizması, bir hesabın reşit olmayan bir kullanıcıya ait olduğunu tespit ederse bu filtreleri otomatik olarak devreye alıyor. Böylece ek bir işlem gerekmeksizin sohbetlerin daha güvenli bir çerçevede yürütülmesi sağlanıyor.
Sistemin yanlışlıkla bir yetişkin kullanıcıyı reşit olmayan olarak sınıflandırması ihtimaline karşı da bir çözüm yolu bulunuyor. OpenAI, bu durumda kullanıcıların Persona adlı kimlik doğrulama iş ortağı üzerinden selfie göndererek yaşlarını doğrulayabileceklerini belirtiyor. Doğrulama süreci tamamlandığında, hesabın yeniden “yetişkin” statüsüne alınması mümkün oluyor.
Buna karşın, bu tür teknik önlemlerin ne ölçüde etkili olduğu da tartışma konusu olmaya devam ediyor. Uzmanlara göre dijital platformların yaş tahmini, içerik kısıtlaması veya erişim engelleri gibi yöntemlerle gençleri korumaya çalışması, sorumluluğun önemli bir kısmını ailelerin üzerinden alıyor. Çocuklarını koruma görevini başka bir platforma devretmek en ideal yol olarak görünmüyor.
Gerçek hayatta çok daha ciddi sonuçlar doğurabilecek risklerde – örneğin bir gencin ailesine ait bir aracı izinsiz kullanarak kazaya karışması veya reşit olmayan bir gencin bir silahla birisini vurması gibi durumlar- sistemler otomatik yaş tahmini yapmazken/yapamazken dijital dünyadaki kısıtlamaları çözüm olarak görmek sakıncalı olabilir.
