Yapay zeka dünyasının öncü şirketi OpenAI, popüler sohbet botu ChatGPT için planladığı “yetişkin modu” üzerinde çalışmaya devam ediyor. Wall Street Journal tarafından paylaşılan yeni raporlara göre bu özellik, görsel pornografi yerine sadece metin tabanlı erotik sohbetler sunmaya odaklanacak.
Şirket sözcüsünün açıklamalarına göre, yeni sistemde görsel, sesli veya video üretimi kesinlikle desteklenmeyecek. Kullanıcılar yalnızca yetişkin temalı metin tabanlı sohbetler (erotica/smut) gerçekleştirebilecek. Şirket CEO’su Sam Altman, ekim ayında yaptığı açıklamada güvenlik kısıtlamalarını gevşeterek onaylanmış yetişkinler için bu tarz bir sistem getireceklerini duyurmuştu. Ancak bu çeyrekte çıkması beklenen özellik, yüksek öncelikli diğer görevler ve çeşitli güvenlik endişeleri sebebiyle kısa süre önce ileri bir tarihe ertelendi.
Bu ertelemenin temelinde çocukları korumaya yönelik ciddi teknik ve etik zorluklar yatıyor. Şirketin seçilmiş danışma kurulu, bu modun çocukların erişimine açık olabileceği ve sohbet botuna karşı sağlıksız bir duygusal bağımlılık yaratabileceği konusunda uyarıda bulunuyor. Hatta bir kurul üyesi, bu sistemin “seksi bir intihar koçu” yaratma riski taşıdığını belirterek durumun ciddiyetine dikkat çekiyor.
Bununla birlikte, sistemi reşit olmayanlardan uzak tutmak için geliştirilen yaş tahmin algoritmasının testlerde çocukları yüzde 12 oranında yetişkin olarak yanlış sınıflandırdığı ortaya çıktı. ChatGPT’yi her hafta 18 yaş altı yaklaşık 100 milyon kişinin kullandığı düşünüldüğünde, bu hata payı milyonlarca çocuğun cinsel içerikli sohbetlere tehlikeli bir şekilde erişmesine yol açabilir.
Geliştirici ekip, bir yandan yetişkin içerik (NSFW) kısıtlamalarını esnetmeye çalışırken diğer yandan çocuk istismarı ve rıza dışı senaryoları engellemek için yoğun çaba sarf ediyor. Sistemin sadece metin tabanlı kalması, markanın İngiltere’nin Çevrimiçi Güvenlik Yasası gibi katı kuralları (görsel pornografide yaş doğrulaması şartı arayan ancak yazılı metinleri muaf tutan yasalar) daha kolay aşmasını sağlıyor. Öte yandan Elon Musk’ın xAI şirketi, Grok yapay zekası ile “R-rated” derecelendirmesine giren görsel ve video üretimlerine açıkça izin vererek tamamen farklı ve agresif bir strateji izliyor.
Peki, ChatGPT’nin yeni yetişkin modu hakkındaki sizin görüşleriniz neler? Düşüncelerinizi yorumlarda bizimle paylaşın!
