Şirket, yapay zekâ sohbetlerinin çocuklar üzerindeki psikolojik etkileriyle ilgili artan endişeler ve devam eden davalarla karşı karşıya. Bu davalardan biri, bir gencin intiharında platformun etkili olduğunu iddia eden bir annenin açtığı dava.

Character Technologies tarafından yapılan açıklamaya göre, 18 yaşın altındaki kullanıcılar 25 Kasım’dan itibaren platformdaki açık uçlu sohbetlere erişemeyecek. Ayrıca sistem, kullanıcılar için günde 2 saatlik bir kullanım sınırı getirecek.

Platform, kullanıcıların canlı ve insana benzer hissettiren karakterler oluşturmasına veya onlarla etkileşime girmesine imkân tanıyor. Sohbet botları, oyun oynamaktan sahte iş görüşmelerine kadar geniş bir yelpazede kullanılıyor.

Şirket, yaş sınırının uygulanabilmesi için yaş doğrulama sistemleri devreye sokacağını açıkladı. Ancak uzmanlara göre bu tür kontroller kusursuz değil. Çocukların çoğu bu sistemleri kolayca aşabiliyor; ayrıca yüz tarama teknolojileri 17 ile 18 yaş arasındaki farkı doğru tespit etmekte zorlanıyor. Bunun yanında, kimlik belgelerinin yüklenmesi talebi de gizlilik endişelerini beraberinde getiriyor.

Character.AI, ayrıca çocuklara yönelik daha güvenli yeni özellikler geliştirdiğini duyurdu. Bu özellikler arasında AI karakterlerle video, hikâye ve yayın oluşturma araçları ile bir yapay zekâ güvenlik laboratuvarı bulunuyor.

Tech Justice Law Project İcra Direktörü Meetali Jain, alınan kararın hâlâ birçok belirsizlik içerdiğini belirterek şunları söyledi:

“Character.AI henüz yaş doğrulamanın nasıl uygulanacağını, bu sürecin gizliliği nasıl koruyacağını veya genç kullanıcıların erişiminin bir anda kapatılmasının psikolojik etkilerini nasıl yöneteceğini açıklamadı.”

Jain, ayrıca platformun çocuklarda ve yetişkinlerde duygusal bağımlılık oluşturtabilen tasarım özelliklerini değiştirmediğini vurguladı.

Common Sense Media tarafından yapılan yakın tarihli bir araştırmaya göre, gençlerin  yüzde 70’inden fazlası yapay zekâ sohbet botlarını denemiş durumda ve yarısı bu araçları düzenli olarak kullanıyor. (İLKHA)