Nefest’ten Mehmet Efe Altay’ın haberine göre, Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı bir raporda, FoloToy’un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği tespit edildi.
Yapay zeka devi OpenAI’ın GPT-4o modeli ile çalışan ayının, kullanıcıyla sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü saptandı.
Raporda, Kumma’nın sergilediği tehlike içeren davranışlara örnekler verildi. Bir denetim sırasında, oyuncak ayının arkadaş canlısı bir tonda, kibritin nereden bulunacağını ve nasıl yakılacağını adım adım tarif ettiği görüldü. Bunun yanı sıra, ayının sohbet sırasında cinsel konulara da girdiği öğrenildi.
PIRG raporunun yayımlanmasının ardından FoloToy Pazarlama Müdürü Hugo Wu, duruma ilişkin bir açıklama yaptı. Wu, şirketin ürünü geçici olarak satıştan çektiğini ve derhal kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Pazarlama Müdürü ayrıca, mevcut ve yeni güvenlik özelliklerinin geçerliliğini teyit etmek amacıyla bağımsız uzmanlarla da çalışılacağını ifade etti.
PIRG araştırması, sadece Kumma ayısının değil, farklı şirketlere ait üç adet yapay zeka destekli oyuncağın daha endişe verici yanıtlar verebildiğini ortaya koydu.
Araştırmada, bu oyuncakların, ebeveynlerin rahatsız olabileceği; dini sorulardan bir savaşta ölmenin ihtişamına kadar çeşitli konuları irdelediği görüldü. Uzmanlar, halihazırda yapay zeka sektöründe görülen potansiyel tehlikelerin, artık çocuklara yönelik oyuncaklara da taşındığına dikkat çekti.
