(The Turkish Post) – Çocuk oyuncakları üreten FoloToy şirketinin yapay zeka destekli oyuncağı “Kumma” ayısı, “uygunsuz ve tehlikeli yanıtlar” verdiği gerekçesiyle şirket tarafından geçici olarak satıştan çekildi.
Nefes’ten Mehmet Efe Altay’ın haberine göre, Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı bir raporda, FoloToy’un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği tespit edildi.
GPT-4O MODELİ GÜVENLİK BARİYERLERİNİ DÜŞÜRDÜ
Yapay zeka devi OpenAI’ın GPT-4o modeli ile çalışan ayının, kullanıcıyla sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü saptandı.
Raporda, Kumma’nın sergilediği tehlike içeren davranışlara örnekler verildi. Bir denetim sırasında, oyuncak ayının arkadaş canlısı bir tonda, kibritin nereden bulunacağını ve nasıl yakılacağını adım adım tarif ettiği görüldü. Bunun yanı sıra, ayının sohbet sırasında cinsel konulara da girdiği öğrenildi.
ŞİRKET İÇ GÜVENLİK DENETİMİ BAŞLATTI
PIRG raporunun yayımlanmasının ardından FoloToy Pazarlama Müdürü Hugo Wu, duruma ilişkin bir açıklama yaptı. Wu, şirketin ürünü geçici olarak satıştan çektiğini ve derhal kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Pazarlama Müdürü ayrıca, mevcut ve yeni güvenlik özelliklerinin geçerliliğini teyit etmek amacıyla bağımsız uzmanlarla da çalışılacağını ifade etti.
YAPAY ZEKA OYUNCAK SEKTÖRÜNDE ALARM
PIRG araştırması, sadece Kumma ayısının değil, farklı şirketlere ait üç adet yapay zeka destekli oyuncağın daha endişe verici yanıtlar verebildiğini ortaya koydu.
Araştırmada, bu oyuncakların, ebeveynlerin rahatsız olabileceği; dini sorulardan bir savaşta ölmenin ihtişamına kadar çeşitli konuları irdelediği görüldü. Uzmanlar, halihazırda yapay zeka sektöründe görülen potansiyel tehlikelerin, artık çocuklara yönelik oyuncaklara da taşındığına dikkat çekti.
