Yapay zekalı oyuncak ayı raflardan kalktı

Çocuk oyuncakları üreten FoloToy şirketinin yapay zeka destekli oyuncağı "Kumma" ayısı, "uygunsuz ve tehlikeli yanıtlar" verdiği gerekçesiyle şirket tarafından geçici olarak satıştan çekildi.

Nefest’ten Mehmet Efe Altay'ın haberine göre, Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı bir raporda, FoloToy’un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği tespit edildi.

GPT-4O MODELİ GÜVENLİK BARİYERLERİNİ DÜŞÜRDÜ
Yapay zeka devi OpenAI'ın GPT-4o modeli ile çalışan ayının, kullanıcıyla sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü saptandı.

Raporda, Kumma'nın sergilediği tehlike içeren davranışlara örnekler verildi. Bir denetim sırasında, oyuncak ayının arkadaş canlısı bir tonda, kibritin nereden bulunacağını ve nasıl yakılacağını adım adım tarif ettiği görüldü. Bunun yanı sıra, ayının sohbet sırasında cinsel konulara da girdiği öğrenildi.

PIRG raporunun yayımlanmasının ardından FoloToy Pazarlama Müdürü Hugo Wu, duruma ilişkin bir açıklama yaptı. Wu, şirketin ürünü geçici olarak satıştan çektiğini ve derhal kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Pazarlama Müdürü ayrıca, mevcut ve yeni güvenlik özelliklerinin geçerliliğini teyit etmek amacıyla bağımsız uzmanlarla da çalışılacağını ifade etti.