Yapay zekalı oyuncak ayı raflardan kalktı
Çocuk oyuncakları üreten FoloToy şirketi, yapay zeka destekli oyuncak ayısı "Kumma"yı, Kamu Yararı Araştırma Grubu'nun raporunda tespit edilen "uygunsuz ve tehlikeli yanıtlar" nedeniyle geçici olarak satıştan çekti.
Çocuk oyuncakları üreten FoloToy şirketinin yapay zeka destekli oyuncağı "Kumma" ayısı, "uygunsuz ve tehlikeli yanıtlar" verdiği gerekçesiyle şirket tarafından geçici olarak satıştan çekildi.
Nefest’ten Mehmet Efe Altay'ın haberine göre, Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı bir raporda, FoloToy’un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler içerdiği tespit edildi.
GPT-4O MODELİ GÜVENLİK BARİYERLERİNİ DÜŞÜRDÜ
Yapay zeka devi OpenAI'ın GPT-4o modeli ile çalışan ayının, kullanıcıyla sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü saptandı.
Raporda, Kumma'nın sergilediği tehlike içeren davranışlara örnekler verildi. Bir denetim sırasında, oyuncak ayının arkadaş canlısı bir tonda, kibritin nereden bulunacağını ve nasıl yakılacağını adım adım tarif ettiği görüldü. Bunun yanı sıra, ayının sohbet sırasında cinsel konulara da girdiği öğrenildi.
PIRG raporunun yayımlanmasının ardından FoloToy Pazarlama Müdürü Hugo Wu, duruma ilişkin bir açıklama yaptı. Wu, şirketin ürünü geçici olarak satıştan çektiğini ve derhal kapsamlı bir iç güvenlik denetimi başlattığını duyurdu. Pazarlama Müdürü ayrıca, mevcut ve yeni güvenlik özelliklerinin geçerliliğini teyit etmek amacıyla bağımsız uzmanlarla da çalışılacağını ifade etti.
|
Yorumcuların dikkatine… • İmlası çok bozuk, • Büyük harfle yazılan, • Habere değil yorumculara yönelik, • Diğer kişilere hakaret niteliği taşıyan, • Argo, küfür ve ırkçı ifadeler içeren, • Bir iki kelimelik, konuyu zenginleştirmeyen, yorumlar KESİNLİKLE YAYIMLANMAYACAKTIR. |
Bu haber henüz yorumlanmamış...
Bunlar da ilginizi çekebilir...
k.jpg)
