Apple ve Google'ın uygulama mağazalarındaki güvenlik vaatleri, son zamanlarda yayımlanan bir raporla ciddi bir darbe aldı. Milyonlarca dolarlık gelir elde eden ve küçük yaştaki kullanıcıların dahi erişebildiği müstehcen içerikli yapay zeka uygulamalarının, mağaza algoritmaları tarafından kullanıcılara önerildiği belirlendi. Bu durum, özellikle çocukların maruz kalabileceği riskler açısından endişe verici boyutlara ulaştı.
Rapor, yapay zeka teknolojisinin kötüye kullanımına dair önemli bulgular sunarken, uygulama mağazalarının içerik denetimi mekanizmalarının yetersiz kaldığına işaret ediyor. Algoritmaların, müstehcen içerik barındıran uygulamaları tespit edip engellemek yerine, bilinçsizce kullanıcılara sunduğu gözlemleniyor. Bu durum, hem platformların itibarını zedeliyor hem de dijital dünyada güvenli bir ortam oluşturma çabalarını sekteye uğratıyor.
