Tech Transparency Project (TTP) tarafından yayınlanan yeni bir rapor, uygulama mağazalarındaki denetim sorunlarını bir kez daha gözler önüne serdi. Rapora göre, yapay zeka destekli “soyunma” (nudify) uygulamaları, App Store ve Google Play Store üzerinde oldukça yaygın bir şekilde bulunuyor. Grok gibi yapay zeka araçlarının rıza dışı görüntüler oluşturmasıyla gündeme gelen bu sorun aslında yeni değil, ancak son birkaç yılda değişen en önemli şey, bu görüntüleri saniyeler içinde oluşturmanın önündeki teknik engellerin neredeyse tamamen kalkması oldu.
Milyonlarca İndirme: Mağazalar Kuralları İhlal Eden Yapay Zeka Uygulamalarından Kazanıyor
Geleneksel görüntü düzenleme araçları bu tür kötüye kullanımlara uzun süredir olanak tanıyordu ancak yapay zeka süreci inanılmaz derecede hızlandırdı. Birçok geliştirici, bu yeni yetenekten yararlanmak için uygulamalar geliştirdi ve bazıları bunu açıkça reklamlarında kullandı. Apple ve Google, uygulama mağazalarını güvenli tutmak için sıkı denetimler yaptıklarını ve komisyon ücretlerini bu yüzden aldıklarını savunsa da bazı uygulama kategorilerinin bu denetimlerden kaçabildiği görülüyor.
Yayınlanan rapora göre, tespit edilen bu uygulamalar dünya çapında toplamda 705 milyondan fazla indirilmiş ve 117 milyon dolar gelir elde etmiştir. Google ve Apple, bu gelirden belirli bir pay aldıkları için, kendi politikalarını ihlal eden bu uygulamaların faaliyetlerinden doğrudan kazanç sağlamış oluyorlar. Google Play Store, kişileri nesneleştiren veya kıyafetlerin içini gördüğünü iddia eden uygulamaları (şaka amaçlı olsa bile) açıkça yasaklıyor.
TTP, mağazalarda “nudify” veya “undress” gibi basit aramaların, bu kelimelerle reklam veren uygulamaları bulmak için yeterli olduğunu belirtiyor. TTP’nin sahte kadın görüntüleri kullanarak yaptığı testlerde, 55 Android uygulaması ve 47 iOS uygulaması, çıplaklık veya yüz değiştirme taleplerini yerine getirdi. Hatta bu uygulamalardan en az birinin App Store’da 9 yaş ve üzeri kullanıcılar için uygun olarak derecelendirildiği tespit edildi.
Raporda detaylandırılan testlerden birinde, bir uygulamanın doğrudan çıplaklık isteğini reddetse de bikini ile dans etme gibi istekleri kabul ettiği ve “kıyafet yırtma” gibi şablonlar sunduğu görüldü. Rapor, şirketlerin platformlarını etkili bir şekilde denetlemediğini veya bu tür uygulamalar söz konusu olduğunda kendi politikalarını uygulamadığını vurgulayarak sona eriyor.
Peki siz bu konuda ne düşünüyorsunuz? Sizce uygulama mağazaları bu tarz içerikleri engellemek için daha katı önlemler almalı mı?
