Yapay zeka uygulamalarında güvenlik tartışması bu kez App Store ve Google Play tarafına taşındı. San Francisco şehir savcılığı, Apple ve Google’dan rızasız çıplak deepfake üretmeye yarayan “nudify” uygulamaları mağazalardan kaldırmasını istedi. Bu uygulamalar, fotoğrafları izinsiz biçimde cinsel içerikli görsellere dönüştürebildiği için ciddi bir istismar riski taşıyor.
Konunun önemli tarafı, sorumluluğun yalnızca uygulamayı geliştiren kişide kalmaması. Yetkililer, uygulama mağazalarının ödeme altyapısı, dağıtım ve görünürlük sağlayarak bu ekosistemde rol oynadığını savunuyor. Apple ve Google ise kuralları ihlal eden uygulamaları kaldırdıklarını ve ilgili arama terimlerini kısıtladıklarını belirtiyor.
Neden Önemli?
- Rızasız deepfake içerikler özellikle kadınları ve çocukları hedef alabiliyor.
- Uygulama mağazaları zararlı AI araçlarının yayılmasında kritik kapı görevi görüyor.
- Yalnızca içerik kaldırma değil, ödeme ve geliştirici hesabı denetimi de gerekiyor.
- AI araçları “eğlence” etiketiyle sunulsa bile ciddi hukuki sonuçlar doğurabilir.
- Bu kararlar benzer düzenlemelerin diğer ülkelerde de güçlenmesine yol açabilir.
Kullanıcılar Ne Yapmalı?
Bu tür uygulamaları indirmemek, paylaşmamak ve reklamını yapmamak önemli. Ayrıca kendi fotoğraflarınızın internette ne kadar açık dolaştığını kontrol etmek, sosyal medya gizlilik ayarlarını gözden geçirmek ve şüpheli içerikleri platformlara bildirmek kişisel güvenlik açısından değerli adımlar.
Almadanincele Yorumu
AI güvenliği yalnızca modelin ne cevap verdiğiyle sınırlı değil. Dağıtım kanalı, ödeme sistemi, reklam ağı ve mağaza politikası aynı zincirin parçaları. Apple ve Google gibi platformların “sonradan kaldırdık” yaklaşımından daha proaktif davranması gerekiyor. Bu alan, teknoloji özgürlüğü ile kişisel güvenlik arasındaki en hassas sınır çizgilerinden biri.
Kaynaklar
- TechCrunch: Apple and Google ordered to purge nudify apps
- Wired: San Francisco demands Apple and Google delete AI nudify apps
- Wikimedia Commons: Computer screen monitor görseli
Kapak görseli: Santeri Viinamäki / Wikimedia Commons. Lisans: CC BY-SA 4.0.
