Hindistan’da yaşanan deepfake skandalı, yapay zeka çağında mahremiyetin ve dijital güvenliğin sonlarını bir defa daha gündeme getirdi.
Instagram’da “Babydoll Archi” kullanıcı ismiyle paylaşımlar yapan geçersiz bir fenomen, kırmızı sariyle dans ettiği ve bir yetişkin sinema yıldızıyla poz verdiği içeriklerle kısa müddette 1,4 milyon takipçiye ulaştı.
Ancak yapay zeka ile oluşturulan fenomen Assam eyaletinin Dibrugarh kentinde yaşayan mesken hanımı Sanchi ile çok benziyordu.
MÜHENDİS SEVGİLİSİ TUTUKLANDI
BBC’de yer alan habere nazaran, Sanchi’nin kimliğinin deepfake teknolojisiyle müsaadesiz kullanıldığı, ailesinin polise yaptığı şikayetle ortaya çıktı. Soruşturma sonunda Sanchi’nin eski sevgilisi Pratim Bora tutuklandı. Mühendislik eğitimi almış ve yapay zekayla ilgilendiği belirtilen Bora’nın, Sanchi’nin özel fotoğraflarından yola çıkarak uydurma bir toplumsal medya karakteri oluşturduğu tespit edildi.
Soruşturmayı yürüten polis yetkilisi, Bora’nın intikam maksadıyla hareket ettiğini ve ChatGPT ile Dzine üzere yapay zeka araçlarını kullanarak içerikler ürettiğini belirtti. Hesabın, sadece Linktree üzerinden yaklaşık 1 milyon rupi (yaklaşık 12 bin dolar) gelir elde ettiği, yalnızca tutuklanmadan evvelki günlerde 300 bin rupilik çıkar sağladığı söz edildi.
AİLESİNİ ENGELLEMİŞ
Sanchi ise toplumsal medya kullanmayan biri olarak, fenomen hesabın varlığından fakat medya ilgisi arttığında haberdar oldu. Ailesinin bu hesaptan engellendiği ortaya çıkarken, olayın şokunu atlatmak için ruhsal takviye aldıkları bildirildi.
Uzmanlara nazaran, bu olay, yapay zekanın suistimal edilme potansiyeline dair çarpıcı bir örnek. Avukat Meghna Bal, “Deepfake içerikler artık daha kolay üretilebiliyor ve bu cins olaylar sanılandan daha yaygın olabilir. Lakin pek birçok ya bildirilmiyor ya da kurbanlar farkında bile olmuyor,” ihtarında bulundu.
Polis, Bora hakkında cinsel taciz, siber dolandırıcılık ve prestij zedeleme üzere cürümlerden süreç başlattı. Hatalı bulunması halinde 10 yıla kadar mahpus cezası alabilir.
