Elon Musk’ın teknoloji şirketi XAI tarafından geliştirilen Grok Imagine, kullanıcıların yazdığı metinlere dayanarak görüntü ve video üretebilen bir yapay zeka aracı olarak tanıtılmıştı. Ancak testlerde, özellikle kadın figürlere yönelik müstehcen içerikler üretme eğilimi gözlemlendi.
Kullanıcı deneyimlerine göre, erkek karakterlerde yalnızca üstsüz ama altı kapalı görseller sunulurken, kadın karakterler için çıplak veya göğüsleri açık görüntüler oluşturulması, “tasarımsal kadın düşmanlığı” iddialarını güçlendirdi.
Skandal, The Verge muhabiri Jess Weatherbed’in yaptığı bir denemeyle ortaya çıktı. Weatherbed, “Taylor Swift’in Coachella’da arkadaşlarıyla eğlendiği” senaryosunu girdiğinde 30’dan fazla görsel elde etti. Görsellerin çoğu Swift’i açık kıyafetlerle tasvir ederken, “video yap” seçeneği kullanıldığında izinsiz erotik içerikli videolar oluşturuldu.
Cinsel içerikli ‘deepfake’ görsellerin suç kapsamına alınması için çalışmalar yürüten Prof. Clare McGlynn, “X gibi platformlar bunu önleyebilirdi, fakat bilinçli olarak tercih etmediler. Bu tesadüfi değil, bilinçli bir tasarım kararı” dedi.
XAI şirketinden konuyla ilgili henüz resmi bir açıklama gelmedi. Olay, sosyal medyada büyük infiale yol açtı ve kadınlara yönelik sistematik ayrımcılık tartışmalarını yeniden gündeme taşıdı.
