قربانیان این موضوع بیشتر سلبریتی‌هایی هستند که هر روز شاهد عکس‌های جعلی مستهجنی از خود هستند که روح‌شان از آن خبر ندارد، اما در دنیای مجازی دست‌به‌دست می‌شود. براساس گزارشی که گاردین منتشر کرده، بیش از ۲۵۰ سلبریتی بریتانیایی در میان هزاران چهره‌ی مشهوری هستند که قربانیان عکس‌های مستهجن دیپ‌فیک شده‌اند.
به گزارش هم‌میهن، همچنین در تحقیقاتی که روی پنج وب‌سایت پربازدید دیپ‌فیک در این کشور صورت گرفته بود، اعلام شد که تقریباً چهار هزار فرد مشهور در فهرست قربانیان عکس‌های مستهجن دیپ‌فیک قرار دارند، از هنرپیشه‌های زن گرفته تا ستاره‌های تلویزیونی، یوتیوبر‌ها که عکس‌های صورت‌شان را برداشته‌اند و با هوش مصنوعی روی تصویر برهنه‌ای گذاشته‌اند. تیلور سوئیف، اوپرا وینفری، پیرز مورگان، گل گدوت، اما واتسون، کیتی پری، ریحانا و بسیاری دیگر، از چهره‌های سرشناسی بودند که قربانی عکس‌های مستهجن دیپ‌فیک شدند.
ازقضا این وب‌سایت‌ها بینندگان زیادی هم دارند و براساس مطالعات صورت‌گرفته توسط کانال چهار بریتانیا، این پنج سایت طی بازه‌ی زمانی سه‌ماه بیش از ۱۰۰میلیون بازدید داشته‌اند. از ۳۱ ژانویه براساس قانون امنیت آنلاین، اشتراک‌گذاری چنین تصاویری بدون رضایت در بریتانیا غیرقانونی است، اما ایجاد محتوا غیرقانونی نیست. این قانون در واکنش به گسترش عکس‌های مستهجن دیپ‌فیک ایجاد شده توسط هوش مصنوعی و اپلیکیشن‌ها تصویب شد.
محققان در سال ۲۰۱۶ یک ویدئوی آنلاین مستهجن دیپ‌فیک را شناسایی کردند، اما ۹ ماه اول سال ۲۰۲۳، در ۴۰ وب‌سایت مستهجن دیپ‌فیک که بیش از همه بازدید می‌شوند بیش از ۱۴۳ هزار و ۷۳۳ ویدئوی مستهجن دیپ‌فیک، بارگذاری شد و در ۲۰۲۴ این رقم چندین برابر شده و امروز به یکی از معضلاتی تبدیل شده که گریبان بسیاری از آدم‌های مشهور و غیرمشهور را گرفته است.
درحالی‌که کشور‌های مختلفی با چالش‌های بسیاری در مورد تصاویر دیپ‌فیک دست‌وپنجه نرم می‌کنند، یکی از تازه‌ترین اخبار مربوط به کره جنوبی است؛ کشوری که هزاران سایت در آن به انتشار تصاویر جعلی مستهجن می‌پردازند. قربانیان آن‌ها تقریباً همگی زنان هستند و حالا کشور با مشکل بزرگی دست به گریبان است و تصاویر جعلی مستهجن بسیاری از افراد در فضای مجازی دست‌به‌دست می‌شود.
به گفته اداره‌ی پلیس کره‌ی جنوبی ۲۹۷ مورد از مستجهن‌های دیپ‌فیک در هفت‌ماه اول امسال گزارش شده‌اند که این رقم در سال گذشته ۱۸۰ مورد بود. به گفته این مقام مسئول به گاردین: «این موضوع کاملاً جدی است و مسئولان باید هرچه سریع‌تر به آن رسیدگی کنند.»
براساس گزارش‌ها، یک چت‌روم تلگرامی حدود ۲۲۰ هزار عضو را جذب کرده است که در آن تصاویر جعلی را به اشتراک می‌گذارد و عکس‌های زنان و دختران را دستکاری می‌کند. بسیاری از این قربانیان مقامات را متهم کرده‌اند که خیلی این موضوع را جدی نگرفته‌اند.
این موضوع آن‌قدر در این کشور سروصدا ایجاد کرده است که رئیس‌جمهور کره جنوبی، یون سوک یول، دستور سرکوب همه‌جانبه‌ی جرائم جنسی دیجیتالی را داده است که زنان و دختران را که قربانی ناخواسته این جرائم می‌شوند، هدف قرار داده است. پلیس در یک کمپین هفت‌ماهه که از این هفته آغاز شده است، بر افرادی که از کودکان و نوجوانان سوء‌استفاده می‌کنند، تمرکز خواهد کرد و به «شدت» با متخلفان برخورد می‌کند.
اما گروه‌های مدافع حقوق زنان استدلال می‌کنند که یک مشکل گسترده‌تر نادیده گرفته می‌شود؛ زن‌ستیزی در فرهنگ آنلاین کره جنوبی. «ابتدا زنان مورد آزار کلامی آنلاین قرار گرفتند» و «سپس اپیدمی دوربین جاسوسی پیش آمد» که در آن از زنان «به‌طور مخفیانه در توالت‌های عمومی و اتاق‌های رختکن فیلم گرفته می‌شد». در بیانیه‌ای به امضای ۸۴ گروه زنان آمده است: «علت اصلی این امر، جنسیت‌گرایی ساختاری است و راه‌حل، برابری جنسیتی است».
اما یون «وجود تبعیض جنسیتی ساختاری را انکار کرده»، بودجه‌ی گروه‌های حمایت از قربانیان را کاهش داده و وزارت برابری جنسیتی و خانواده‌ی دولت را لغو کرده است. بی‌بی‌سی گزارش داد که تلگرام به‌خاطر رویکرد آرام خود به اعتدال شناخته می‌شود، که منجر به اتهاماتی مبنی بر عدم نظارت کافی بر محتوا، به‌ویژه در گروه‌های خاص شده است.
درنتیجه این پلتفرم به کانونی برای فعالیت‌های مجرمانه تبدیل شده است. در سال ۲۰۱۹، «گروه حلقه‌ی جنسی» با استفاده از تلگرام، زنان و کودکان در کره جنوبی را وادار به ایجاد و به اشتراک‌گذاری تصاویر غیراخلاقی جنسی از خود کرد. به گفته‌ی بی‌بی‌سی، اگرچه پلیس از تلگرام برای تحقیقات خود کمک خواست، اما این اپلیکیشن «همه‌ی هفت درخواست آن‌ها را نادیده گرفت.»
یکی از مشکلاتی که این عکس‌های مستهجن ایجاد می‌کند، ماندگاری در فضای مجازی است که با جست‌وجو می‌توان به آن‌ها دسترسی داشت، حالا مایکروسافت گام بزرگی در این زمینه برداشته تا به قربانیان عکس‌های مستهجن انتقام‌جویانه ابزاری بدهد تا موتور جست‌وجوی بینگ خود را از بازگرداندن این تصاویر باز دارد. مایکروسافت یک همکاری با استاپ‌ان‌سی‌آی‌آی را اعلام کرده است، سازمانی که به افراد مورد هدف عکس‌های مستهجن انتقامی اجازه می‌دهد که یک اثرانگشت دیجیتالی برای استفاده از این عکس‌ها، واقعی یا غیرواقعی روی دستگاه خود ایجاد کنند.
سپس شرکای استاپ‌ان‌سی‌آی‌آی از اثر انگشت یا همان‌طور که از نظر فنی شناخته می‌شود، «هش» برای پاک کردن تصویر از پلتفرم‌های خود استفاده می‌کنند. بینگ مایکروسافت به فیس‌بوک، اینستاگرام، رد‌یت، اسنپ‌چت، تیک‌تاک، تریدز، اونلی فنز در همکاری به استاپ‌ان‌سی‌آی‌آی می‌پیوندد و از اثر انگشت دیجیتال خود برای جلوگیری از گسترش عکس‌های مستهجن انتقامی استفاده می‌کند.
در یک پست وبلاگی، مایکروسافت اعلام کرده است که قبلاً در مورد ۲۶۸ هزار تصویر واضح که از طریق جست‌وجوی تصویر بینگ به‌صورت آزمایشی تا پایان ماه اوت با پایگاه داده استاپ‌ان‌سی‌آی‌آی بازگردانده شده‌اند، اقدام کرده است. پیش از این، مایکروسافت یک ابزار گزارش‌دهی مستقیم ارائه می‌کرد، اما این شرکت می‌گوید ثابت شده است که این ابزار کافی نیست.
مایکروسافت در این پست وبلاگی گفته است: «ما درباره‌ی نگرانی‌های قربانیان، متخصصان و دیگر افراد که مورد آسیب هستند، شنیده‌ایم که گزارش کاربر به‌تن‌هایی نمی‌تواند برای تأثیر یا رسیدگی مناسب به این خطر مؤثر باشد چراکه آن عکس ممکن است با جست‌وجو قابل دسترسی باشد.» حالا فکر کنید که این مشکل چقدر می‌تواند با موتور محبوب‌تر و عمومی‌تری مثل گوگل بدتر شود.
یک سخنگوی گوگل پیش‌تر در این‌باره گفته است: «ما کاملاً درک می‌کنیم که این نوع محتوا چقدر آزاردهنده می‌تواند باشد و ما متعهد هستیم که از حفاظت‌های موجود خود برای کمک به افرادی که تحت تأثیر قرارگرفته‌اند، استفاده کنیم. براساس خط‌مشی‌های ما، افراد می‌توانند صفحاتی داشته باشند که دارای این محتوا هستند و شباهت آن‌ها را از نتایج جست‌وجو حذف کنند.
درحالی‌که این یک چالش فنی برای موتور‌های جست‌وجو است، ما در حال توسعه‌ی پادمان‌های جدید برای جست‌وجوی گوگل هستیم؛ ازجمله ابزار‌هایی برای کمک به افراد برای محافظت از خود و بهبود نحوه‌ی رتبه‌بندی برای رسیدگی به این محتوا به‌صورت گسترده.» جست‌وجوی گوگل که ابزار خودش به‌نام ابزار گزارش و حذف تصاویر واضح را برای نتایج جست‌وجویش ارائه می‌دهد، به‌خاطر مشارکت نکردن با استاپ ان‌سی‌آ‌ی‌آی از سوی کارکنان سابق و قربانیان با انتقاداتی مواجه شده است.
«وایرد» گزارش داده است که از ۲۰۲۰، کاربران گوکل در کره جنوبی ۱۷۰ هزار لینک جست‌وجو و یوتیوب را برای محتوای جنسی ناخواسته گزارش کرده‌اند؛ بنابراین زمانی این تلاش‌ها می‌توانند بسیار تأثیرگذار باشند که گوگل هم به این مبارزه بپیوندد.