مایکروسافت اعلام کرد برای حذف محتوای غیراخلاقی انتقامی و دیپ‌فیک ساخته‌شده با هوش مصنوعی، با سازمان غیرانتفاعی StopNCII همکاری خواهد کرد.

زمانی‌ که قربانی‌ها پرونده‌ای در StopNCII باز می‌کنند، این سازمان «کد هش» تصویر یا ویدیو را که در واقع اثر انگشت دیجیتالی است، بدون‌ نیاز به آپلود فایل مذکور روی دستگاه کاربر ایجاد می‌کند. کد هش در مرحله‌ی بعد برای سایر شرکت‌هایی که در آن برنامه مشارکت کرده‌اند، ارسال می‌شود. شرکت‌ها می‌توانند با تطبیق کد هش با تصاویر و ویدیوهای موجود، موارد مشابه را شناسایی و در صورت نقض قوانین محتوایی پلتفرم خود، آن‌ها را حذف کنند. این فرایند برای تصاویر و ویدیوهای دیپ‌فیک ساخته‌شده با هوش مصنوعی از افراد واقعی نیز اجرا می‌شود.

تاکنون چندین شرکت فناوری برای حذف تصاویر غیراخلاقی انتقامی منتشرشده با StopNCII همکاری کرده‌اند. متا به ساخت این ابزار کمک کرده است و از آن در پلتفرم‌های فیسبوک، اینستاگرام و تردز استفاده می‌کند؛ تیک‌تاک، ردیت، اسنپ و چند شرکت دیگر نیز در برنامه‌ی مذکور مشارکت دارند.

گوگل درحال‌حاضر با StopNCII همکاری نمی‌کند. این غول فناوری مجموعه‌ی ابزارهای خاص خود را برای گزارش تصاویر غیراخلاقی، از جمله دیپ‌فیک‌های ساخته‌شده با هوش مصنوعی دارد؛ اما مشارکت‌نکردن گوگل در یکی از معدود مراکز متمرکز برای حذف تصاویر غیراخلاقی انتقامی، به‌طور چشمگیری بار بیشتری بر دوش قربانیان می‌گذارد.

علاوه‌بر تلاش‌هایی مانند StopNCII، دولت ایالات‌ متحده نیز اقداماتی برای مقابله‌ی مستقیم با آسیب‌های ناشی از دیپ‌فیک و غیراخلاقی انتقامی انجام داده است.

دفتر حق‌نشر آمریکا خواستار قانون‌گذاری جدید در این زمینه شده است و گروهی از سناتورها نیز در ماه جولای (تیر و مرداد ۱۴۰۳) لایحه‌ی NO FAKES را برای حمایت از قربانیان ارائه کردند.