ایلان ماسک، مالک شبکه اجتماعی ایکس، ویدئویی دیپ‌فیک از کامالا هریس، معاون رئیس‌جمهور آمریکا را در حساب کاربری ایکس خود منتشر کرد. این ویدئو که با استفاده از هوش مصنوعی صدای هریس را تقلید می‌کند، صحبت‌‌های طنزگونه‌ای را به سخنرانی اخیر او اضافه کرده است.

منتقدان معتقدند که ماسک با انتشار این ویدئو بدون برچسب‌گذاری آن به‌عنوان محتوای طنز، قوانین پلتفرم ایکس را نقض کرده است. این اقدام باعث شد تا بحث‌های زیادی در مورد استفاده از دیپ‌فیک‌ در فضای سیاسی و اجتماعی شکل بگیرد.

ویدیوهای دیپ‌فیک‌ که با استفاده از تکنولوژی هوش مصنوعی ساخته می‌شوند، می‌توانند تصاویر، صداها و ویدئوهای جعلی‌ای ایجاد کنند که تشخیص آن‌ها از واقعیت بسیار دشوار است. به‌عنوان مثال، در اوایل سال جاری، یک پیام صوتی که از هوش مصنوعی برای تقلید صدای جو بایدن استفاده می‌کرد، از رأی‌دهندگان نیوهمپشایر خواست تا در طول انتخابات مقدماتی در خانه بمانند و رأی ندهند.

چنین اتفاقاتی باعث شده است که پلتفرم‌هایی مانند ایکس، قوانینی علیه محتوای دیپ‌فیک وضع کنند. طبق خط‌مشی‌های ایکس، محتواهای دیپ‌فیک، غیرواقعی و دستکاری‌شده که ممکن است مردم را فریب دهند و حتی به آسیب منجر شوند، مجاز به انجام فعالیت در این پلتفرم نیستند.

کارشناسان ایکس برای حذف محتوای ساخته‌شده با هوش مصنوعی، دو شرط دارند: ۱. محتوای منتشرشده به‌طور قابل توجهی از طریق ابزارهای تغییر ویدیو یا دوبله‌ی صدا تغییر پیدا کرده باشد؛ ۲. محتوای منتشرشده در دنیای واقعی هم امکان رخ دادن داشته باشد.

در نهایت ماسک در دفاع از خود اظهار داشت که محتوای دیپ‌فیک تحت حمایت آزادی بیان قرار دارد و نباید محدود شود. این موضوع باعث شد تا شخصیت‌های سیاسی مانند گاوین نیوسام، فرماندار کالیفرنیا، به‌شدت از ماسک انتقاد کنند و خواستار مسئولیت‌پذیری بیشتر در مورد استفاده از تکنولوژی‌های جدید باشند.