به گزارش خبرگزاری مهر به نقل از تک کرانچ، هند پس از آنکه کاربران و قانون‌گذاران تولید محتوای «مستهجن»، از جمله تصاویر تغییر یافته زنان با استفاده از هوش مصنوعی که با استفاده از این ابزار ایجاد شده بود را گزارش کردند، به پلتفرم ایکس متعلق به ایلان ماسک دستور داد تغییرات فنی و رویه‌ای فوری در ربات چت هوش مصنوعی گروک ایجاد کند.

در همین راستا وزارت فناوری اطلاعات هند به پلتفرم ایکس دستور داد اقدامات اصلاحی در گروگ، از جمله محدود کردن تولید محتوای شامل برهنگی، جنسی‌سازی، مطالب صریح جنسی یا موارد غیرقانونی دیگر انجام دهد. همچنین این وزارتخانه به شبکه اجتماعی مذکور ۷۲ ساعت فرصت داد تا گزارشی از اقدامات انجام شده ارائه دهد که جزئیات گام‌هایی را که برای جلوگیری از میزبانی یا انتشار محتوایی که مستهجن، مبتذل، ناشایست، صریح جنسی، کودک‌آزاری یا دیگر مواردی که طبق قانون ممنوع است شرح دهد.

در این دستور هشدار داده که عدم رعایت آن ممکن است مصونیت قانونی از مسئولیت در قبال محتوای تولید شده توسط کاربر تحت قانون هند را به خطر بیندازد.

این اقدام هند به دنبال نگرانی‌های مطرح شده توسط کاربرانی صورت گرفت که نمونه‌هایی از وادار شدن گروک به تغییر تصاویر افراد و در درجه اول زنان را به اشتراک گذاشتند تا به نظر برسد که آنها لباس نامناسبی به تن دارند، و این امر باعث شکایت رسمی یک نماینده مجلس هند شد.

از سوی دیگر اخیراً گزارش‌هایی از مواردی به طور جداگانه نشان دادند که در آن چت‌بات هوش مصنوعی تصاویر جنسی شامل افراد زیر سن قانونی ایجاد کرده است. ایکس مدعی است این چالش در نتیجه نقص در اقدامات محافظتی به وجود آمده است. البته این تصاویر بعداً حذف شدند.

این دستور جدید چند روز پس از آن صادر شد که وزارت فناوری اطلاعات هند دوشنبه هفته گذشته هشدار جامع‌تری را خطاب به پلتفرم‌های رسانه‌های اجتماعی صادر و به آنها یادآوری کرد رعایت قوانین محلی حاکم بر محتوای مستهجن و جنسی، پیش‌نیاز حفظ مصونیت قانونی از مسئولیت در قبال مطالب تولید شده توسط کاربران است.

در این هشدار از شرکت‌ها خواسته شد تا اقدامات حفاظتی داخلی را تقویت کنند و عدم انجام این کار ممکن است منجر به اقدام قانونی تحت قوانین فناوری اطلاعات و کیفری هند شود.