یوتیوب و محتوا در رابطه با کودکان فوت‌شده یا قربانیان جرایم خشونت‌آمیز

یوتیوب محتوای تولید شده با هوش مصنوعی در رابطه با کودکان فوت‌شده یا قربانیان جرایم خشونت‌آمیز را مجاز نخواهد کرد، پس اگر چنین محتوایی تولید کرده اید ، منتشر نکنید.

این پلتفرم ویدیو، سیاست تحقیر و سایبربولینگ خود را به‌روز کرده و محتواهایی که "به طور واقع‌گرا  کودکان فوت‌شده یا قربانیان رویدادهای خشونت‌آمیز مهم و یا خوب‌ثبت‌شده، با توصیف مرگ یا خشونت تجربه‌شده‌اند" را ممنوع اعلام کرده است.

⚠️ سیاست به‌روزشده از تاریخ ۱۶ ژانویه، که گوگل، صاحب یوتیوب، اعلام کرده است، به‌طور رسمی اجرا خواهد شد.

این تغییرات جزء "تلاش‌های مسئولیت پذیر  ماندن یوتیوب در مقابل محتوای آن است " که پیشتر شامل ممنوعیت محتوا در مورد واکسن‌های کووید-۱۹ بود، که تضاد با توافق نهادهای بهداشتی داشت، و استفاده از الگوریتم برای اعمال محدودیت‌های سنی به ویدیوهای مرتبط به خود را شامل می‌شد.

این تغییر سیاست پس از گسترش ویدیوهای جنایات واقعی در پلتفرم‌هایی مانند تیک‌تاک و یوتیوب، که شباهت به تصاویر کودکان مرده یا گم‌شده را بازسازی می‌کردند و داستان‌های مرگ یا اتفاقات آنان را شرح می‌دادند، انجام شده است.

بعضی از ویدیوها از تصاویر تولیدشده توسط هوش‌مصنوعی از جیمز بالجر، یک کودک دو ساله بریتانیایی که در سال ۱۹۹۳ ربوده و قتل عام شد، و مدلین مک‌کن، دختر سه ساله بریتانیایی که در سال ۲۰۰۷ در پرتغال گم‌شد، استفاده می‌کردند.

مادر بالجر تصاویر تولیدشده توسط هوش‌مصنوعی از پسرش را "ناخوشایند" و "فراتر از حد بیمارگونه" توصیف کرد.

تیک‌تاک پس از آن شروع به حذف اینگونه ویدیوها کرد و اعلام کرد: "دستورالعمل‌های جامعه ما واضح است که ما اجازه نمی‌دهیم محتوای هوش مصنوعی که شباهت یک فرد جوان را دارد، را بپذیریم"، اما بسیاری از آنها در یوتیوب باقی ماند.

سال گذشته یوتیوب شروع به الزام  هشدار به تولید کنندگان محتوا در مورد اینگونه محتوا داد که عدم انجام این کار ممکن است منجر به تعلیق حساب کاربری افراد یا جریمه آنها شود. همچنین اعلام کرد که تولید کنندگان و هنرمندان قادر به حذف محتواهایی خواهند بود که به طور  واقعی به آنها شباهت دارد ، و بدون رضایت آنها منتشر شده است .