نظرات سمی و نفرت انگیز در یوتیوب یک درد سر دائمی برای شرکت، سازندگان و کاربران است. این شرکت قبلاً سعی کرده است با ارائه ویژگی هایی مانند نشان دادن هشدار به افراد در هنگام پست کردن، از این امر جلوگیری کند تا آنها بتوانند بیشتر مراقب باشند. اکنون، سرویس استریم در حال ارائه یک ویژگی جدید است که به شدت چنین افرادی را برای اظهار نظرهای توهین آمیز تحت فشار قرار می دهد و اقدامات گسترده تری را انجام می دهد.
یوتیوب می گوید برای افرادی که کامنت های توهین آمیز آنها به دلیل نقض قوانین این پلتفرم حذف شده اند، اعلان ارسال می کند. اگر با وجود دریافت اعلان، کاربر همچنان به ارسال نظرات توهین آمیز ادامه دهد، سرویس او را از ارسال نظرات بیشتر به مدت 24 ساعت منع می کند. این شرکت گفت که این ویژگی را قبل از راه‌اندازی امروز آزمایش کرده و دریافته است که اعلان‌ها و انتظارها تا حد زیادی موفق بوده‌اند.
تشخیص نظرات نفرت انگیز در حال حاضر فقط برای نظرات به زبان انگلیسی در دسترس است، اما هدف سرویس استریم این است که در آینده زبان های بیشتری را نیز شامل شود. لازم به ذکر است که هشدار پیش از انتشار به زبان های انگلیسی و اسپانیایی موجود است.
این شرکت گفت: «هدف ما هم محافظت از سازندگان در برابر کاربرانی است که سعی می‌کنند از طریق نظرات بر جامعه تأثیر منفی بگذارند، و هم ارائه شفافیت بیشتر به کاربرانی که ممکن است نظرات را به دلیل نقض قوانین حذف کرده باشند، و امیدواریم به آنها کمک کنیم دستورالعمل‌های انجمن ما را درک کنند.» .
اگر کاربر احساس کند که نظرش ناعادلانه حذف شده است، می تواند بازخورد خود را به اشتراک بگذارد. با این حال، این شرکت نگفته است که آیا پس از بررسی بازخورد، نظرات را بازیابی خواهد کرد یا خیر.
علاوه بر این، یوتیوب در یک پست انجمن گفت که در حال کار بر روی بهبود سیستم‌های تشخیص مبتنی بر هوش مصنوعی است. این شرکت ادعا می کند که 1.1 میلیارد کامنت “هرزنامه” را در نیمه اول سال 2022 حذف کرده است. یوتیوب همچنین سیستم خود را برای شناسایی و حذف بهتر ربات ها در ویدیوهای چت زنده بهبود بخشیده است.
یوتیوب و سایر شبکه‌های اجتماعی توانسته‌اند با تکیه بر شناسایی خودکار، محتوای هرزنامه و توهین‌آمیز را تا حدی کاهش دهند. با این حال، سوء استفاده کنندگان اغلب از کلمات عامیانه یا غلط املایی مختلف برای فریب سیستم استفاده می کنند. علاوه بر این، گرفتن افرادی که نظرات نفرت انگیز را به زبان هایی غیر از انگلیسی ارسال می کنند، سخت تر است.
این شرکت استریم در سه ماهه اخیر طیف گسترده ای از ابزارها را برای کاهش نظرات توهین آمیز روی پلتفرم آزمایش کرده است. این تست‌ها شامل پنهان کردن نظرات به صورت پیش‌فرض و نشان دادن تاریخچه نظرات کاربر در کارت‌های نمایه‌شان است.
ماه گذشته، یوتیوب قابلیتی را منتشر کرد که به سازندگان اجازه می دهد کاربر خاصی را از نظرات پنهان کنند. این کنترل برای کل کانال اعمال می‌شود، بنابراین حتی اگر کاربر نظرات تنفرآمیز را روی ویدیوی دیگری پست کند، نمایش داده نمی‌شود.
پلتفرم های سراسر جهان با مشکل محدود کردن انتشار نظرات نفرت انگیز دست و پنجه نرم می کنند.
اینستاگرام زمانی که فوتبالیست های انگلیسی، بوکایو ساکا، مارکوس رشفورد و جیدن سانچو به دلیل از دست دادن پنالتی های فینال یورو سال گذشته مورد آزار و اذیت قرار گرفتند، برای آنها فضای مناسبی بود. گزارش جدیدی از GLAAD و Media Matters اشاره می‌کند که از زمانی که ایلان ماسک توئیتر را تصاحب کرد، توهین‌های ضد LGBTQ به شدت افزایش یافته است. در حالی که همه این پلتفرم‌ها ابزارهایی را برای نادیده گرفتن یا پنهان کردن نظرات و محدود کردن نظرات به افراد خاص منتشر کرده‌اند، میزان کامنت‌های نفرت‌آمیز و توهین‌آمیز همچنان یک مشکل بزرگ است.