شبکه‌های اجتماعی چگونه محتوای کاربران را بررسی می‌کنند؟

شبکه های اجتماعی روش‌های مختلفی برای بررسی و بازبینی محتوا های انتشار یافته در پلتفرم خود دارند که در این مطلب این روش‌ها را بازگو می‌کنیم.

افرادی که در شبکه‌های اجتماعی به تولید و انتشار محتوا مشغول هستند، به خوبی می‌دانند که اگر محتوای تولیدی یا منتشر شده، برخلاف قوانین پلتفرمی باشد که از آن استفاده می‌کنند، محتوای‌شان محدود یا حذف خواهد شد.

در واقع تمامی شبکه‌های اجتماعی قوانینی برای خود دارند و تمامی محتواهای انتشار یافته در این شبکه‌های اجتماعی به روش‌های مختلف بررسی و بازبینی می‌شود.

متاسفانه این قوانین کمی برای ایرانی‌ها عجیب است، به ویژه قوانین کپی‌رایت که به دلیل نبود این قانون در ایران، افراد کمی با آن آشنا هستند. حتی قانون کپی‌رایت به یکی از مشکلات اصلی کاربران ایرانی در شبکه‌های اجتماعی تبدیل شده است، زیرا کاربران بدون اطلاع از آن محتواهای کپی شده را در شبکه‌های اجتماعی منتشر می‌کنند و بعد‌ها با مشکلاتی از جمله حذف پست‌ها و یا بسته شدن حساب کاربریشان مواجه می‌شوند.

مطالب ممنوعه در شبکه‌های اجتماعی

اصلی‌ترین و مهم‌ترین قوانین شبکه‌های اجتماعی در سه دسته 1- محتوای دارای کپی‌رایت 2- محتوای توهین‌آمیز یا خشونت‌برانگیز 3- محتوای جنسی قرار می‌گیرد. البته برخی از شبکه‌های اجتماعی قوانینی برای مقابله با فروش اقلام ممنوعه دارند که این موارد بسته به نوع کشور و قوانین منطقه‌ای می‌تواند متفاوت باشد، همچنین ساخت اکانت فیک یک شخص محبوب و مشهور نیز در برخی از شبکه‌های اجتماعی برخلاف قوانین است.

بالغ بر 99 درصد محتواهای حذف شده در شبکه‌های اجتماعی مختلف به دلیل عدم رعایت یکی از سه قانون گفته شده است. اگر بخواهیم بیشتر توضیح دهیم، محتوای دارای کپی‌رایت به هر نوع محتوا مانند تصویر، ویدیو و موسیقی گفته می‌شود که مالک آن ما نیستیم، درواقع نمی‌توانیم در شبکه‌های اجتماعی به راحتی تصاویر و ویدیوهای مختلف را دانلود و در پیج یا کانال خودمان منتشر کنیم.

برای انجام این کار باید از منتشر کننده اصلی اجازه انتشار دریافت کنیم یا در توضیحات انتشار آن محتوا، قید کنیم که این محتوا مربوط به ما نیست و از فلان منبع برداشته شده است. قوانین کپی رایت طی سال‌های اخیر به صورت جدی در حال پیگیری است و حتی انتشار تصاویر ژورنالی یک محصول از یک برند معروف مانند آدیداس نیز شامل قانون کپی‌رایت می‌شود.

محتوای توهین‌آمیز و یا خشونت‌برانگیز به هر نوع توهین، بی‌احترامی، نفرت‌پراکنی و جریان‌سازی علیه افراد، نژادها، ادیان، اعتقادات و گروه‌های مختلف اجتماعی گفته می‌شود. این محتوا عموما شامل متن، تصویر و ویدیو می‌شود، به طوری که حتی اگر تصویری برای توهین یا مسخره کردن یک نژاد یا یک گروه اجتماعی منتشر کنید، احتمالا حذف خواهد شد.

مورد سوم نیز نیاز به توضیح بیشتر ندارد، اکثر شبکه‌های اجتماعی و پیام‌رسان‌ها به طور جدی و سفت و سخت با انتشار تصاویر و ویدیوهای بزرگ‌سال مقابله می‌کنند.

بررسی محتوا در شبکه های اجتماعی

اما نکته اساسی در خصوص این قوانین آن است که شبکه‌های اجتماعی مانند اینستاگرام، توییتر و یوتیوب، به چه شکل محتوای انتشار یافته بر روی پلتفرم خودشان را بازبینی و بررسی می‌کنند؟ برای درک بیشتر این موضوع باید به این نکته توجه کرد که بر اساس آمارهای موجود به طور میانگین در هر روز 500 میلیون توییت، بیش از 100 میلیون پست اینستاگرام و 720 هزار ساعت ویدیو در یوتیوپ آپلود می‌شود. بنابراین این شبکه‌های اجتماعی به چه شکل برروی محتوای منتشر شده بازبینی و نظارت دارند؟ اصلا نظارت بر روی این تعداد محتوا به صورت روزانه به چه شکل انجام می‌شود؟

اولین موردی که باید بدانید آن است که سطح پیگیری و مقابله با هرکدام از قوانین گفته شده در شبکه‌های اجتماعی مختلف، تفاوت دارد. به طور مثال در اینستاگرام و یوتیوب که برپایه انتشار تصویر و ویدیو بنا شده، قوانین کپی‌رایت به سختی اجرا می‌شود و بسیاری از صفحات به دلیل انتشار محتوای دارای کپی‌رایت بسته یا دیسیبل شده‌اند. اما در همین پلتفرم‌ها سختگیری کمتری بر روی متن و محتوای کپشن و کامنت‌ها صورت می‌گیرد و اگر شما متن توهین‌آمیزی در کپشن پست خود داشته باشید، شاید اینستاگرام و یوتیوب حتی متوجه آن نشوند، در واقع اولویت اصلی اینستاگرام و یوتیوب بر روی محتوای تصویری است.

در نقطه مقابل اولویت برای شبکه‌های اجتماعی مانند فیسبوک و توییتر، متن است. فیسبوک و توییتر به شکل جدی توییت‌ها و پیام‌های شما را بازبینی می‌کنند و پیام‌هایی را که دارای محتوای توهین‌آمیز یا خشونت‌برانگیز است، پاک می‌کنند. در همین پلتفرم‌ها توجه کمتری بر محتوای تصویری و یا ویدیویی وجود دارد، البته نه به این شکل که انتشار ویدیو دارای کپی‌رایت در این پلتفرم‌ها آزاد است اما دور زدن توییتر و فیسبوک برای انتشار ویدیو دارای کپی‌رایت راحت‌تر از تلاش برای انتشار متن دارای توهین و نفرت‌پراکنی است.

ضمن این که سیاست‌های این پلتفرم‌ها با یکدیگر تفاوت دارد، به طور مثال اینستاگرام اجازه انتشار محتوای جنسی را نمی‌دهد اما این قوانین در توییتر آزادتر است، یا به عنوان مثال در یک پیام‌رسان مانند تلگرام به طور کلی دست‌تان ‌برای انتشار هر نوع محتوای ممنوعه بازتر است و به همین دلیل بسیاری از کشورهای غربی با تبلیغ و استفاده از این پیام‌رسان مخالفت می‌کنند.

اما در خصوص بررسی و بازبینی محتوای منتشر شده بر روی شبکه‌های اجتماعی مختلف می‌توان گفت که راهکار اصلی و کلی که در این زمینه وجود دارد، یکسان است، درواقع همه این پلتفرم‌ها از سه ابزار هوش مصنوعی، نیروی انسانی و گزارشات کاربران برای مقابله با انتشار محتوای ممنوعه استفاده می‌کنند.

روش کار مشخص است، پس از انتشار محتوایی در شبکه اجتماعی و پیام‌رسان، آن محتوا پس از مدتی کوتاه توسط نیروی انسانی یا هوش مصنوعی رباتی مورد بررسی و بازبینی قرار می‌گیرد. اگر بر اساس قوانین آن شبکه اجتماعی ، مشکلی در بررسی محتوا انتشار یافته وجود داشت، آن محتوا پاک و به صاحب حساب کاربری اخطار داده می‌شود.

هوش مصنوعی

نقش اول در بازبینی و بررسی محتوا در شبکه های اجتماعی و پیام‌رسان‌ها را هوش مصنوعی آن پلتفرم ایفا می‌کند. هوش مصنوعی وظیفه آن را دارد که هر محتوایی را که با قوانین آن پلتفرم در تناقص است، انتخاب و حذف کند. همه تصاویر، ویدیوها، صوت‌ها و متون منتشر شده در شبکه‌های اجتماعی، حتی آن‌هایی که در صفحات شخصی و غیرعمومی منتشر می‌شود، ابتدا توسط هوش مصنوعی بازبینی خواهند شد.

در واقع از زمانی که شما دکمه انتشار را می‌زنید تا زمانی که محتوا منتشر می‌شود، در همین زمان کوتاه، هوش مصنوعی یک بازبینی سطحی بر روی محتوای شما دارد، پس از انتشار نیز یک بررسی مجدد بر روی محتوا صورت می‌گیرد، این روشی است که تقریبا تمامی شبکه‌های اجتماعی و پیام‌رسان‌ها از آن پیروی می‌کنند. البته در برخی از شبکه‌های اجتماعی مانند نمونه داخلی آن یعنی آپارات که قوانین سخت کشور آن را محدود کرده و از هوش مصنوعی قدرتمندی هم بهره نمی‌برند، ابتدا ویدیو بررسی شده و سپس منتشر می‌شود.

مواردی هستند که مصداق بارز شکستن قوانین پلتفرم محسوب می‌شوند، این نوع محتوا توسط ربات پاک می‌شود و معمولا حتی اجازه انتشار هم پیدا نمی‌کنند. ربات‌ها با کمک هوش مصنوعی می‌توانند نوع ویدیو، صدا و صحبت‌ها و متن‌هایی را که در تصویر، ویدیو یا کپشن محتوا وجود دارد، خوانده و بررسی کنند. یکی دیگر از وظایف ربات، بررسی کپی نبودن محتوا است، به طور مثال اگر ویدیوی در شبکه اجتماعی اینستاگرام یا یوتیوپ آپلود شود، ربات شباهت آن را با دیگر ویدیوهای منتشر شده در این پلتفرم بررسی می‌کند و اگر نظر قطعی بر کپی ویدیو باشد، آن محتوا پاک می‌شود ولی اگر ویدیو مشکوک به نقض قانون کپی‌رایت باشد، برای بررسی بهتر برای نیروهای انسانی فرستاده می‌شود.

در واقع یکی از مهم‌ترین وظافت ربات‌ها آن است که محتوا را بازبینی کرده و آن‌هایی را که مشکوک به نقض قوانین هستند، برای بررسی دقیق‌تر به نیروهای انسانی ارجاع کند. این پروسه با روش‌های مختلفی انجام می‌شود، مثلا ممکن است ربات به میزان نقض قوانین یک محتوا امتیاز دهد و اگر این امتیاز از یک سقف مشخص رد شد، آن محتوا برای بازبینی به نیروهای انسانی ارجاع داده شود و اگر امتیاز به حداکثر رسید بدون هیچ بازبینی محتوا حذف شود.

همچنین ربات‌ها مدارک و ادله خود برای ارجاع یک محتوا به بخش نیروی انسانی را باید ارائه دهند، به طور مثال اگر یک پست در اینستاگرام مشکوک به نقض قانون کپی‌رایت باشد، ربات آن پست را به همراه پست مشابه آن که پیش‌تر ارسال شده برای تیم بررسی مجدد محتوا می‌فرستد.

ربات‌ها روزبه‌روز هوشمندتر می‌شوند، با کمک هوش مصنوعی و یادگیری رفتار کاربران، بررسی و شناسایی محتوای نامناسب راحت‌تر می‌شود. به عنوان مثال اگر یک کاربرای برای انتشار توییت توهین‌آمیز اخطار دریافت کرده باشد، حساسیت بیشتری بر روی توییت‌های او خواهد بود و مثلا ممکن است این کاربر و فردی دیگر یک توییت با محتوای کنایه‌آمیز ارسال کنند ولی توییت این کاربر حذف شده و توییت فرد دیگر منتشر شود.

تمام آمارها و ارقام منتشر شده از شبکه‌های اجتماعی مختلف نشان می‌دهد که سرعت و دقت هوش مصنوعی رباتی در حال افزایش است و شاید در آینده نزدیک نیاز کمتری به نیروی انسانی وجود داشته باشد، اما در حال حاضر همچنان نیروی انسانی تصمیمات مهم و نهایی را در شرایط مشکوک و غیرقطعی می‌گیرد.

نیروی انسانی

فیسبوک طی سال‌های گذشته اعلام کرده بود که برای پلتفرم‌های تحت نظر خود مانند فیسبوک و اینستاگرام، بیش از 7500 نیروی متخصص دارد که قرار است 20 هزار نفر به این مجموعه اضافه شوند. البته شرکت‌هایی مانند فیسبوک و توییتر با کمپانی‌های مختلفی در سراسر دنیا برای بازبینی محتوای منتشر شده همکاری دارند.

درواقع بسیاری از شرکت‌های واسط برای همکاری با شبکه های اجتماعی در جهت بازبینی و بررسی محتوا ایجاد شده‌اند و ابزارهای تخصصی برای این کار ایجاد می‌کنند. همکاری با این شرکت‌ها موجب می‌شود تا هم کار بازبینی محتوا تسهیل یابد و هم افراد از نژادها، کشورها و زبان‌های مختلف برای بازبینی محتوای منتشر شده در همان منطقه و زبان به کار گرفته باشند.

باید در نظر داشته باشید که زبان کاربران شبکه‌های اجتماعی صرفا انگلیسی نیست، به همین دلیل برای مبارزه با انتشار پیام‌های توهین‌آمیز یا کپی، باید بتوانید اصطلاحات، ترندها، مترادف واژه‌ها، ضرب‌المثل‌ها و ادبیات فرهنگی مردم در کشورها و مناطق مختلف را بدانید.

نیروی انسانی همچنان مهم‌ترین رکن برای بازبینی و حذف یک محتوا در شبکه‌های اجتماعی است. تصاویر، پیام‌ها و ویدیوهای منتشر شده در شبکه‌های اجتماعی به صورت رندوم توسط نیروی انسانی بازبینی می‌شوند. همچنین موارد گزارش شده توسط دیگر کاربران و یا انتخاب شده توسط ربات برای تصمیم نهایی به نیروهای انسانی سپرده می‌شوند. این افراد نیز براساس قوانین پلتفرم، تصمیم به حذف محتوا، دادن اخطار به کاربر یا حتی بستن اکانت او می‌گیرند.

اما همه چیز به اینجا ختم نمی‌شود، نیروهای انسانی استخدام شده برای بازبینی و بررسی محتوا ، دوره‌های مختلفی را می‌گذرانند و آموزش می‌بینند، همچنین روانشناسان بالینی برای ارزیابی و کمک به این افراد استخدام می‌شوند.

گزارشات مردمی

گزارشات مردمی نه تنها در شبکه‌های اجتماعی بلکه در شرکت‌های بزرگ و حتی در قوانین کشورهای مختلف به عنوان یک عامل اصلی برای شناسایی تخلف شناخته می‌شود، در شبکه‌های اجتماعی نیز همین‌گونه است. در همه شبکه‌های اجتماعی و پیام‌رسان‌ها امکان ارسال گزارش تخلف برای یک پیج، کانال و کاربران مختلف وجود دارد. حتی می‌توان برای یک پست یا یک پیام، گزارش تخلف ثبت کرد.

طبیعتا هرچه تعداد ثبت تخلف در خصوص یک محتوا بیشتر باشد، زودتر و سریع‌تر به آن رسیدگی می‌شود و احتمال حذف آن نیز بیشتر است. البته این اتفاق باید هوشمندانه رخ دهد زیرا بسیاری از کاربران به دلایل غیرواقعی به یک حساب کاربری یا یک پست حمله کرده و برای آن گزارش ثبت می‌کنند. به این ترتیب باید گزارش کاربران هم توسط ربات و هم توسط نیروی انسانی به خوبی بررسی شود.

وضعیت پلتفرم‌های ایرانی

هرچند اطلاعات در مورد سرویس بازبینی پلتفرم‌های ایرانی بسیار محدود است اما مدیرعامل آپارات چند سال پیش اعلام کرده بود که در این سرویس، بررسی ویدیو پس از آپلود انجام می‌شود و به صورت هوش مصنوعی، نیروی انسانی و گزارشات مردمی است. اما اطلاعات کاملی در خصوص جزئیات این روند بازبینی محتوا وجود ندارد. همچنین در دیگر پیام‌رسان‌های ایرانی نیز از همین روش‌ها استفاده می‌شود اما جزئیات و دقت آن‌ها مشخص نیست. جا دارد مسئولین به این موضوع رسیدگی کرده و در این زمینه شفاف‌سازی کنند.

 

نوشته شبکه‌های اجتماعی چگونه محتوای کاربران را بررسی می‌کنند؟ اولین بار در اخبار فناوری و موبایل پدیدار شد.