حذف محتوای مجرمانه با هوش مصنوعی فیسبوک
با افزایش استفاده از شبکه های اجتماعی از جمله اینستاگرام، توئیتر، فیسبوک و …، کمتر کسی را میتوان یافت که از این سرویسها استفاده نکرده باشد. این ابزارها در کنار مفید و کارآمد بودن و ایجاد بستری مناسب برای ارتباط کاربران با یکدیگر، در برخی موارد میتوانند باعث ایجاد بستری برای نشر موضوعات و محتوای نامناسب باشند. حتما در هنگام فعالیت در برخی از این شبکههای اجتماعی از جمله فیسبوک، متوجه این مسئله شده اید که برخی از پستها و متنها همراه با اخطارهایی مشخص برای کاربران نمایش داده شده و به همین دلیل این پستها قابل مشاهده نیستند. ممکن است از خودتان بپرسید این اخطارها و سانسورها چه علتی دارد؟ علت این موضوع را میتوان در هوشمصنوعی فیسبوک جستوجو کرد.
این اخطارها به چند دلیل مختلف در صفحه اکانت شما ظاهر میشوند، دلایلی مانند سیاستهای مربوط به حریم شخصی کودکان، استفاده غیرمجاز از موارد دارای حق نسخهبرداری، رفتارهای توهینآمیز و تهدیدهای خشونتبار و … . یکی از مهمترین و خطرناک ترین دسته، محتوای مرتبط با موضوعات تروریستی میباشد که هوشمصنوعی فیسبوک روی آن به شدت حساس هست.
شما می توانید با گزارش این صفحات، کمتر شاهد انتشار این نمونه پستها باشید، اما قطعا کنترل هزاران اکانت و محتوای نامناسب خارج از کنترل انسان به تنهایی است. اینجاست که هوش مصنوعی فیسبوک به کمک این شرکت میاد.
در جدیدترین اقدام، شرکت فیسبوک برای حل این موضوع از هوش مصنوعی کمک گرفته است؛ طبق گفته مارک زاکربرگ (موسس و مدیر ارشد فیسبوک)، این شرکت موفق شده است ابزارهای هوش مصنوعی را تولید کند که به وسیله آن میتوانند متوجه شوند تروریستها چه زمانی قصد انتشار محتوا دارند و به این ترتیب موفق میشوند 99 درصد از محتوای تروریستی را قبل از مشاهده و گزارش به وسیله کاربران حذف کنند.
در حال حاضر شاید در برخی از موارد شاهد انتشار پستهایی با محتوای نامناسب در بستر شبکههای اجتماعی باشیم اما در آینده ای نزدیک و با استفاده بیشتر و گستردهتر از هوش مصنوعی فیسبوک، میتوان شاهد تاثیرگذاری این سیستم در جلوگیری از انتشار تمامی محتواهای نامناسب تولید شده (نه تنها محتوای تروریستی در بستر شبکههای اجتماعی) بود. همچنین با استفاده از ابزارهای هوش مصنوعی، میتوان مشاهده کرد که دیگر نیازی به واکنش و اقدام جداگانه کاربران نسبت به گزارش این صفحات و محتوای نامناسب آنها وجود ندارد و استفاده از این ابزار توانسته است فضای این برنامه ها را به بستری امنتر و قابل اطمینانتر تبدیل کند.
به قلم رژین سبحانی
دیدگاهتان را بنویسید