فیسبوک الگوریتم هوش مصنوعی برای شناسایی و حذف حساب های کاربری تقلبی توسعه داد

فیسبوک برای شناسایی اسپمرها و حساب‌های کاربری تقلبی، ابزاری حرفه‌ای توسعه داده که تاکنون میلیاردها حساب کاربری را حذف کرده است.

فیسبوک جزئیات ابزار حرفه‌ای مبتنی‌بر هوش مصنوعی خود را منتشر کرد که با هدف مقابله با اسپمرها و حساب‌های کاربری تقلبی توسعه یافته است. با وجود حذف میلیاردها حساب کاربری متخلف به‌واسطه‌ی این ابزار، هنوزهم غول شبکه‌های اجتماعی نمی‌تواند با اطمینان از پیروزی بر حساب‌های کاربری تقلبی در پلتفرم خود صحبت کند.

پیداکردن حساب‌های کاربری تقلبی در شبکه‌های اجتماعی، یکی از روندهای تعقیب‌و‌گریز حرفه‌ای محسوب می‌شود که به جدیدترین فناوری‌های روز نیاز دارد. به‌علاوه، به‌محض ازبین‌بردن حساب کاربری متخلف (ترول)، حساب کاربری جدیدی متولد می‌شود. به‌هرحال، فیسبوک در بیانیه‌ی جدیدش ادعا کرد ابزاری حرفه‌ای برای مقابله با متخلفان دارد و آنان نمی‌توانند به آسانی گذشته این ابزار جدید را شناسایی و با آن مقابله کنند.

مهندسان فیسبوک در بخش هوش مصنوعی ابزاری حرفه‌ای براساس یادگیری ماشین توسعه داده‌اند که تنها در سال گذشته، ۶/۶ میلیارد حساب کاربری متخلف را حذف کرده است. همچنین، روزانه میلیون‌ها تلاش برای ساختن حساب کاربری نیز در پلتفرم فیسبوک انجام می‌شوند که همین ابزار آن‌ها را متوقف می‌کند. بوچرا گاربائوی، مدیر علوم داده در فیسبوک، با انتشار آمار یادشده جزئیاتی از نحوه‌ی عملکرد ابزار را نیز ارائه کرد.

فناوری جدید موسوم به Deep Entity Classification یا DEC دلیل موفقیت ابزار شناسایی فیسبوک در مقابله با اسپمرها و متخلفان محسوب می‌شود. با نگاهی به‌ نام این ابزار می‌توان پیچیدگی آن را درک کرد. ابزار مذکور از یادگیری ماشین برای تحلیل حساب‌های کاربری فعال در فیسبوک استفاده و رفتار و تعامل هر حساب کاربری با افراد و حساب‌های کاربری دیگر را نیز تحلیل می‌کند.

مهندسان فیسبوک برای بررسی تقلبی‌بودن حساب کاربری، به‌جای بررسی خصوصیات واضح و اصلی آن، رفتار عمیق‌تر را بررسی می‌کنند. به‌بیان دیگر، DEC به‌جای بررسی محدود مواردی همچون تاریخ ساخت حساب کاربری و درخواست‌های دوستی ارسال‌شده، تمامی ویژگی‌های آن را تحلیل می‌کند؛ ازجمله ویژگی‌هایی همچون گروه‌ها و صفحاتی که حساب کاربری هدف با آن‌ها تعامل می‌کند.

DEC در تحلیل تعامل کاربر با گروه‌های فیسبوک، موارد متعددی همچون تعداد مدیران و اعضای گروه و زمان تأسیس آن را بررسی می‌کند. این ابزار نه‌تنها تعداد درخواست‌های ارسال‌شده‌ی حساب کاربری هدف را محاسبه می‌کند؛ بلکه درخواست‌های دوستی از دوستان آن حساب را نیز بررسی می‌کند.

ابزار شناسایی فیسبوک پس از جمع‌آوری داده‌های اولیه‌ی تحلیلی از هر حساب کاربری، آن‌ها را تحلیل و پردازش می‌کند. به‌عنوان مثال، تعداد میانه‌ی اعضا در گروه‌هایی محاسبه می‌شود که حساب کاربری هدف در آن‌ها عضویت دارد. همچنین، مواردی دیگر مانند حداکثر تعداد گروه‌های حساب‌های کاربری دوست نیز محاسبه می‌شوند. درنهایت، DEC نقشه‌ای می‌‌سازد که شبکه‌ی دوستان،‌ گروه‌ها، صفحه‌ها و بسیاری موارد دیگر حساب کاربری را مشخص می‌کند.

دنیل برناردت، مدیر مهندسی فیسبوک، درباره‌ی ابزار جدید می‌گوید:

با ده‌هاهزار قابلیت و مشخصه برای هر حساب کاربری روبه‌رو می‌شوید که مدل کلی پیرامونی آن را مشخص می‌کند؛ درنتیجه، از میان تعداد زیادی سیگنال می‌توانید تلاش هر کاربر برای نادرست نشان دادن هویت را تشخیص دهید. روند ما ارتباط زیادی به محتوای حساب کاربری ندارد؛ بلکه چگونگی تعامل آن را با دیگران بررسی می‌کند.

ابزار شناسایی فیسبوک برای هر حساب کاربری حدود ۲۰ هزار مشخصه را جمع‌آوری می‌کند و مزیت اصلی آن در دشواری مهندسی معکوس روند دیده می‌شود. برناردت می‌گوید مجرمان به‌راحتی روش‌های یادگیری ماشین را مهندسی معکوس می‌کنند و ساختارهای آن را می‌آموزند. اگر الگوریتم فقط تعداد محدودی مشخصه را برای شناسایی تقلبی‌بودن حساب کاربری بررسی کند، اسپمرها به‌راحتی می‌توانند همان مشخصه‌ها را به‌‌صورتی تغییر دهند که واقعی به‌نظر برسند؛ روندی که ویروس‌ها هم انجام می‌دهند.

برنادت درادامه‌ی مصاحبه می‌گوید اکثر ابزارهای مقابله با حساب کاربری تقلبی حساب‌ها را با مدلی ساده شناسایی می‌کنند. درواقع، مهندسان سیستم یادگیری ماشین را با مشخصه‌های محدود آموزش می‌دهند که به‌صورت مستقیم با حساب کاربری در ارتباط هستند. مدل‌های مرسوم ویژگی‌هایی همچون کامنت‌های اسپم یا نرخ تعامل را برای شناسایی حساب‌های کاربری تقلبی به‌کار می‌برند. گاربائولی می‌گوید متخلفان با تغییر همان چند خصوصیت محدود، روشی برای دورزدن ابزارهای شناسایی پیدا می‌کنند. به‌عنوان مثال، آن‌ها درخواست‌های دوستی حساب تقلبی را محدود می‌کنند و به‌‌دلیل همین محدودیت‌ها، برای شناسایی بهتر حساب‌های تقلبی باید عمیق‌تر رفتار‌ آن‌ها را بررسی کرد.

فیسبوک می‌گوید DEC تاکنون نتایج درخورتوجهی در مقابله با حساب‌های کاربری تقلبی به‌دست آورده است. ابزار مذکور از چند ماه پیش که به‌صورت نهایی در پلتفرم فیسبوک اجرا شد، میلیاردها حساب کاربری تقلبی را حذف کرد؛ درنتیجه‌، حجم اسپمرها و تخلف‌های کاربری در فیسبوک کاهش یافت. دراین‌میان، مهندسان شرکت ادعا می‌کنند نرخ حساب‌های کاربری تقلبی به ۵ درصد کاهش یافته است.

اگرچه ابزار جدید فیسبوک را در یکی از نبردها دربرابر حساب‌های کاربری متخلف و مجرمان پیروز کرد، آن‌ها هنوز فاصله‌ی زیادی تا پیروزی در جنگ علیه حساب‌های کاربری تقلبی دارند؛ زیرا قطعا با گذشته زمان، مجرمان بازهم راهی برای دورزدن ابزار هوش مصنوعی فیسبوک پیدا خواهند کرد. مهندسان پلتفرم نیز همین نظر را دارند و می‌گویند خراب‌کاران اینترنتی با سرعت زیادی پیشرفت و خود را سریعا با ابزارهای شناسایی هماهنگ می‌کنند.

نبرد و مقابله با حساب‌های کاربری تقلبی و اقدام‌های خراب‌کارانه در پلتفرم شبکه‌ی اجتماعی هرسال شدیدتر می‌شود. فیسبوک سال گذشته شبکه‌ای جهانی از ۹۰۰ میلیون حساب کاربری تقلبی را از بین برد. شبکه‌ی مذکور از ساختارهایی پیچیده مانند تصاویر پروفایل ساخت هوش مصنوعی استفاده می‌کرد و در تلاش بود روایت‌های حمایت از ترامپ را به ۵۵ میلیون کاربر گسترش دهد. پروفایل‌های تقلبی را افرادی در آمریکا و ویتنام مدیریت می‌کردند. این افراد گروه‌هایی پیچیده با اعضای زیاد تشکیل می‌دادند که کاربرد اصلی‌شان لایک‌کردن پست‌ها در صفحه‌های گوناگون بود.

فیسبوک سال گذشته نبرد جدی دیگری هم با پروفایل‌های تقلبی و مجرمان سازنده‌ی آن‌ها داشت و ۲،۶۰۰ حساب کاربری تقلبی را حذف کرد که رفتار غیرقانونی هدایت‌شده و هماهنگ داشتند. نیتان گلیچر، مدیر سیاست‌های امنیت سایبری فیسبوک دراین‌باره گفته بود:

اگرچه در شناسایی و مقابله با بدرفتاری‌ها پیشرفت خیره‌کننده‌ای داریم، مشکل موجود همیشه ادامه‌دار خواهد بود. درواقع، افرادی که مسئول گسترش فعالیت‌ها هستند، سرمایه‌‌ی هنگفتی دراختیار دارند و همیشه برای مقابله آماده خواهند بود. دائما در تلاش هستیم تا چند قدم از آن‌ها جلوتر باشیم.

باتوجه‌به پیچیدگی ذاتی اقدام‌های مخرب در شبکه‌های اجتماعی و پیشرفت همیشگی آن‌ها، نمی‌توان پیش‌بینی کرد ابزار جدید فیسبوک تا کِی درمقابل آن‌ها مقاوم باشد. به‌علاوه، مجرمان همیشه انگیزه‌های متعددی برای پیشرفت فعالیت‌های خود دارند و متوقف نمی‌شوند. درنهایت، مهندسان فیسبوک اعتقاد دارند زمین نبرد کنونی تا حد زیادی در کنترل مهاجمان است.

با تغییر روش‌ها و فناوری‌های استفاده‌شده‌ی مجرمان شبکه‌ی اجتماعی، ابزار فیسبوک نیز باید مجددا آموزش ببیند. ناگفته نماند توسعه‌ی ابزار نیازمند درک روش‌هایی است که مجرمان به‌کار می‌گیرند. به‌هرحال، نبرد کنونی بین متخصصان امنیت و حریم خصوصی با خراب‌کاران در شبکه‌های اجتماعی نبردی تازه با خصوصیات ناشناخته‌ی متعددی محسوب می‌شود و قطعا نمی‌توان زمان دقیقی برای پایان‌یافتن آن متصور شد.