فیسبوک جانب داری نژادی در الگوریتم های خود را بررسی می کند

فیسبوک که از مدت‌ها پیش به جانب‌داری در الگوریتم‌‌ها متهم شده است، برنامه‌ای جدی برای بررسی آن‌ها به‌ویژه در حوزه‌ی هوش مصنوعی پیاده‌ می‌کند.

فیسبوک تیم تحقیقاتی مستقلی تشکیل داد که با هدف مطالعه‌ی شبکه‌ی اجتماعی اصلی و اینستاگرام و پیدا کردن هرگونه نشانه از جانب‌داری نژادی فعالیت خواهند کرد. تیم تحقیقاتی، به‌صورت ویژه روی الگوریتم‌های مخصوص هوش مصنوعی تحقیق می‌کنند تا هرگونه ناعدالتی علیه نژاد‌های سیاه، هیسپانیک و دیگر نژادهای اقلیت را بررسی کنند. سخنگوی فیسبوک در توضیح مسئولیت و وظایف تیم جدید گفت: «این گروه تلاش می‌کنند تا عدالت و انصاف را در توسعه‌ی تمامی فعالیت‌های ما مورد بررسی عمیق قرار دهند. ما هکاری نزدیکی با تیم Responsible AI فیسبوک خواهیم داشت تا هرگونه جانب‌داری نژادی را در پلتفرم‌های تحت مدیریت خود مورد بررسی قرار دهیم».

برنامه‌ی جدید فیسبوک متمرکز بر توسعه‌ی تیمی مخصوص عدالت در شبکه‌های اجتماعی، با طرح‌ها و نظرهای این شرکت در گذشته کمی تفاوت دارد. غول شبکه‌های اجتماعی همیشه با برنامه‌های داخلی برای تحقیق روی بی‌عدالتی و جانب‌داری نژادی در شرکت مخالف بود. به‌هرحال اخبار شکل‌گیری گروه جدید اهمیت زیادی برای فعالان دنیای فناوری دارد و تاکنون رسانه‌های متعددی همچون وال‌استریت ژورنال گزارش‌هایی در ارتباط با آن منتشر کرده‌اند.

ویشال شاه، معاون ارشد بخش محصول در اینستاگرام، در بیانیه‌ای که برای رسانه‌ها ارسال کرد، طرح جدید شرکت را این‌گونه توضیح داد: «حرکتی که در مسیر عدالت نژادی شکل گرفت، اهمیت زیادی برای شرکت ما دارد. هرگونه جانب‌داری در سیستم‌های ما، در مقابل ارزش‌های بنیادی قرار می‌گیرد که پلتفرمی برای همه‌ی مردم جهت ابزار عقاید را در نظر دارد. ما همیشه در تلاش هستیم تا تجربه‌ای عادلانه را برای همه‌ی مردم ایجاد کنیم. در همین مسیر، تلاش‌های خود را برای پیشرفت هرچه بیشتر برنامه‌ها افزایش می‌دهیم. از برنامه‌های اخیر می‌توان به شکل‌گیری تیم Instagram Equity Team و Inclusive Product Counscil در فیسبوک اشاره کرد».

اخبار پیرامون تصمیم جدید فیسبوک در دورانی منتشر می‌شود که هنوز ناآرامی‌ها در شهرهای گوناگون ایالات متحده برای اعتراض به قتل یک شهروندی سیاهپوست، جورج فلوید، ادامه دارد. فیسبوک همچنین در یک ماه گذشته تحت فشارهای متعددی ازسوی فعالان اجتماعی بود و کمپین StopHateForProfit# ضربه‌های محکمی به شرکت وارد کرد. کمپین مذکور، توسط گروه‌های اجتماعی همچون Anti-Defamation League, Color of Change, NAACP و بسیاری دیگر مدیریت شد که توقف نمایش تبلیغات در فیسبوک را تقاضا می‌کرد. غول‌هایی همچون کوکاکولا، دیزنی، مک‌دونالد، استارباکس و والمارت به این کمپین پیوستند. زاکربرگ چندی پیش جلسه‌‌ای با مدیران کمپین داشت و ظاهرا آن‌ها از پاسخ‌هایش ناامید شدند.

مدیرعامل اینستاگرام، آدام موسری، ماه گذشته از تغییر روش مدیریت چالش‌های نژادپرستی در پلتفرم خبر داد. او گفت پذیرفتن چالش‌هایی که گروه‌های اقلیت همچون سیاهپوستان در کار با اینستاگرام تجربه می‌کنند، قدم اول در بهبود کلی سیستم خواهد بود. موسری گفته بود که کارهای زیادی در مسیر درک تأثیر پلتفرم روی گروه‌های متعدد اجتماعی انجام داده‌اند و دستاوردهای کنونی، نتیجه‌ی همان کارها بوده‌اند؛ اما هنوز راه زیادی در پیش دارند. موسری به‌صورت اختصاصی به آزار و اذیت، فرایندهای تأیید حساب کاربری، توزیع محتوا و دیگر جانب‌‌داری‌های الگوریتمی اشاره کرد که اینستاگرام برای بهبود وضعیت باید آن‌ها را حل کند.

فیسبوک تاریخچه‌ی مثبتی در ارتباط با جانب‌داری‌های نژادی ندارد. به‌عنوان مثال آن‌ها به تبلیغ‌دهنده‌ها اجازه می‌دادند تا در تبلیغ در برخی از بازارها مانند مسکن یا اشتغال، گروه‌های اقلیت را نادیده بگیرند. غول شبکه‌های اجتماعی، اغلب را روش‌های فنی، نگرانی‌های مرتبط با نژادپرستی را دور می‌زد. به‌عنوان مثال آن‌ها به‌جای دسته‌بندی کاربران با نژاد، از وابستگی‌های با عبارت‌های «قومی» یا «چندفرهنگی» استفاده می‌کرد. آن‌ها همچنین گروه‌های هویتی را بسته به محتوایی که عموما اقلیت‌های سیاه‌پوست، هیسپانیک و غیره در پلتفرم می‌پسندند، تدوین می‌‌کردند. تنها پس از شکایت گروه‌های فعال اجتماعی و پرونده‌های حقوقی بود که فیسبوک، هدف‌گیری نژادی کاربران برای تبلبغ‌های املاک، اشتغال و خدمات اعتباری را لغو کرد.

تعداد کاربران سیاه‌پوست در فیسبوک، کمتر از چهار درصد گزارش می‌شود. وال‌استریت ژورنال در گزارش خود می‌گوید مقام‌های شرکت سال گذشته هرگونه تحقیق کارمندان روی تأثیر پلتفرم بر نژادپرستی را بدون دریافت تأییدیه از رهبران ارشد سازمان، ممنوع اعلام کرد. در ادامه‌ی گزارش گفته می‌شود که درنتیجه‌ی همین تصمیم‌ها، نرم‌افزار خودکار فیسبوک با وظیفه‌ی مدیریت حساب‌های کاربری در اینستاگرام، در عملکردی جانب‌دارانه نسبت به کاربران سیاه‌پوست پلتفرم عمل می‌کند.

با شکل‌گیری اعتراض‌های موسوم به Black Lives Matter در ایالات متحده، فیسبوک متعهد شد که ۲۰۰ میلیون دلار کمک مالی به کسب‌وکارهای تحت مدیریت سیاه‌پوست‌ها اختصاص دهد. آن‌ها همچنین اعلام کردند که در برنامه‌ای پنج ساله، سهم سیاه‌پوست‌ها و دیگر نژادهای اقلیت را در تیم‌های مدیریتی خود به اندازه‌ی ۳۰ درصد افزایش خواهند داد. آن‌ها همچنین تلاش می‌کنند تا تعداد کارمندان سیاه‌پوست و هیسپانیک خود را تا سال ۲۰۲۳، دو برابر کنند. اخیرا یک حکم حقوقی با فشار گروه‌های مدنی هم علیه فیسبوک صادر شد که آن‌ها را ملزم به بررسی و ازبین‌بردن جانب‌داری نژادی در پلتفرم می‌کند. البته فعالان مدنی حکم، درنهایت اجازه‌ی بررسی سیستم‌های هوش مصنوعی و تحقیقات فیسبوک را پیدا نکردند و برنامه‌ی مطالعاتی، به‌صورت داخلی توسط کارمندان خود شرکت انجام می‌شود.