OpenAI اکانت متخلفان چینی را مسدود کرد؛ سوء استفاده از ChatGPT برای پایش شبکه های اجتماعی

این اکانت‌ها از ChatGPT برای تهیه پروپوزال یک پروژه رصد شبکه‌های اجتماعی و مسلمانان اویغور استفاده کرده‌اند.

OpenAI اعلام کرده که چند حساب کاربری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و پروژه‌ای مربوط به یک ابزار رصد شبکه‌های اجتماعی استفاده می‌کردند، مسدود کرده است.

براساس اعلام این شرکت، این حساب‌ها از طریق VPN از چین به ChatGPT متصل می‌شدند و ظاهراً برای یک مشتری دولتی درحال کار بودند. ابزاری که این حساب‌ها روی آن کار می‌کردند، به‌عنوان رصدکننده شبکه‌های اجتماعی توصیف شده است که به اپراتورها کمک می‌کند پلتفرم‌هایی مانند ایکس، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.

اکانت‌های مسدودشده ChatGPT احتمالاً به نهادی دولتی در چین وابسته بوده‌اند

OpenAI تأکید کرده که حساب‌های مسدودشده از مدل‌های هوش مصنوعی این شرکت برای رصد شبکه‌های اجتماعی استفاده نکرده‌اند و همچنین شرکت قادر نیست به‌طور مستقل تأیید کند که آیا این ابزار واقعاً توسط نهادهای دولتی چین مورد استفاده قرار گرفته است یا خیر.

OpenAI همچنین یک حساب دیگر را مسدود کرده که از ChatGPT برای تهیه پیشنهادی در مورد یک پروژه مرتبط با رصد تحرکات مسلمانان اویغور استفاده می‌کرده است. گفته می‌شود این سیستم برای ردیابی جابه‌جایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام بابت جابه‌جایی‌های آنها طراحی شده بود. در سال‌های اخیر، گروه‌های مدافع حقوق بشر بارها دولت چین را به نقض حقوق مسلمانان اویغور متهم کرده‌اند.

گزارش منتشرشده توسط OpenAI همچنین جزئیات بیشتری درباره گروه‌های چینی، روسی و کره‌ای ارائه می‌دهد که ظاهراً در تلاش بوده‌اند از ChatGPT برای توسعه و بهبود بدافزارها از جمله تروجان‌های دسترسی از راه دور، ابزارهای سرقت اطلاعات و نرم‌افزارهایی برای دورزدن فرایندهای شناسایی در سیستم‌ها استفاده کنند.

OpenAI همچنین شبکه‌های کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که سعی در سوءاستفاده از مدل‌های این شرکت داشتند، شناسایی و مختل کرده است.