شکایت از OpenAI؛ ChatGPT قوانین اتحادیه اروپا را با مشکل "توهم" نقض کرده است

شکایت جدید توهم ChatGPT و ناتوانی آن در تصحیح اطلاعات نادرست درباره افراد را هدف قرار داده است.

OpenAI با شکایت دیگری درخصوص حفظ حریم خصوصی در اتحادیه اروپا مواجه شده است. این پرونده جدید که توسط یک گروه حقوقی اتریشی به نمایندگی از یک شاکی ناشناس ثبت شده، مشکل توهم چت‌بات ChatGPT و ناتوانی آن در تصحیح اطلاعات نادرست افراد را هدف قرار داده است.

ابزارهای هوش مصنوعی مولد با تمام مزایای منحصربه‌فرد خود، گاهی آشکارا اطلاعات اشتباهی به کاربر می‌دهند و به‌اصطلاح دچار توهم (Hallucination) می‌شوند. این مشکل در تضاد با «مقررات عمومی حفاظت از داده‌‌ها» یا GDPR اتحادیه اروپا است.

اکنون براساس گزارش تک‌کرانچ، گروه حقوقی اتریشی Noyb، با استناد به GDPR و به نمایندگی از یک شاکی ناشناس، علیه OpenAI شکایت کرده است. این شاکی ناشناس که در پرونده نامی از آن برده نشده و صرفاً به آن «شخصیت عمومی» اطلاق شده، مدعی است که این چت‎‌بات تاریخ تولد او را اشتباه ذکر می‌کند. همچنین ظاهراً OpenAI درخواست این فرد برای تصحیح یا پاک‌کردن داده‌های اشتباه را رد کرده و گفته است که این امر امکان‌پذیر نیست.

شکایت جدید علیه OpenAI و مشکل توهم ChatGPT

براساس مقررات GDPR، افراد در اتحادیه اروپا دارای مجموعه‌ای از حقوق هستند که به اطلاعات مربوط به آن‌ها پیوست می‌شود و حق تصحیح داده‌های اشتباه نیز یکی از آن‌هاست. Noyb ادعا می‌کند که OpenAI در رابطه با داده‌های خروجی چت‌بات خود از این تعهد پیروی نمی‌کند. این شرکت می‌گوید OpenAI درخواست شاکی را برای اصلاح تاریخ تولد نادرست رد کرده و در پاسخ گفته که این اصلاح از نظر فنی غیرممکن است.

البته در خط‌مشی OpenAI بیان شده کاربرانی که متوجه می‌شوند چت‌بات اطلاعات نادرستی درباره آن‌ها ایجاد کرده است، می‌توانند «درخواست تصحیح» را از طریق ایمیل گزارش دهند. بااین‌حال، این شرکت در خط‌مشی خود قید کرده است: «با توجه به پیچیدگی فنی نحوه کار مدل‌های ما، ممکن است نتوانیم در هر موردی اطلاعات نادرست را اصلاح کنیم.»

در آن صورت، OpenAI به کاربران پیشنهاد می‌کند که اگر مایل باشند، با پرکردن یک فرم، اطلاعات شخصی آن‌ها به‌طور کامل از داده‌های ChatGPT حذف شود.

OpenAI با چند شکایت مشابه در لهستان نیز مواجه بوده است. در سال 2023، مقامات محلی حفاظت از داده‌ها، تحقیقاتی را درباره ChatGPT پس از شکایت یک محقق حریم خصوصی و امنیت آغاز کردند. این محقق متوجه شده بود که قادر به تصحیح اطلاعات نادرست درباره خود نیست.