دادستان‌های کل ایالات متحده به غول‌های هوش مصنوعی هشدار می‌دهند: خروجی‌های بی‌اساس را اصلاح کنید

این نامه از شرکت‌های هوش مصنوعی می‌خواهد مجموعه‌ای از رویکردهای حفاظتی داخلی را برای محافظت از سلامت روان کاربران اجرا کنند.

ابزارهای هوش مصنوعی مانند ChatGPT در طول فعالیت خود با انتقادات زیادی روبه‌رو شده‌اند که آنها را به ارائه توضیحات بی‌اساس و آسیب بالقوه به سلامت روان کاربران متهم کرده‌اند. حالا گروهی از دادستان‌های کل آمریکا با ارسال یک نامه رسمی برای بزرگ‌ترین شرکت‌های هوش مصنوعی، درباره ادامه تولید «پاسخ‌های بی‌اساس» به آنها هشدار داده‌اند.

نامه مذکور توسط ده‌ها دادستان کل ایالت‌ها و قلمروهای آمریکا امضا شده و از شرکت‌هایی مانند مایکروسافت، OpenAI و گوگل می‌خواهد تا مجموعه‌ای از رویکردهای حفاظتی داخلی را برای محافظت از کاربران اجرا کنند. نام‌های دیگری مانند آنتروپیک، اپل، متا، Perplexity AI و xAI نیز در این فهرست دیده می‌شود.

خواسته‌های مطرح شده برای غول‌های هوش مصنوعی

دادستان‌ها تأکید کرده‌اند که شرکت‌ها باید امکان انجام بازرسی‌های شفاف و مستقلی را فراهم کنند که نشانه‌های تولید محتوای بی‌اساس یا رفتار چاپلوسانه را شناسایی می‌کنند. همچنین شرکت‌ها باید رویکردهای جدیدی برای ارائه گزارش‌های مربوط به حوادث تعریف کنند تا کاربران درصورت مواجهه با خروجی‌های آسیب‌زا از نظر روانی، به‌سرعت مطلع شوند.

در این نامه گفته شده که نهادهای مستقل (گروه‌های دانشگاهی یا سازمان‌های جامعه مدنی) باید بتوانند پیش از انتشار عمومی مدل‌ها، آنها را ارزیابی کرده و نتایج خود را آزادانه منتشر کنند. در بخش دیگری از نامه آمده است:

«هوش مصنوعی می‌تواند جهان را به شکل مثبتی متحول کند، اما هم‌زمان موجب بروز آسیب‌های جدی شده و همچنان می‌تواند برای گروه‌های آسیب‌پذیر خطرآفرین باشد.»

نویسندگان نامه به چندین حادثه رسانه‌ای‌شده در یک سال گذشته اشاره کرده‌اند که به‌گفته آنها به استفاده افراطی از هوش مصنوعی مربوط می‌شوند. از نظر آنها، در بسیاری از این موارد، چت‌بات‌ها خروجی‌هایی بی‌اساس تولید کرده‌‌اند. ازجمله این پرونده‌ها می‌توان به خودکشی «آدام رین»، نوجوان 16 ساله اشاره کرد که OpenAI اخیراً گفته بود دلیل آن «استفاده نادرست» از ChatGPT بوده است.

برای حل این دسته از مشکلات، دادستان‌ها پیشنهاد کرده‌اند که شرکت‌های هوش مصنوعی با الهام از رویکرد فعلی صنعت فناوری در حوزه امنیت سایبری، یک سامانه شفاف برای گزارش حوادث سلامت روان طراحی کنند. آنها همچنین خواستار طراحی و اجرای آزمون‌های ایمنی «معقول و مناسبی» برای پیش از انتشار عمومی مدل‌ها شده‌اند.

دولت ترامپ طی یک سال گذشته تلاش کرده تا مانع تصویب مقررات ایالتی شود، اما این تلاش‌های دولتی به‌واسطه فشار مقامات محلی تاکنون ناکام مانده است. ترامپ روز دوشنبه اعلام کرده بود که قصد دارد هفته آینده با صدور یک فرمان اجرایی، مانع قانون‌گذاری مستقل برای هوش مصنوعی توسط ایالت‌ها شود.