«اوپن‌ای‌آی» ادعا می‌کند نوجوانی که پس از گفت‌وگو با «چت‌جی‌پی‌تی» خودکشی کرد، پیش از خودکشی، ویژگی‌های ایمنی چت‌بات را دور زده است.
به گزارش ایسنا، در ماه اوت «متیو رین»(Matthew Raine) و «ماریا رین»(Maria Raine) از شرکت «اوپن‌ای‌آی»(OpenAI) و «سم آلتمن»(Sam Altman) مدیرعامل آن به دلیل خودکشی پسر ۱۶ ساله‌شان «آدام»(Adam) شکایت کردند و این شرکت را به مرگ غیرعمد او متهم کردند.
به نقل از تک کرانچ، اوپن‌ای‌آی در روزهای اخیر با تشکیل پرونده‌ای به این شکایت پاسخ داد و استدلال کرد که نباید مسئول مرگ این نوجوان شناخته شود.
اوپن‌ای‌آی ادعا می‌کند که در طول تقریباً ۹ ماه استفاده، چت‌جی‌پی‌تی بیش از ۱۰۰ بار رین را به درخواست کمک هدایت کرده است اما رین توانست ویژگی‌های ایمنی شرکت را دور بزند و چت‌بات را وادار کند تا مشخصات فنی همه چیز را از مصرف بیش از حد مواد مخدر گرفته تا غرق شدن و مسمومیت با مونوکسید کربن به او ارائه دهد و به او کمک کند تا آنچه را که این چت‌بات «خودکشی زیبا» می‌نامد، برنامه‌ریزی کند.
از آنجا که رین از چارچوب‌های چت‌جی‌پی‌تی عبور کرده، اوپن‌ای‌آی ادعا می‌کند که او شرایط استفاده از آن را نقض کرده است. در شرایط استفاده از چت‌جی‌پی‌تی آمده است که کاربران نمی‌توانند از هیچ یک از اقدامات حفاظتی و ایمنی در سرویس‌های آن عبور کنند. همچنین، این شرکت استدلال می‌کند که صفحه سوالات متداول آن به کاربران هشدار می‌دهد که بدون تأیید مستقل، به خروجی چت‌جی‌پی‌تی اعتماد نکنند.
«جی ادلسون»(Jay Edelson) وکیل خانواده رین در بیانیه‌ای گفت: اوپن‌ای‌آی تلاش می‌کند تقصیر را به گردن دیگران بیندازد؛ از جمله این که به طرز شگفت‌آوری می‌گوید که خود آدام به واسطه تعامل با چت‌جی‌پی‌تی به همان روشی که برای آن برنامه‌ریزی شده بود، شرایط و ضوابط آن را نقض کرده است.
اوپن‌ای‌آی گزیده‌هایی را از گزارش‌های چت آدام در پرونده خود گنجانده است که به گفته آن، زمینه بیشتری را از گفت‌وگوهای او با چت‌جی‌پی‌تی فراهم می‌کند. این رونوشت‌ها به صورت مهروموم‌شده به دادگاه فرستاده شده‌اند؛ به این معنی که در دسترس عموم نیستند. با وجود این، اوپن‌ای‌آی اعلام کرد که رین سابقه افسردگی و افکار خودکشی داشته است که به پیش از استفاده از چت‌جی‌پی‌تی برمی‌گردد و او دارویی مصرف می‌کرده که می‌تواند افکار خودکشی را بدتر کند.
ادلسون گفت که پاسخ اوپن‌ای‌آی به اندازه کافی به نگرانی‌های خانواده رسیدگی نکرده است. وی افزود: اوپن‌ای‌آی و سم آلتمن هیچ توضیحی برای آخرین ساعت‌های زندگی آدام ندارند که چت‌جی‌پی‌تی به او کمک کرد و سپس پیشنهاد داد که یادداشت خودکشی بنویسد.
در آیدت،
فایل‌های
خود را به فروش بگذارید و یا
مقالات‌تان
را منتشر کنید👋
پاسخ ها