یک شرکت هوش مصنوعی دیروز دوشنبه داده‌های جدیدی منتشر کرد که نشان‌دهنده وضعیت وخیم سلامت روان کاربران چت‌بات آن است.
به گزارش فارس به نقل از تک کرانچ، آمار جدید شرکت اوپن‌ای‌آی نشان می‌دهد چه تعداد از کاربران چت جی‌پی‌تی با آن در مورد خودکشی صحبت می‌کنند.این شرکت می‌گوید که ۰.۱۵ درصد از کاربران فعال چت جی‌پی‌تی در طول هفته مکالماتی با آن دارند که نشانه‌های صریح برنامه‌ریزی یا قصد خودکشی بالقوه در آنها وجود دارد.
با توجه به اینکه چت جی‌پی‌تی بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد، این رقم به معنای بیش از یک میلیون نفر در هفته است.اوپن‌ای‌آی می‌گوید درصد مشابهی از کاربران دارای سطوح بالایی از دلبستگی عاطفی به چت جی‌پی‌تی بوده و صدها هزار نفر در مکالمات هفتگی خود با این چت‌بات هوش مصنوعی، نشانه‌هایی از روان‌پریشی یا شیدایی را نشان می‌دهند.
شرکت OpenAI می‌گوید این نوع مکالمات در ChatGPT بسیار نادر هستند و بنابراین اندازه‌گیری حجم و فراوانی آنها دشوار است. با این حال، این شرکت تخمین می‌زند که این مشکلات هر هفته صدها هزار نفر را تحت تأثیر قرار می‌دهد.شرکت OpenAI این اطلاعات را به عنوان بخشی از یک اطلاعیه گسترده‌تر در مورد تلاش‌های اخیر خود برای بهبود نحوه پاسخگویی مدل‌های هوش مصنوعی این شرکت به کاربران دارای مشکلات سلامت روان به اشتراک گذاشت.
این شرکت ادعا می‌کند که آخرین کار آن در مورد چت جی‌پی‌تی شامل مشاوره با بیش از ۱۷۰ متخصص سلامت روان بوده است. اوپن‌ای‌آی تصریح کرد متخصصان معتقدند آخرین نسخه ChatGPT پاسخ های مناسب‌تر و مداوم‌تری در مقایسه با نسخه‌های قبلی دارد.
در ماه‌های اخیر، مشخص شده که چت‌بات‌های هوش مصنوعی می‌توانند بر کاربرانی که با چالش‌های سلامت روان دست و پنجه نرم می‌کنند، تأثیر منفی بگذارند و آنها را به سمت خودکشی سوق دهند. محققان پیش از این دریافته بودند که چت‌بات‌های هوش مصنوعی می‌توانند برخی از کاربران را به ورطه توهم بکشانند، که عمدتاً با تقویت باورهای خطرناک از طریق رفتار چاپلوسانه صورت می‌گیرد.
در آیدت،
فایل‌های
خود را به فروش بگذارید و یا
مقالات‌تان
را منتشر کنید👋
پاسخ ها