شواهدی از تلاش برای جیلبریک‌کردن مدل‌های OpenAI نیز مشاهده شده است، هرچند تمام آن‌ها ناموفق بوده‌اند.
TechCrunch در گزارش جدیدی توضیح داده که استور GPT، مارکت‌پلیس رسمی OpenAI برای GPTها، پر از چت‌بات‌های عجیب‌و‌غریبی است که به‌طور بالقوه قانون کپی‌رایت را نقض می‌کنند. از جمله این موارد، به چت بات هایی از جمله «Iron Man» و «Mickey Mouse» اشاره‌شده که محتواهای خود را بدون مجوز به سبک دیزنی و مارول تولید می‌کنند و همچنین چت‌بات‌هایی که براساس افراد شناخته‌شده مانند «ایلان ماسک» و «دونالد ترامپ» ساخته شده‌اند.
با وجود اینکه OpenAI از یک سیستم بررسی‌ونظارت‌خودکار در ترکیب با نظارت انسانی برای انتشار چت‌بات‌ها استفاده می‌کند، اما ظاهراً هجوم چت‌بات‌های بسیار زیاد در روند نظارت بر آن‌ها اختلال ایجاد کرده است. تک‌کرانچ در گزارش جدید خود به چندین چت‌بات موجود در استور GPT اشاره کرده است که براساس فرنچایزهای سینمایی و تلویزیونی محبوب و حتی بازی‌های ویدیویی ساخته شده‌اند.
همانطور که در این گزارش نیز اشاره شده، ساخت یک چت بات به تجربه کدنویسی نیازی ندارد و احتمالاً به‌همین دلیل GPTهای بسیار زیادی در استور GPT ساخته شده‌اند که به نوعی حقوق کپی‌رایت را نقض می‌کنند.
علاوه بر این، چت‌بات‌هایی نیز وجود دارند که مکالمه با شخصیت‌های شناخته‌شده‌ای از جمله «ایلان ماسک»، «دونالد ترامپ»، «لئوناردو دی کاپریو»، «باراک اوباما» و «جو روگان» را شبیه‌سازی می کنند یا حتی شخصیتِ آن‌ها را تقلید می‌کنند. برخی از GPTها نیز در محصولات خاصی مانند MicrosoftGPT متخصص هستند.
همچنین شواهدی از تلاش برای جیلبریک‌کردن مدل‌های OpenAI نیز مشاهده شده است، هرچند تمام آن‌ها ناموفق بوده‌اند.
در نتیجه این گزارش گفته شده که با توجه به وضعیت فعلی استور GPT، احتمالاً OpenAI چالش‌های مداومی در زمینه حفظ کنترل کیفیت و پایبندی به سیاست‌های خود خواهد داشت. همچنین پاسخ OpenAI به این چالش‌ها احتمالاً مسیر آینده این پلتفرم را شکل خواهد داد.
در آیدت،
فایل‌های
خود را به فروش بگذارید و یا
مقالات‌تان
را منتشر کنید👋
پاسخ ها