کارشناسان امنیت سایبری: توقف توسعه مدل‌های جدید هوش مصنوعی معنی ندارد

برخلاف رهبران صنعت فناوری که خواستار توقف توسعه هوش مصنوعی به مدت شش ماه شده بودند، کارشناسان امنیت سایبری نظر دیگری دارند.

هفته گذشته، گروهی از فعالان فناوری و متخصصان هوش مصنوعی از جمله ایلان ماسک، با ارائه یک نامه سرگشاده خواستند تا توسعه سیستم‌های هو‌ش ‌مصنوعی قدرتمندتر از GPT-4 به دلیل «خطرات آن برای جامعه و بشریت» به مدت شش ماه متوقف شود. هرچند توقف این روند می‌تواند به درک بهتر و تنظیم خطرات اجتماعی ایجاد شده توسط هوش ‌مصنوعی کمک کند، برخی افراد استدلال کرده‌اند که این تلاش توسط رقبای برخی رهبران این حوزه مانند OpenAI انجام شده تا بتوانند در این فضا به رقابت بپردازند.

تحلیلگر شرکت گارتنر در مصاحبه‌ای با VentureBeat توضیح می‌دهد که «وقفه شش ماهه درخواستی برای توقف آموزش مدل‌های قدرتمندتر از GPT-4 است. GPT-5 به‌زودی پس از GPT 4.5 منتشر خواهد شد که انتظار می‌رود به AGI (هوش عمومی مصنو‌عی) دست پیدا کند. هنگامی که AGI در دسترس قرار بگیرد، احتمالاً برای ایجاد کنترل‌های ایمنی که به‌طور مؤثر از انسان در مقابل استفاده از این سیستم‌ها محافظت می‌کند، خیلی دیر خواهد بود».

نظر کارشناسان امنیت سایبری درباره توقف توسعه هوش مصنوعی

با وجود نگرانی‌هایی که در مورد خطرات اجتماعی ناشی از هوش مصنوعی مولد وجود دارد، بسیاری از کارشناسان امنیت سایبری همچنین اشاره کرده‌اند که وقفه در توسعه هوش ‌مصنوعی به‌هیچ وجه کمک کننده نخواهد بود. در عوض، آن‌ها استدلال کرده‌اند که این تصمیم، فرصت موقتی برای تیم‌های امنیتی ایجاد خواهد کرد تا بتوانند روش‌های دفاعی خود را توسعه دهند.

یکی از قانع‌کننده‌ترین استدلال‌هایی که علیه توقف تحقیقات هوش مصنوعی ارائه شده، ادعا می‌کند که این تصمیم فقط بر فروشندگان تأثیرگذار خواهد بود و نه عوامل تهدید. طبق این استدلال، مجرمان سایبری همچنان توانایی توسعه حملات جدید و همچنین تقویت تکنیک‌های تهاجمی خود را خواهند داشت.

«استیو گروبمن»، مدیر ارشد فناوری McAfee، به VentureBeat گفت:

«توقف توسعه نسل بعدی هوش مصنوعی مانع حرکت این فناوری به سمت‌های خطرناک نخواهد شد. با پیشرفت فناوری، وجود سازمان‌ها و شرکت‌هایی با آیین و استانداردهایی که به پیشرفت فناوری ادامه می‌دهند برای اطمینان از اینکه از فناوری به مسئولانه‌ترین شکل ممکن استفاده می‌شود، ضروری است.»

در واقع، کارشناسان این صنعت پیشنهاد می‌کنند که به جای توقف توسعه مدل‌های جدید، تمرکز روی نحوه مدیریت خطرات مرتبط با استفاده مخرب از هوش ‌مصنوعی مولد و ترغیب فروشندگان هوش مصنوعی به شفافیت بیشتر، می‌تواند به کاهش خطرات مربوط به این زمینه کمک بیشتری کند.