دارپا بریتانیا در حال کار بر روی پروژه ای برای کنترل سیستم های هوش مصنوعی است

این سیستم هوش مصنوعی با ترکیب رویکردهای تجاری و صحت‌سنجی ریاضیاتی تضمین می‌کند که سیستم‌های هوش مصنوعی از کنترل خارج نشوند.

آژانس پژوهش‌ها و اختراعات پیشرفته بریتانیا یا آریا (ARIA)، از چشم‌انداز آینده‌نگرانه خود برای ساخت «تعهدات ایمنی کمی» هوش مصنوعی پرده برداشت. به بیان ساده‌تر این برنامه شامل استانداردهایی می‌شود که تضمین می‌کنند اقدامات مربوط به هوش مصنوعی از کنترل خارج نخواهند شد و هیچ آسیبی از یک اقدام خاص حاصل نخواهد شد.

هسته اصلی برنامه ARIA، هوش مصنوعی «دروازه‌دار» (Gatekeeper) است. در واقع این دیده‌بان دیجیتالی تضمین خواهد کرد که سیستم‌های هوش مصنوعی تنها در محدوده کاربردهای خاص خود عمل می‌کنند. در صورت موثر بودن، این پروژه می‌تواند از برنامه‌های کاربردی هوش مصنوعی با ریسک بالا مانند کاربردهای هوش مصنوعی در بهبود زیرساخت‌های حیاتی یا بهینه‌سازی آزمایش‌های پزشکی بالینی، محافظت کند.

آریا بودجه‌ای 59 میلیون پوندی به این برنامه اختصاص داده است که مغز متفکر آن، «دیوید دالریمپل» (David Dalrymple)، مخترع ارز دیجیتال «فایل‌کوین» (Filecoin) است. همچنین قرار است که پس از توسعه این هوش مصنوعی، کاربرد آن در یک حوزه آزمایش شود. حوزه‌های پیشنهادی برای آزمایش عبارتند از بهینه‌سازی تعادل شبکه برق و مدیریت زنجیره‌های تأمین.

هوش مصنوعی دروازه‌دار

دربان‌های آریا بر مدل‌های علمی دنیا و اثبات‌های ریاضیاتی متکی هستند. در این رویکرد، مدل‌های تجاری با مفاهیم دانشگاهی ترکیب می‌شود. دالریمپل می‌گوید:

«رویکردهایی که کمپانی‌های تجاری در ساخت سیستم‌های هوش مصنوعی استفاده می‌کنند، بر نمونه‌های محدود متکی هستند و هیچ تضمینی درباره رفتار سیستم‌های درحال توسعه ارائه نمی‌دهند. از طرف دیگر، تمرکز روی رویکردهای آکادمیک، مانند منطق صوری، باعث می‌شود تا نتوانیم توانایی‌های هوش مصنوعی را به‌طور کارآمد توسعه دهیم. رویکرد دروازه‌دار ما این اجازه را می‌دهد که دانشمندان هوش مصنوعی بتوانند از قابلیت‌های هوش مصنوعی تجاری برای توسعه سریع سیستم‌ها استفاده کنند، و همزمان کنترل آن را به وسیله منطق ریاضیاتی تضمین کنند.»

دارپای بریتانیایی چیست؟

آریا یک سازمان تأمین مالی پژوهشی است که دولت بریتانیا سال 2023 آن را تأسیس کرد. شباهت‌های این سازمان به واحد پژوهش‌های پیشرفته پنتاگون باعث شده تا به آن لقب «دارپای بریتانیایی» بدهند.

پروژه هوش مصنوعی دروازه‌دار آریا شباهت‌های زیادی با برنامه HACMS دارپای آمریکا دارد. HACMS ثابت کرد که می‌توان از صحت‌سنجی ریاضیاتی برای تولید نرم‌افزارهای بدون باگ استفاده کرد. یکی از دستاوردهای این برنامه، ساخت یک کوادکوپتر غیرقابل هک بود.

یکی دیگر از پروژه‌های این سازمان، ساخت سیستم‌های هوش مصنوعی با 0٫1 درصد هزینه‌های فعلی است. موفقیت این پروژه‌ها می‌تواند نظر سیاستمداران را به این سازمان جلب کند تا بودجه‌های بیشتری به آن اختصاص دهند.