OpenAI برای تشخیص ساختگی، به تصاویر DALL-E 3 واترمارک اضافه می‌کند

این شرکت امیدوار است که با این کار به تشخیص عکس‌های ساختگی و واقعی کمک کند.

شرکت OpenAI هوش مصنوعی DALL-E 3 را روزبه‌روز قدرتمندتر می‌کند. این شرکت قصد دارد با ویژگی‌های مختلف، آینده محتواهای دیجیتال این سرویس را در مسیر شفافیت و اعتماد قرار دهد. یکی از این ویژگی‌ها، قراردادن واترمارک در تصاویر DALL-E 3 است. در دورانی که تمایز بین محتوای هوش مصنوعی و واقعی هر روز سخت‌تر می‌شود، این خصوصیت گامی مهم درجهت ایجاد این تمایز است.

به‌گزارش «گیزموچاینا»، این ویژگی شامل جاسازی واترمارک در عکس‌های تولیدشده توسط Dall-E 3 است. پیاده‌سازی این علامت‌ها برای این است که تشخیص منشأ تصاویر دیجیتال آسان‌تر شود؛ به‌طوری که کاربران بتوانند بفهمند که یک تصویر توسط انسان ساخته شده است یا هوش مصنوعی. این واترمارک به دو شکل بر روی تصویر قرار می‌گیرد: یک متادیتای غیرقابل رؤیت و یک نماد CR قابل رؤیت در بالای سمت چپ تصویر. این استراتژی توسط ائتلاف اصالت و اثبات محتوا (C2PA) حمایت می‌شود.

این ویژگی پیش‌تر برای ChatGPT منتشر شده و حالا به API هوش مصنوعی DALL-E 3 نسخه تحت وب رسیده است. همچنین احتمالاً به‌زودی در دسترس کاربران موبایل DALL-E 3 نیز قرار خواهد گرفت. البته با وجود ویژگی واترمارک، برخی کاربران نگران این موضوع‌اند که کیفیت تصاویر افت پیدا کند و زمان پردازش آن‌ها افزایش یابد. البته OpenAI قول داده که چنین اتفاقاتی رخ نخواهد داد.

ویژگی واترمارک هوش مصنوعی DALL-E 3 در راستای قوانین C2PA

احتمالاً پشت این اقدام OpenAI، ائتلاف C2PA قرار دارد. این ائتلاف از طریق نشان‌های اعتبار محتوا (Content Credentials)، اصالت محتواهای دیجیتال را ترویج می‌کند. این اقدام نه‌تنها شفافیت و اعتبار محتوا را بالا می‌برد، بلکه اکوسیستم محتوای دیجیتال مصنوعی و واقعی را از یکدیگر جدا می‌کند. بنابراین قابلیت اعتماد کاربران به محتواهای آنلاین را افزایش می‌دهد.

البته چالش‌هایی هم وجود دارد؛ مانند اینکه از کدام متادیتا برای این کار استفاده شود یا اینکه شاید متادیتاها به‌صورت عمدی یا تصادفی توسط کاربران حذف شوند. این آسیب‌پذیری نشان می‌دهد که مبارزه مداوم با محتواهای دیجیتال جعلی، فرایند پیچیده‌ای دارد.