ویرگول
ورودثبت نام
نشریهٔ بارقه
نشریهٔ بارقهنشریۀ انجمن علمی-فرهنگی دانشکدۀ مهندسی برق دانشگاه صنعتی شریف (رسانا)
نشریهٔ بارقه
نشریهٔ بارقه
خواندن ۴ دقیقه·۶ سال پیش

جعل عمیق تر است یا حقیقت؟

?مریم قربان صباغ


در سپتامبر سال گذشته، فیس‌بوک طی پیامی از مردم خواست تا ویدیوهایی برایش ارسال کنند؛ به این صورت که به وبکم یا دوربین موبایل خود نگاه کرده و دربارۀ مسائل معمولی صحبت کنند. این پیام همچنین حاوی یک هشدار بود مبنی بر اینکه محققان فیس‌بوک ممکن است تصویر چهرۀ افراد را از ویدیو استخراج کرده و به جای چهرۀ فرد دیگری قرار دهند. در حقیقت آن‌ها بازیگر یک ویدیوی دیپ‌فیک( جعل عمیق) بودند.

این ویدیوها به عنوان مجموعه‌ی داده برای مسابقه‌ای جهانی با عنوان «چالش کشف جعل عمیق » استفاده شد که فیس بوک با همکاری آمازون، ماکروسافت و محققینی از هشت دانشگاه برگزار کرد. شرکت‌کنندگان این مسابقه برای ساخت ابزاری تلاش می‌کردند که به صورت خودکار ویدیوهای جعلی را تشخیص دهد.

کریستین کانتون فرر، مدیر یکی از تیم‌های تحقیقاتی هوش مصنوعی فیس‌بوک، معتقد است دیپ‌فیک فقط یک تهدید برای فیس‌بوک نیست؛ بلکه خطری در حال رشد برای جوامع دموکراتیک است. ویدیوهای جعل شده، سیاست‌مداران را در حال بیان سخنان توهین‌آمیز نشان می‌دهند و قبل از اینکه درستی آن‌ها بررسی شود به سرعت در فضای مجازی پخش می‌شوند. انتخابات ریاست جمهوری 2020 آمریکا انگیزه‌ای مضاعف برای غلبه بر این مشکل است. کانتون فرر پیش‌بینی می‌کرد که در سال 2020 ویدیوهای دست‌کاری شده رایج‌تر شوند و دیپ‌فیک‌ها باورپذیرتر و پیچیده‌تر.

ساخت دیپ‌فیک با نرم‌افزارهای متن‌باز به مهارت نسبتاً خوبی نیاز دارد اما با ساخت اپلیکیشن‌هایی برای این کار، تولید ویدیوهای جعلی تقریباً برای همۀ افراد با هر میزان توانایی ممکن می‌شود.

دیتاسِت این چالش از افراد ناشناس تشکیل شده است که دربارۀ مسائل روزمره صحبت می‌کنند؛ زیرا روشی که برای کشف دیپ‌فیک استفاده می‌شود باید برای افراد عادی همان¬ قدر کارآمد باشد که برای سیاست¬مداران و افراد مشهور. فیس‌بوک بیش از 3500 نفر را به عنوان بازیگر برای ساخت هزاران ویدیوی دیپ‌فیک استخدام کرد. برای اینکه این مسابقه به واقعیت نزدیک‌تر باشد، آن‌ها از رایج‌ترین نرم‌افزارهای متن‌باز استفاده کردند تا ویدیوهای ارسالی را تغییر دهند. نهایتاً در دسامبر سال گذشته، مسابقه با مجموعه‌ای از 115000 ویدیوی دیپ‌فیک آغاز شد.

2114 شرکت‌کننده بیش از 35000 الگوریتم تشخیص را به این مسابقه ارسال کردند. محققان برای آموزش الگوریتم‌های خودشان به این داده‌ها دسترسی پیدا کردند و هنگام آزمایش روی این ویدیوها، میزان دقت الگوریتم‌ها برای تشخیص محتوای دیپ‌فیک در بهترین حالت 82.56 درصد بود. با این حال، هنگام آزمایش روی مجموعه دادۀ «جعبۀ سیاه» متشکل از تصاویر دیده نشده، دقت همین الگوریتم‌ها در بهترین حالت 65.18 درصد بود. بنابراین راه زیادی تا تشخیص دقیق محتوای دیپ‌فیک باقی‌ مانده‌است. فیس‌بوک به تلاش خود در این راستا ادامه می‌دهد و همچنین الگوریتم‌های برنده در این رقابت به عنوان کدهای متن‌باز برای کمک به سایر محققان منتشر خواهند شد.

تلاش DARPA برای کشف جعل عمیق:

DARPA در سال 2016 پروژه‌ای تحت عنوان Media Forensics Program را آغاز کرد. در این پروژه آن‌ها به دنبال بررسی سه ویژگی مهم اطلاعات بودند: یکپارچگی دیجیتالی ، فیزیکی و معنایی .

یکپارچگی دیجیتالی با الگوهایی که در پیکسل‌های تصویر وجود دارد و چشم انسان قادر به تشخیص آن‌ها نیست تعیین می‌شود. این الگوها از دوربین و نرم‌افزارهای پردازش ویدیو نشأت می‌گیرند و هر ناهماهنگی و تناقضی در این الگوها، هشداری است برای اینکه ویدیو تحریف شده‌است. یکپارچگی فیزیکی به هماهنگی در نور و سایه و بقیۀ ویژگی‌های فیزیکی تصویر مربوط است ولی یکپارچگی معنایی زمینه‌های گسترده‌تری را در بر می‌گیرد. به طور مثال اگر ویدیو در فضای بیرون فیلم‌برداری شده است، زمان و مکان فیلم‌برداری را مشخص کرده و بررسی می‌کنند که آیا آب و هوای آن زمان و مکان خاص با ویدیو مطابقت دارد یا خیر. الگوریتمی بهترین است که بتواند هر سه پارامتر را بررسی کند و امتیازی برای یکپارچگی تصویر ارائه دهد.

این تیم به عنوان یک مدل اولیه، پرتالی (که فعلا فقط اعضای دولت اجازۀ دسترسی به آن را دارند) ساخته‌است تا نمونه‌ای از آشکارسازهای توسعه داده شده در این پروژه را نمایش دهد. زمانی که کاربر، یکی از انواع رسانه مانند صوت، تصویر، ویدیو و... را آپلود می‌کند، بیش از 20 آشکارساز با رویکردهای متفاوت بررسی می‌کنند که آیا اطلاعات دست‌کاری شده‌است یا خیر.

اما تشخیص محتوای جعلی به‌تنهایی کافی نیست. قدم بعدی، تعیین اهمیت تغییری است که در محتوا ایجاد شده‌است. برای مثال، اگر به تصویر یک گلدان، گلی اضافه شود تغییر مهمی رخ نداده‌است اما اگر تصویر یک معترض تغییر داده‌ شود و علامت یا پرچم خاصی به عکس اضافه شود ممکن است معنای تصویر را کاملاً عوض کند.

در بهترین حالت ممکن است همۀ این تلاش‌ها منجر به یافتن راه‌های قطعی‌تری برای مقابله با دیپ‌فیک شود. به طور مثال اپلیکیشن کارآمدی برای تشخیص محتوای جعلی معرفی شود یا رسانه‎های اجتماعی مانند فیس‌بوک، توییتر، یوتیوب و... روشی اتخاذ کنند که جلوی انتشار محتوای جعلی را بگیرند، اما به هر حال، حقیقت انکارناپذیر این است که همۀ ما باید نسبت به اطلاعاتی که دریافت می‌کنیم هوشمندانه‌تر برخورد کنیم و قبل از باور یا رد کردن آن، کمی تأمل کنیم.


منابع:

https://spectrum.ieee.org/tech-talk/artificial-intelligence/machine-learning/facebook-ai-launches-its-deepfake-detection-challenge

https://ai.facebook.com/blog/deepfake-detection-challenge-results-an-open-initiative-to-advance-ai/

ما را در تلگرام دنبال کنید.

۰
۰
نشریهٔ بارقه
نشریهٔ بارقه
نشریۀ انجمن علمی-فرهنگی دانشکدۀ مهندسی برق دانشگاه صنعتی شریف (رسانا)
شاید از این پست‌ها خوشتان بیاید