
یک عکس از سیل در شهری که میشناسید، ویدئویی از یک چهره مشهور یا صدای یکی از اعضای خانواده که درخواست پول میکند؛ کدامیک واقعی است و کدام ممکن است با هوش مصنوعی ساخته شده باشد؟
امروزه ابزارهای هوش مصنوعی میتوانند تصویرهایی بسیار واقعی بسازند، صدای افراد را تقلید کنند و ویدئوهایی تولید کنند که در نگاه اول کاملاً باورپذیر به نظر میرسند. به همین دلیل، دیگر نمیتوان فقط با نگاهکردن به یک تصویر یا شنیدن یک صدا درباره واقعیبودن آن تصمیم گرفت.
اما خبر خوب این است که برای بررسی محتوای مشکوک، لزوماً به دانش تخصصی یا نرمافزارهای پیچیده نیاز ندارید. با چند روش ساده میتوانید احتمال جعلیبودن یک تصویر، صدا یا ویدئو را بررسی کنید و پیش از بازنشر آن، تصمیم آگاهانهتری بگیرید.
در این راهنمای کاربردی از مجله اوپاکالا، نشانههای محتوای ساختهشده با هوش مصنوعی، ابزارهای بررسی و روشهای مقابله با جعل دیجیتال را مرور میکنیم.
عکس: دستها، نوشتههای داخل تصویر، بازتابها، سایهها و جزئیات پسزمینه را بررسی کنید.
صدا: به هماهنگی لحن، مکثها، تلفظ و طبیعیبودن گفتار توجه کنید؛ اما به گوش خودتان بهتنهایی اعتماد نکنید.
ویدئو: هماهنگی حرکت لبها، صدا، نور، پسزمینه و پیوستگی حرکات را بررسی کنید.
منبع: ببینید چه کسی محتوا را منتشر کرده و آیا منابع مستقل هم آن را تأیید کردهاند.
ابزارهای تشخیص: در صورت امکان، از ابزارهای بررسی منشأ محتوا و واترمارکهای دیجیتال استفاده کنید.
نکته مهم این است که هیچکدام از این نشانهها بهتنهایی اثبات نمیکنند که یک محتوا جعلی است. هدف، جمعآوری شواهد و بررسی اعتبار محتواست.
تصاویر تولیدشده با هوش مصنوعی در گذشته بیشتر با دستهای غیرطبیعی، انگشتان اضافی یا چهرههای عجیب شناخته میشدند. اما مدلهای جدید بسیاری از این اشتباهات را برطرف کردهاند. بنابراین، بهتر است بهجای جستوجوی یک نشانه مشخص، چند بخش تصویر را با دقت بررسی کنید.
به دستها، انگشتان، گوشها، دندانها و زیورآلات توجه کنید. گاهی در تصاویر مصنوعی، انگشتان به هم متصل میشوند، گوشوارهها شکل متفاوتی دارند یا اجزای لباس با بدن هماهنگ نیستند.
البته وجود یک دست غیرعادی همیشه به معنای استفاده از هوش مصنوعی نیست؛ عکس واقعی نیز ممکن است به دلیل زاویه دوربین، حرکت یا کیفیت پایین تصویر عجیب به نظر برسد.
تابلوها، پلاکها، نوشته روی لباس، بستهبندی محصولات و صفحات نمایش را بررسی کنید. در برخی تصاویر تولیدشده با هوش مصنوعی، حروف شبیه متن واقعیاند اما معنای مشخصی ندارند.
این نشانه در تصاویر جدید کمتر از گذشته قابل اتکاست؛ زیرا ابزارهای تولید تصویر در ساخت نوشتههای خوانا پیشرفت کردهاند.
اگر نور از سمت راست به صورت میتابد، آیا سایههای اجسام نیز با همین جهت سازگارند؟ آیا انعکاس فرد در آینه با ظاهر او مطابقت دارد؟ آیا اشیای براق بازتابی متناسب با محیط دارند؟
ناهماهنگیهای واضح میتوانند نشانهای برای بررسی بیشتر باشند، اما اصلاح تصویر، نورپردازی حرفهای و فشردهسازی فایل نیز ممکن است ظاهر آن را تغییر دهند.
به ساختمانها، پنجرهها، انگشتان افراد دوردست، نوشتههای ریز و الگوهای تکراری توجه کنید. گاهی سوژه اصلی طبیعی به نظر میرسد، اما جزئیات پسزمینه نامنظماند.
بااینحال، تصاویر واقعی با وضوح پایین نیز ممکن است چنین ظاهری داشته باشند. پس کیفیت پایین را با جعل اشتباه نگیرید.
یکی از روشهای کاربردی، جستوجوی معکوس تصویر است. با ابزارهایی مانند Google Lens میتوانید بررسی کنید آیا تصویر قبلاً در وب منتشر شده یا نسخههای مشابهی از آن وجود دارد.
برای مثال، اگر تصویری با عنوان «حادثهای که امروز اتفاق افتاده» منتشر شده باشد، ممکن است جستوجو نشان دهد همان عکس چند سال قبل و در کشور دیگری منتشر شده است.
این روش همیشه نتیجه نمیدهد؛ عکسهای تازه یا خصوصی ممکن است سابقهای در وب نداشته باشند. اما پیدا کردن منبع قدیمیتر میتواند ادعای همراه تصویر را زیر سؤال ببرد.
ابزارهای شبیهسازی صدا میتوانند با نمونهای از صدای یک فرد، گفتاری جدید تولید کنند که به صدای اصلی شباهت زیادی دارد. این فناوری کاربردهای مفیدی مانند دوبله و تولید محتوای صوتی دارد، اما ممکن است برای جعل هویت یا کلاهبرداری نیز استفاده شود.
صدای مصنوعی گاهی مکثهای غیرطبیعی، آهنگ گفتار یکنواخت یا تأکیدهای نامتناسب دارد. ممکن است جملهای احساسی با لحنی بیش از حد خنثی بیان شود یا تغییرات سرعت گفتار غیرعادی باشد.
اما صداهای تولیدشده با مدلهای جدید میتوانند بسیار طبیعی باشند. از طرف دیگر، افراد واقعی نیز هنگام اضطراب، خستگی یا صحبتکردن با تلفن ممکن است غیرمعمول حرف بزنند.
در برخی نمونههای مصنوعی، تلفظ نامهای خاص، کلمات کمکاربرد یا ترکیبهای دشوار طبیعی نیست. گاهی تنفس یا صدای پسزمینه نیز ناگهان قطع میشود.
این نشانهها فقط سرنخاند. حذف نویز، ویرایش صوت یا کیفیت پایین تماس میتواند همین آثار را در صدای واقعی ایجاد کند.
فرض کنید صدایی شبیه یکی از اعضای خانواده با شما تماس میگیرد و میگوید به پول فوری نیاز دارد. حتی اگر صدا کاملاً آشنا باشد، درخواست را بدون بررسی نپذیرید.
۱. تماس را قطع کنید و با شمارهای که از قبل در اختیار دارید، با آن فرد تماس بگیرید.
۲. اگر امکان دارد، از یک روش ارتباطی مستقل برای تأیید درخواست استفاده کنید.
۳. اگر درخواست شامل پول، رمز، کد تأیید یا اطلاعات بانکی است، تا زمان تأیید هویت هیچ اقدامی انجام ندهید.
۴. در موقعیتهای مشکوک، از پرسیدن یک سؤال شخصی بهعنوان تنها روش احراز هویت خودداری کنید؛ اطلاعات شخصی ممکن است از شبکههای اجتماعی به دست آمده باشند.
صدای آشنا، بهتنهایی مدرک کافی برای اثبات هویت نیست.
ویدئو علاوه بر تصویر، حرکت و صدا را هم در بر میگیرد. به همین دلیل، برخی ویدئوهای مصنوعی ممکن است در یک قاب طبیعی باشند اما هنگام حرکت، ناهماهنگیهایی نشان دهند.
اگر فرد صحبت میکند، بررسی کنید حرکت لبها با کلمات هماهنگ باشد. تأخیرهای غیرعادی یا حرکتهایی که با صدا مطابقت ندارند، میتوانند نشانه دستکاری باشند.
البته تأخیر صدا ممکن است ناشی از تدوین، کیفیت پایین پخش یا اتصال اینترنت باشد. بنابراین، این مورد بهتنهایی اثبات جعل نیست.
در بعضی ویدئوهای دستکاریشده، مرز صورت و موها هنگام چرخاندن سر میلرزد یا شکل گوش، دندان و پوست از یک لحظه به لحظه دیگر تغییر میکند.
اگر چنین چیزی دیدید، ویدئو را چند بار در سرعت عادی و آهسته بررسی کنید. بااینحال، فشردهسازی ویدئو یا افت فریم نیز ممکن است باعث ایجاد خطاهای مشابه شود.
به حرکت دستها، لباس، اشیای اطراف و سایهها توجه کنید. آیا جسمی ناگهان تغییر شکل میدهد؟ آیا دست از میان یک شیء عبور میکند؟ آیا نور روی صورت با نور محیط هماهنگ است؟
در مدلهای جدید تولید ویدئو، بسیاری از این خطاها کمتر شدهاند؛ بنابراین نبودن آنها هم واقعیبودن ویدئو را تضمین نمیکند.
یک تصویر ثابت از ویدئوی واقعی ممکن است عجیب به نظر برسد. از سوی دیگر، ویدئویی که هر قاب آن طبیعی است ممکن است با کنار هم گذاشتن تصویر و صدای جعلی ساخته شده باشد.
برای بررسی بهتر، چند بخش مختلف ویدئو را ببینید و در صورت امکان نسخه کامل و منبع اولیه را پیدا کنید.
در کنار بررسی دستی، ابزارهای دیجیتال میتوانند به شناسایی منشأ محتوا کمک کنند. بااینحال، هر ابزار فقط انواع مشخصی از محتوا یا نشانهها را بررسی میکند.
ابزار OpenAI Verify در نشانی https://openai.com/verify/ برای بررسی نشانههای منشأ مرتبط با ابزارهای OpenAI طراحی شده است. این ابزار میتواند برخی اطلاعات Content Credentials و واترمارکهای پشتیبانیشده را در تصاویر و فایلهای صوتی بررسی کند.
اگر نشانه معتبر پشتیبانیشدهای پیدا شود، میتواند شواهدی ارائه دهد که فایل با ابزارهای مرتبط ساخته یا پردازش شده است. اما این ابزار، تشخیصدهنده عمومی همه مدلهای هوش مصنوعی نیست و نبودن نشانه نیز واقعیبودن فایل را اثبات نمیکند.
در برخی نسخههای Gemini امکان بررسی تصاویر، ویدئوها و فایلهای صوتی برای یافتن نشانههای مرتبط با ابزارهای هوش مصنوعی گوگل وجود دارد. این بررسی میتواند از واترمارک نامرئی SynthID و اطلاعات منشأ محتوا استفاده کند.
دسترسی و قابلیتها ممکن است به نسخه محصول و نوع فایل بستگی داشته باشد. همچنین تشخیص واترمارک گوگل به این معنا نیست که ابزار میتواند همه محتواهای ساختهشده با هوش مصنوعی را شناسایی کند.
استاندارد C2PA که با نام Content Credentials نیز شناخته میشود، میتواند اطلاعاتی درباره منشأ فایل و تاریخچه ایجاد یا ویرایش آن ثبت کند.
این اطلاعات شبیه گذرنامه دیجیتال محتوا هستند؛ اما باید توجه داشت که:
اطلاعات منشأ ممکن است هنگام اسکرینشات گرفتن، تبدیل فرمت یا انتشار در بعضی پلتفرمها از بین بروند.
وجود اطلاعات معتبر منشأ بهتنهایی ثابت نمیکند که محتوای نمایشدادهشده حقیقت دارد.
نبودن اطلاعات منشأ نیز به معنای جعلیبودن محتوا نیست.
روش یا ابزارکاربرد اصلیمحدودیتGoogle Lensیافتن نسخههای مشابه یا منبع احتمالی تصویرهمه تصاویر را پیدا نمیکندOpenAI Verifyبررسی برخی نشانههای منشأ مرتبط با OpenAI در تصویر و صداابزار عمومی تشخیص تمام مدلها نیستGeminiبررسی برخی نشانههای هوش مصنوعی گوگل در تصویر، ویدئو و صداپوشش آن به فناوریهای پشتیبانیشده محدود استContent Credentials / C2PAبررسی اطلاعات منشأ و تاریخچه فایلممکن است اطلاعات حذف شده باشدبررسی دستی و منابع مستقلسنجش سازگاری محتوا با واقعیت و زمینه انتشاربهتنهایی همیشه نتیجه قطعی نمیدهد
بعضی ابزارها پس از بارگذاری یک عکس یا فایل صوتی، درصدی مانند «۸۷ درصد احتمال هوش مصنوعی» نمایش میدهند. چنین عددی ممکن است دقیق به نظر برسد، اما بدون اطلاع از روش آزمایش، دادههای آموزشی و نرخ خطا نمیتوان آن را مدرک قطعی دانست.
دو نوع اشتباه مهم وجود دارد:
مثبت کاذب: ابزار محتوای واقعی را بهاشتباه مصنوعی تشخیص میدهد.
منفی کاذب: ابزار محتوای مصنوعی را واقعی یا نامشخص تشخیص میدهد.
فشردهسازی، برش تصویر، تغییرات صوتی، ویرایش و پیشرفت مدلهای تولید محتوا میتوانند عملکرد ابزارها را تحت تأثیر قرار دهند.
پس بهتر است نتیجه ابزار را یک سرنخ در نظر بگیرید و آن را در کنار منبع انتشار، شواهد مستقل و اطلاعات زمینهای بررسی کنید.
اگر تصویری تکاندهنده، صدایی مشکوک یا ویدئویی عجیب دریافت کردید، این مراحل را دنبال کنید:
مرحله اول: مکث کنید. محتوایی که شما را عصبانی، مضطرب یا هیجانزده میکند، ممکن است برای جلب توجه یا وادارکردن شما به واکنش سریع منتشر شده باشد.
مرحله دوم: منبع را بررسی کنید. آیا ناشر شناختهشده است؟ آیا نسخه اصلی محتوا و تاریخ انتشار آن مشخص است؟ آیا حساب منتشرکننده سابقه قابل بررسی دارد؟
مرحله سوم: شواهد مستقل پیدا کنید. نام مکان، رویداد، فرد یا عبارتهای مهم را جستوجو کنید. ببینید رسانهها یا منابع معتبر دیگر هم همان ادعا را تأیید کردهاند یا خیر.
مرحله چهارم: نشانههای فنی را بررسی کنید. تصویر، صدا و ویدئو را از نظر ناهماهنگیها بررسی کنید و در صورت امکان از ابزارهای معتبر منشأ محتوا کمک بگیرید.
مرحله پنجم: اگر مطمئن نیستید، بازنشر نکنید. لازم نیست برای هر محتوایی فوراً برچسب «واقعی» یا «جعلی» انتخاب کنید. گاهی پاسخ درست این است که «هنوز تأیید نشده است».
یک نکته مهم را نباید فراموش کنیم: استفاده از هوش مصنوعی لزوماً به معنای قصد فریب نیست. تصویر تبلیغاتی، دوبله، جلوه ویژه، بازسازی تاریخی یا ویدئوی آموزشی ممکن است با هوش مصنوعی ساخته شده باشد و در عین حال کاربردی و قانونی باشد.
مسئله اصلی این است که آیا محتوا بهدرستی معرفی شده و آیا کسی میخواهد با آن مخاطب را گمراه کند.
همچنین ممکن است یک عکس واقعی با عنوان، تاریخ یا مکان نادرست منتشر شود. در چنین حالتی، حتی اگر خود تصویر با هوش مصنوعی ساخته نشده باشد، اطلاعات همراه آن میتواند گمراهکننده باشد.
بنابراین، واقعیبودن فایل و درستبودن ادعایی که درباره آن مطرح میشود، دو موضوع جداگانهاند.
گاهی اشتباهات دست و انگشتان سرنخ مفیدی هستند، اما مدلهای جدید میتوانند دستهای طبیعی تولید کنند. باید سایر جزئیات و منبع تصویر را نیز بررسی کنید.
خیر. برخی صداهای مصنوعی بسیار طبیعیاند. اگر درخواست مالی، اطلاعات حساس یا اقدام فوری مطرح است، هویت فرد را از یک مسیر مستقل تأیید کنید.
خیر. ممکن است فایل از ابزار دیگری ساخته شده باشد یا اطلاعات منشأ و واترمارک آن قابل شناسایی نباشد. نتیجه منفی فقط نشان میدهد ابزار نشانه پشتیبانیشدهای پیدا نکرده است.
بله. ممکن است ویدئو واقعی باشد اما قدیمی، خارج از زمینه اصلی یا با توضیح نادرست منتشر شده باشد. بررسی تاریخ، مکان و ادعای همراه ویدئو ضروری است.
برای تشخیص عکس، صدا و ویدئوی ساختهشده با هوش مصنوعی، یک نشانه یا یک ابزار کافی نیست. بررسی جزئیات تصویر، هماهنگی صدا و حرکت، جستوجوی منبع اولیه، استفاده از ابزارهای معتبر و مقایسه با منابع مستقل، در کنار هم تصویر روشنتری ارائه میکنند.
مهمتر از همه، اگر محتوایی درخواست پول، اطلاعات بانکی، رمز یا واکنش فوری دارد، حتی صدای آشنا و تصویر کاملاً طبیعی هم نباید جای تأیید مستقل را بگیرد.
در دنیایی که تولید محتوای مصنوعی روزبهروز آسانتر میشود، سواد دیجیتال یکی از مهارتهای ضروری کاربران است. برای آشنایی بیشتر با امنیت دیجیتال، فناوریهای هوش مصنوعی و راهنماهای کاربردی، مطالب مجله اوپاکالا را دنبال کنید و به وبسایت اوپاکالا سر بزنید: