
پیشرفت سریع هوش مصنوعی (AI) مزایا و تغییرات قابل توجهی را در صنایع مختلف به همراه داشته است. با این حال، خطرات و چالش های جدیدی را نیز معرفی کرده است، به ویژه در مورد تقلب و امنیت . Deepfakes ، محصول هوش مصنوعی مولد ، به طور فزاینده ای پیچیده می شود و تهدیدی اساسی برای یکپارچگی سیستم های امنیتی مبتنی بر صدا است .
یافتههای گزارش اطلاعات و امنیت صوتی ۲۰۲۴ پیندروپ ، تأثیر دیپفیکها بر بخشهای مختلف، پیشرفتهای فناوری که این تهدیدات را به وجود میآورد، و راهحلهای نوآورانهای که برای مبارزه با آنها توسعه مییابد را برجسته میکند.
📷
Deepfakes از الگوریتم های پیشرفته یادگیری ماشینی برای ایجاد محتوای صوتی و تصویری مصنوعی بسیار واقعی استفاده می کند . در حالی که این فناوری ها کاربردهای هیجان انگیزی در سرگرمی و رسانه دارند، چالش های امنیتی جدی را نیز به همراه دارند. طبق گزارش پیندروپ، مصرفکنندگان آمریکایی بیشترین نگرانی را در مورد خطر دیپفیکها و شبیهسازیهای صوتی در بخش بانکی و مالی دارند و ۶۷.۵ درصد نگرانی قابل توجهی را ابراز کردهاند.
موسسات مالی به ویژه در برابر حملات دیپ فیک آسیب پذیر هستند . کلاهبرداران از صداهای تولید شده توسط هوش مصنوعی برای جعل هویت افراد، دسترسی غیرمجاز به حساب ها و دستکاری تراکنش های مالی استفاده می کنند. این گزارش نشان میدهد که در سال ۲۰۲۳ رکوردی بیسابقه به خطر انداختن دادهها، در مجموع به ۳۲۰۵ مورد رسیده است که افزایشی ۷۸ درصدی نسبت به سال قبل را نشان میدهد. میانگین هزینه نقض داده ها در ایالات متحده اکنون به ۹.۵ میلیون دلار می رسد و مراکز تماس بیشترین آسیب امنیتی را متحمل می شوند.
یکی از موارد قابل توجه استفاده از صدای دیپ فیک برای فریب یک شرکت مستقر در هنگ کنگ برای انتقال ۲۵ میلیون دلار بود که پتانسیل ویرانگر این فناوری ها را در صورت استفاده بدخواهانه برجسته کرد.
فراتر از خدمات مالی، دیپ فیک نیز خطرات قابل توجهی برای رسانه ها و نهادهای سیاسی دارد . توانایی ایجاد محتوای صوتی و تصویری جعلی متقاعد کننده می تواند برای انتشار اطلاعات نادرست، دستکاری افکار عمومی و تضعیف اعتماد در فرآیندهای دموکراتیک مورد استفاده قرار گیرد. این گزارش خاطرنشان می کند که ۵۴.۹ درصد از مصرف کنندگان نگران تهدید دیپ فیک برای نهادهای سیاسی هستند، در حالی که ۵۴.۵ درصد نگران تأثیر آنها بر رسانه ها هستند.
در سال ۲۰۲۳، فناوری دیپفیک در چندین رویداد برجسته، از جمله یک حمله رباتیک که از صدای مصنوعی رئیس جمهور بایدن استفاده میکرد، دخیل بود . چنین حوادثی بر ضرورت توسعه مکانیسمهای شناسایی و پیشگیری قوی تأکید میکند.
گسترش ابزارهای مولد هوش مصنوعی، مانند ChatGPT OpenAI، Bard گوگل و Bing AI مایکروسافت، به طور قابل توجهی موانع ایجاد دیپ فیک را کاهش داده است. امروزه بیش از 350 سیستم هوش مصنوعی مولد برای کاربردهای مختلف از جمله Eleven Labs، Descript، Podcastle، PlayHT و Speechify استفاده می شود. برای مثال، مدل VALL-E مایکروسافت، میتواند صدا را از یک کلیپ صوتی سه ثانیهای شبیهسازی کند.
این پیشرفتهای تکنولوژیکی دیپفیکها را ارزانتر و آسانتر ساخته و دسترسی آنها را هم برای کاربران خوشخیم و هم برای عوامل مخرب افزایش داده است. تا سال ۲۰۲۵، گارتنر پیشبینی میکند که ۸۰ درصد از ارائههای هوش مصنوعی محاورهای از هوش مصنوعی مولد استفاده میکنند که این رقم در سال ۲۰۲۳، ۲۰ درصد بود .
برای مقابله با تهدید رو به رشد دیپ فیک، Pindrop چندین راه حل پیشرفته را معرفی کرده است. یکی از قابل توجه ترین آنها گارانتی Pulse Deepfake است ، اولین گارانتی در نوع خود که در صورتی که مجموعه محصولات Pindrop نتواند تقلب صوتی عمیق یا مصنوعی دیگر را تشخیص دهد، به مشتریان واجد شرایط بازپرداخت می کند. این ابتکار با هدف ارائه آرامش خاطر به مشتریان و در عین حال تحت فشار قرار دادن قابلیتهای کشف تقلب است.
گزارش Pindrop کارایی فناوری تشخیص زنده بودن را برجسته میکند، که تماسهای تلفنی زنده را برای ویژگیهای طیفی-زمانی تجزیه و تحلیل میکند که نشان میدهد صدای تماس «زنده» یا مصنوعی است. در آزمایش داخلی، راه حل تشخیص زنده بودن پیندروپ 12 درصد دقیق تر از سیستم های تشخیص صدا و 64 درصد دقیق تر از انسان در شناسایی صداهای مصنوعی است.
علاوه بر این، Pindrop از پیشگیری و احراز هویت چندعاملی یکپارچه کلاهبرداری، استفاده از صدا، دستگاه، رفتار، فراداده حامل و سیگنالهای زنده برای افزایش امنیت استفاده میکند. این رویکرد چند لایه به طور قابل توجهی نوار را برای کلاهبرداران افزایش می دهد و موفقیت را برای آنها دشوارتر می کند.
با نگاهی به آینده، این گزارش پیشبینی میکند که کلاهبرداریهای دیپفیک همچنان در حال افزایش هستند و تنها مراکز تماس در ایالات متحده را با خطر ۵ میلیارد دلاری مواجه میکنند. پیچیدگی روزافزون سیستمهای تبدیل متن به گفتار، همراه با فناوری گفتار مصنوعی کمهزینه، چالشهای مداومی را ایجاد میکند.
برای جلوتر ماندن از این تهدیدات، Pindrop تکنیکهای تشخیص زودهنگام خطر، مانند تشخیص جعل شناسه تماسگیرنده و تشخیص تقلب مستمر، را برای نظارت و کاهش فعالیتهای تقلبی در زمان واقعی توصیه میکند. با اجرای این اقدامات امنیتی پیشرفته، سازمان ها می توانند بهتر از خود در برابر چشم انداز در حال تحول کلاهبرداری مبتنی بر هوش مصنوعی محافظت کنند.
ظهور دیپفیکها و هوش مصنوعی مولد یک چالش مهم در زمینه تقلب و امنیت است. گزارش امنیت و اطلاعات صوتی 2024 Pindrop بر نیاز فوری به راه حل های نوآورانه برای مبارزه با این تهدیدها تاکید دارد. با پیشرفتهایی در تشخیص زنده بودن، احراز هویت چند عاملی و استراتژیهای جامع پیشگیری از کلاهبرداری، Pindrop در خط مقدم تلاشها برای ایمن کردن آینده تعاملات مبتنی بر صدا قرار دارد. همانطور که چشم انداز فناوری به تکامل خود ادامه می دهد، رویکردهای ما برای تضمین امنیت و اعتماد در عصر دیجیتال نیز باید ادامه یابد.