
هوش مصنوعی میتواند امنیت دیجیتال را تقویت کند؛ برای مثال در شناسایی رفتارهای مشکوک، تحلیل حجم زیادی از دادهها و تشخیص برخی تهدیدها به کار گرفته شود.
اما همین فناوری میتواند در اختیار مهاجمان سایبری نیز قرار بگیرد.
در سالهای اخیر، نهادهایی مانند مؤسسه ملی استاندارد و فناوری آمریکا (NIST) موضوع «امنیت سایبری در عصر هوش مصنوعی» را بهصورت مستقل دنبال کردهاند. NIST در چارچوب پیشنهادی خود سه حوزه را از هم جدا میکند: امنسازی خود سیستمهای AI، استفاده از AI برای دفاع سایبری و مقابله با حملات سایبری تقویتشده با AI.
بنابراین AI فقط یک ابزار جدید در دنیای فناوری نیست؛ بلکه میتواند هم بخشی از دفاع سایبری باشد و هم بخشی از تهدید.
امنیت سایبری همیشه با یک رقابت روبهرو بوده است:
مهاجم تلاش میکند سریعتر حمله کند؛ مدافع تلاش میکند سریعتر حمله را شناسایی و متوقف کند.
هوش مصنوعی میتواند سرعت هر دو طرف را افزایش دهد.
برای مثال، یک سازمان میتواند از AI برای بررسی حجم عظیمی از رویدادهای امنیتی استفاده کند.
از طرف دیگر، مهاجم نیز میتواند از ابزارهای هوش مصنوعی برای تولید پیامهای متقاعدکنندهتر، شناسایی ضعفها یا افزایش مقیاس برخی فعالیتهای مخرب استفاده کند.
NIST در پیشنویس Cyber AI Profile به همین موضوع اشاره کرده و افزایش سرعت، مقیاس و سهولت اجرای برخی حملات تقویتشده با AI را از ویژگیهای مهم این تهدیدها میداند.
فیشینگ یکی از روشهای قدیمی حملات سایبری است.
در یک حمله معمولی، مهاجم ممکن است ایمیلی جعلی بفرستد و کاربر را به کلیک روی یک لینک یا ارائه اطلاعات حساس ترغیب کند.
AI میتواند تولید چنین پیامهایی را سریعتر و شخصیتر کند.
برای مثال، مهاجم ممکن است اطلاعات عمومی موجود درباره یک فرد یا سازمان را جمعآوری کند و پیامهایی تولید کند که ظاهراً با شرایط واقعی آن فرد ارتباط دارند.
NIST در پیشنویس Cyber AI Profile به استفاده از AI برای تولید ارتباطات واقعگرایانهتر در حملات spear-phishing و همچنین ایجاد وبسایتها و لینکهای مخرب اشاره میکند.
ممکن است تشخیص یک پیام جعلی برای کاربر دشوارتر شود.
بنابراین دیگر نمیتوان فقط به اشتباهات نگارشی یا ظاهر ضعیف پیامهای فیشینگ تکیه کرد.
یکی از کاربردهای نگرانکننده AI در امنیت سایبری، جعل صدا و تصویر است.
ممکن است مهاجم تلاش کند:
صدای فردی را تقلید کند.
ویدئوی جعلی بسازد.
تصویر فرد دیگری را دستکاری کند.
خودش را به جای یک مدیر یا فرد مورد اعتماد معرفی کند.
NIST نیز استفاده از دستکاری صوتی و تصویری، از جمله Deepfake، در حملات هدفمند را بهعنوان یکی از نمونههای حملات تقویتشده با AI مطرح کرده است.
این موضوع اهمیت یک اصل ساده را بیشتر میکند:
صدا و تصویر بهتنهایی دیگر همیشه مدرک کافی برای اثبات هویت نیستند.
بدافزارها انواع مختلفی دارند؛ از برنامههای جاسوسی گرفته تا باجافزار و نرمافزارهایی که برای سرقت اطلاعات استفاده میشوند.
AI میتواند برخی مراحل تولید یا تغییر کد را برای مهاجم سادهتر کند.
NIST در پروفایل GenAI خود اشاره میکند که مدلهای مولد میتوانند در فعالیتهای تهاجمی سایبری مانند کشف برخی آسیبپذیریها و تولید کدهای مورد استفاده برای سوءاستفاده از آنها نقش داشته باشند.
البته این به معنی آن نیست که AI بهتنهایی یک حمله پیچیده را خودکار و بدون محدودیت انجام میدهد.
اما کاهش برخی موانع فنی میتواند توانایی افراد کمتجربهتر را افزایش دهد.
یکی از تفاوتهای مهم حملات تقویتشده با AI میتواند سرعت باشد.
مهاجم ممکن است از ابزارهای خودکار برای:
تحلیل دادهها
آزمایش روشهای مختلف
تولید پیامهای متعدد
تغییر محتوای حمله
جستوجوی نقاط ضعف
استفاده کند.
NIST در تحلیل خود تأکید کرده است که سرعت و مقیاس بالاتر میتواند زمان واکنش مدافعان را کاهش دهد.
یعنی سازمانها دیگر نمیتوانند فقط به واکنش دستی و کند متکی باشند.
یک تصور اشتباه این است که:
«اگر AI خودش امنیت را افزایش میدهد، پس خودش امن است.»
اما سیستمهای AI نیز میتوانند هدف حمله قرار بگیرند.
برای مثال، NIST در پروفایل GenAI به تهدیدهایی مانند:
Prompt Injection
Data Poisoning
حمله به دادههای آموزشی
دستکاری ورودیها
افشای اطلاعات
اشاره کرده است.
بنابراین امنیت AI دو بخش دارد:
امنیت با کمک AI
و
امنیت خود AI
هر دو مهم هستند.
فرض کنید یک سیستم هوش مصنوعی به اطلاعات داخلی یک سازمان دسترسی دارد.
کاربر یک دستور عادی وارد میکند، اما درون همان ورودی دستور دیگری قرار میدهد که تلاش میکند رفتار سیستم را تغییر دهد.
این نوع حمله میتواند بهصورت ساده به شکل زیر تصور شود:
دستور کاربر → ورودی مخرب → تغییر رفتار مدل → دسترسی یا خروجی ناخواسته
در سیستمهایی که AI به ابزارها، فایلها یا سرویسهای دیگر دسترسی دارد، اهمیت این مسئله بیشتر میشود.
NIST در سال ۲۰۲۶ نیز درباره امنیت AI Agentها گزارش مستقلی منتشر کرده و اشاره کرده است که این سیستمها تهدیدهای امنیتی جدیدی ایجاد میکنند و روشهای سنتی امنیت سایبری باید برای آنها تطبیق داده شوند.
هوش مصنوعی میتواند در تحلیل دادههای بزرگ بسیار قدرتمند باشد.
اگر یک سازمان اطلاعات حساس را بدون کنترل مناسب در اختیار یک سیستم AI قرار دهد، مسئله فقط حمله خارجی نیست.
خود فرایند استفاده از AI نیز باید مدیریت شود.
اطلاعات حساس ممکن است شامل مواردی مانند:
اطلاعات مشتریان
رمزهای عبور
اسناد داخلی
اطلاعات مالی
کدهای نرمافزاری
قراردادها
اطلاعات کارکنان
باشد.
به همین دلیل، شرکتها باید قبل از استفاده از AI مشخص کنند:
چه دادهای مجاز است وارد سیستم شود و چه دادهای نباید وارد شود؟
یکی از ویژگیهای مهم AI این است که میتواند تولید محتوا را در مقیاس بالا انجام دهد.
این موضوع میتواند برای مهاجم نیز کاربرد داشته باشد.
برای مثال، بهجای ارسال یک پیام مشابه برای هزاران نفر، میتوان پیامهای متفاوتی تولید کرد که متناسب با اطلاعات هر هدف باشند.
NIST در پیشنویس Cyber AI Profile به استفاده از اطلاعات عمومی افراد برای ایجاد پروفایلهای شخصی و ساخت روایتهای اعتمادساز در حملات فیشینگ اشاره میکند.
خیر.
این بخش بسیار مهم است.
همان فناوریای که میتواند برای حمله استفاده شود، میتواند برای دفاع نیز کاربرد داشته باشد.
NIST در پروژه Cyber AI Profile سه حوزه را همزمان بررسی میکند:
Secure: امنسازی سیستمهای AI
Defend: استفاده از AI برای دفاع سایبری
Thwart: مقابله با حملات تقویتشده با AI
بنابراین نباید درباره رابطه AI و امنیت سایبری فقط از زاویه تهدید صحبت کرد.
AI میتواند در فعالیتهایی مانند موارد زیر به کار گرفته شود:
سیستم میتواند الگوهای غیرمعمول در شبکه یا حسابهای کاربری را بررسی کند.
یک سازمان ممکن است روزانه حجم زیادی هشدار امنیتی دریافت کند.
AI میتواند به دستهبندی و اولویتبندی این هشدارها کمک کند.
سیستمهای هوشمند میتوانند ویژگیهای مختلف ایمیلها و پیامها را برای شناسایی الگوهای فیشینگ بررسی کنند.
AI میتواند به تیم امنیتی کمک کند بعضی رویدادها را سریعتر بررسی و دستهبندی کند.
البته استفاده از AI در دفاع سایبری نیز نیازمند ارزیابی، نظارت و کنترل است. NIST تأکید میکند که سازمانها باید بهصورت مداوم بررسی کنند آیا قابلیتهای AI برای نیازهای واقعی آنها به اندازه کافی بالغ و مناسب هستند یا خیر.
بله، اما نه به این معنی که هر پیام یا تماس را تهدید بدانند.
بهتر است چند عادت ساده امنیتی داشته باشیم.
حتی اگر پیام بسیار حرفهای به نظر برسد.
مثلاً اگر فردی که خود را مدیر شرکت معرفی میکند ناگهان درخواست انتقال پول کرد، فقط به ایمیل یا پیام اکتفا نکنید.
اگر درخواست حساس است، هویت فرد را از یک مسیر مستقل تأیید کنید.
و در صورت امکان احراز هویت چندمرحلهای را فعال کنید.
قبل از استفاده، سیاست داده و حریم خصوصی سرویس را بررسی کنید.
برای کسبوکارها، موضوع پیچیدهتر است.
NIST در چارچوب Cyber AI Profile پیشنهاد میکند ریسکهای مربوط به AI در کنار برنامه کلی مدیریت ریسک سایبری سازمان دیده شوند.
یک شرکت میتواند از این اصول شروع کند:
مشخص کند کجا از AI استفاده میشود.
دادههای حساس را از دادههای عمومی جدا کند.
هر سیستم AI فقط به اطلاعات و ابزارهای موردنیاز دسترسی داشته باشد.
کارکنان باید با فیشینگ، دیپفیک، جعل هویت و خطرهای مربوط به AI آشنا باشند.
خروجی و رفتار سیستمهای AI باید بهصورت مداوم بررسی شود.
اگر سیستم AI دچار مشکل یا حمله شد، سازمان باید بداند چه کسی و چگونه باید واکنش نشان دهد.
استفاده از AI برای امنیت سایبری نباید به این معنا باشد که انسان دیگر هیچ نقشی ندارد.
اگر یک سیستم امنیتی بگوید:
«این فعالیت امن است.»
نباید همیشه آن را حقیقت قطعی در نظر گرفت.
مدل ممکن است:
هشدار اشتباه بدهد.
یک تهدید را تشخیص ندهد.
اطلاعات ناقص داشته باشد.
در شرایط جدید عملکرد متفاوتی نشان دهد.
بنابراین AI میتواند ابزار تحلیل و کمک به تصمیمگیری باشد، نه اینکه تمام مسئولیت امنیت را به تنهایی بر عهده بگیرد.
به نظر میرسد رابطه میان AI و امنیت سایبری یک رقابت دوطرفه باشد.
مهاجمان از AI برای افزایش سرعت و مقیاس حملات استفاده میکنند.
مدافعان نیز از AI برای تحلیل، تشخیص و پاسخ سریعتر استفاده میکنند.
NIST در سال ۲۰۲۶ همچنان در حال توسعه راهنمای Cyber AI Profile است و گزارشهای کارگاهی آن نشان میدهد موضوعاتی مانند سطح حمله AI، حکمرانی، طبقهبندی ریسک و استفاده از AI برای دفاع سایبری همچنان در حال بررسی هستند.
بنابراین هنوز نمیتوان گفت شکل نهایی امنیت سایبری در عصر AI کاملاً مشخص شده است.
اما یک نکته روشن است:
امنیت آینده بدون شناخت هوش مصنوعی کامل نخواهد بود.
در مجله اوپاکالا، بررسی هوش مصنوعی فقط به معرفی قابلیتهای جذاب این فناوری محدود نمیشود.
شناخت خطرات آن نیز اهمیت دارد.
امنیت سایبری یکی از نمونههای روشن است؛ زیرا AI میتواند همزمان:
ابزار دفاع، ابزار حمله و حتی خودش یک هدف حمله باشد.
برای کاربران و کسبوکارها، شناخت این سه نقش میتواند به تصمیمگیری آگاهانهتر درباره استفاده از AI کمک کند.
هوش مصنوعی میتواند چهره امنیت سایبری را تغییر دهد.
مهاجمان ممکن است از AI برای:
فیشینگ پیشرفتهتر
جعل صدا و تصویر
تولید یا تغییر بدافزار
شناسایی ضعفها
افزایش سرعت حملات
شخصیسازی حملات
استفاده کنند.
در مقابل، مدافعان میتوانند از AI برای:
تحلیل دادههای امنیتی
شناسایی رفتارهای غیرعادی
تشخیص تهدیدها
اولویتبندی هشدارها
واکنش سریعتر
کمک بگیرند.
بنابراین مسئله اصلی این نیست که AI خوب است یا بد.
مسئله این است که:
چه کسی از آن استفاده میکند، برای چه کاری، با چه سطح دسترسی و تحت چه نظارتی؟
در عصر هوش مصنوعی، امنیت سایبری دیگر فقط مسئله متخصصان کامپیوتر نیست؛ بخشی از سواد دیجیتال هر کاربر است.
AI هم فرصت دفاعی ایجاد میکند و هم ریسکهای جدیدی به وجود میآورد. NIST هر دو جنبه را در چارچوب Cyber AI Profile بررسی میکند.
بله. NIST به استفاده بالقوه از AI برای فیشینگ، شناسایی آسیبپذیریها، تولید کد مخرب و سایر مراحل حملات سایبری اشاره کرده است.
بله. جعل صوت و تصویر میتواند در حملات هدفمند و جعل هویت مورد استفاده قرار گیرد؛ بنابراین برای درخواستهای حساس بهتر است هویت فرد از یک مسیر مستقل تأیید شود.
بله. سیستمهای AI نیز دارای سطح حمله هستند و تهدیدهایی مانند Prompt Injection و Data Poisoning برای آنها مطرح شده است.
بله، AI میتواند برای تحلیل داده، تشخیص تهدید و کمک به دفاع سایبری استفاده شود؛ اما این سیستمها نیز به ارزیابی، کنترل و نظارت نیاز دارند.