ویرگول
ورودثبت نام
کاظم مرتضوی
کاظم مرتضویمشاور مستقل امنیت شبکه با بیش از ۲۵ سال تجربه در فناوری اطلاعات و ارتباطات | تحلیل روزانهٔ تهدیدها و مقایسهٔ بی‌طرفانهٔ راهکارهای امنیتی | symantecland.com
کاظم مرتضوی
کاظم مرتضوی
خواندن ۲ دقیقه·۱ ماه پیش

Shadow AI؛ وقتی داده سازمان بی‌صدا وارد چت‌بات‌های عمومی می‌شود

‏کارمندان امروز برای نوشتن گزارش، تحلیل داده یا حتی کدنویسی منتظر تأیید واحد فناوری اطلاعات نمی‌مانند؛ یک چت‌بات عمومی باز می‌کنند و کارشان را پیش می‌برند. همین سهولت، ریسکی ساخته که در هیچ گزارش امنیتی دیده نمی‌شود: Shadow AI یا استفاده از ابزارهای هوش مصنوعی بدون نظارت تیم امنیت.

‏چرا این ریسک از سایهٔ IT قدیمی جدی‌تر است؟

‏در سایهٔ IT سنتی، یک نرم‌افزار غیرمجاز نصب می‌شد و می‌شد بعداً پیدایش کرد. در Shadow AI، داده در همان لحظه‌ای که جای‌گذاری می‌شود از سازمان خارج شده است.

  • ‏خروج فوری داده: گزارش مالی یا کد منبعی که در یک چت‌بات عمومی چسبانده می‌شود، دیگر فقط در اختیار سازمان نیست.

  • ‏ابهام در نگهداری داده: بسیاری از ابزارهای رایگان سیاست روشنی دربارهٔ ذخیره و استفاده از ورودی کاربر ندارند و کاربر هم معمولاً آن را نمی‌خواند.

  • ‏عقب‌ماندن سیاست از رفتار: تا سیاست یک ابزار نوشته شود، کارمندان ماه‌هاست هر روز از آن استفاده می‌کنند.

‏ممنوعیت کامل جواب نمی‌دهد

‏واکنش اول بسیاری از سازمان‌ها بستن همه‌چیز است. تجربه نشان می‌دهد ممنوعیت مطلق، استفاده را متوقف نمی‌کند؛ فقط آن را پنهان‌تر می‌کند. رویکرد عملی‌تر چهار قدم دارد:

  • ‏اول ببینید، بعد تصمیم بگیرید. ترافیک شبکه و لاگ‌ها را بررسی کنید تا معلوم شود کدام ابزارها واقعاً استفاده می‌شوند.

  • ‏سیاست روشن بنویسید. مشخص کنید چه نوع داده‌ای هرگز نباید وارد ابزارهای عمومی شود.

  • ‏جایگزین تأییدشده بدهید. نسخهٔ سازمانی با قرارداد حفاظت داده، کارمند را از ابزار رایگان بی‌نیاز می‌کند.

  • ‏قواعد DLP را گسترش دهید. مقصدهای هوش مصنوعی را مثل هر مقصد خارجی دیگر در سیاست جلوگیری از نشت داده بگنجانید.

‏تهدید تازه‌تر: دستیارهای متصل

‏ریسک فقط به خروج داده محدود نیست. دستیارهای هوش مصنوعی که به ایمیل و فضای ذخیره‌سازی سازمان وصل می‌شوند، در برابر تزریق دستور یا Prompt Injection آسیب‌پذیرند؛ یعنی محتوای یک ایمیل یا سند می‌تواند دستیار را به کاری وادارد که کاربر هرگز نخواسته است.

‏پرسش اصلی دیگر این نیست که اجازهٔ استفاده بدهیم یا نه؛ این است که چطور این استفاده را امن و قابل مشاهده کنیم.

‏نسخهٔ کامل این مطلب همراه با چک‌لیست اقدام در سایت symantecland دات کام منتشر شده است؛ برای رسیدن مستقیم به آن، بعد از نام سایت در نوار آدرس مرورگر بنویسید: /shadow-ai

‏— کاظم مرتضوی، مشاور مستقل امنیت شبکه

هوش مصنوعیامنیت دادهامنیت سایبری
۰
۰
کاظم مرتضوی
کاظم مرتضوی
مشاور مستقل امنیت شبکه با بیش از ۲۵ سال تجربه در فناوری اطلاعات و ارتباطات | تحلیل روزانهٔ تهدیدها و مقایسهٔ بی‌طرفانهٔ راهکارهای امنیتی | symantecland.com
شاید از این پست‌ها خوشتان بیاید