کارمندان امروز برای نوشتن گزارش، تحلیل داده یا حتی کدنویسی منتظر تأیید واحد فناوری اطلاعات نمیمانند؛ یک چتبات عمومی باز میکنند و کارشان را پیش میبرند. همین سهولت، ریسکی ساخته که در هیچ گزارش امنیتی دیده نمیشود: Shadow AI یا استفاده از ابزارهای هوش مصنوعی بدون نظارت تیم امنیت.
در سایهٔ IT سنتی، یک نرمافزار غیرمجاز نصب میشد و میشد بعداً پیدایش کرد. در Shadow AI، داده در همان لحظهای که جایگذاری میشود از سازمان خارج شده است.
خروج فوری داده: گزارش مالی یا کد منبعی که در یک چتبات عمومی چسبانده میشود، دیگر فقط در اختیار سازمان نیست.
ابهام در نگهداری داده: بسیاری از ابزارهای رایگان سیاست روشنی دربارهٔ ذخیره و استفاده از ورودی کاربر ندارند و کاربر هم معمولاً آن را نمیخواند.
عقبماندن سیاست از رفتار: تا سیاست یک ابزار نوشته شود، کارمندان ماههاست هر روز از آن استفاده میکنند.
واکنش اول بسیاری از سازمانها بستن همهچیز است. تجربه نشان میدهد ممنوعیت مطلق، استفاده را متوقف نمیکند؛ فقط آن را پنهانتر میکند. رویکرد عملیتر چهار قدم دارد:
اول ببینید، بعد تصمیم بگیرید. ترافیک شبکه و لاگها را بررسی کنید تا معلوم شود کدام ابزارها واقعاً استفاده میشوند.
سیاست روشن بنویسید. مشخص کنید چه نوع دادهای هرگز نباید وارد ابزارهای عمومی شود.
جایگزین تأییدشده بدهید. نسخهٔ سازمانی با قرارداد حفاظت داده، کارمند را از ابزار رایگان بینیاز میکند.
قواعد DLP را گسترش دهید. مقصدهای هوش مصنوعی را مثل هر مقصد خارجی دیگر در سیاست جلوگیری از نشت داده بگنجانید.
ریسک فقط به خروج داده محدود نیست. دستیارهای هوش مصنوعی که به ایمیل و فضای ذخیرهسازی سازمان وصل میشوند، در برابر تزریق دستور یا Prompt Injection آسیبپذیرند؛ یعنی محتوای یک ایمیل یا سند میتواند دستیار را به کاری وادارد که کاربر هرگز نخواسته است.
پرسش اصلی دیگر این نیست که اجازهٔ استفاده بدهیم یا نه؛ این است که چطور این استفاده را امن و قابل مشاهده کنیم.
نسخهٔ کامل این مطلب همراه با چکلیست اقدام در سایت symantecland دات کام منتشر شده است؛ برای رسیدن مستقیم به آن، بعد از نام سایت در نوار آدرس مرورگر بنویسید: /shadow-ai
— کاظم مرتضوی، مشاور مستقل امنیت شبکه