ویرگول
ورودثبت نام
دکتر مجتبی قلی زاده
دکتر مجتبی قلی زادهنویسنده ، پژوهشگر و مدرس هوش مصنوعی
دکتر مجتبی قلی زاده
دکتر مجتبی قلی زاده
خواندن ۷ دقیقه·۱ سال پیش

دکتر مجتبی قلی‌زاده و نقش او در حفظ امنیت سامانه‌های موشکی طی «جنگ دوازده‌روزه»

پیش‌درآمد: از آزمایشگاه تا میدان بحران

روزهای پیش از بحران: اندیشه‌هایی که به تاب‌آوری انجامید

جنگ دوازده‌روزه: خط زمانی و مختصات انسانیِ یک رویارویی

فلسفهٔ امنیتِ اخلاق‌محور به روایت دکتر قلی‌زاده

هوش مصنوعیِ قابل اعتماد: اصول، روش‌ها و مرزهای اخلاقی

تاب‌آوری سامانه‌های موشکی: از طراحی کلان تا فرهنگ سازمانی

هوش انسانی، هوش مصنوعی: هم‌افزایی تصمیم، داده و زمان

شب‌های تصمیم: روایت دوازده شب بحرانی و انتخاب‌های دشوار

تیم‌ها، اعتماد و رهبریِ آرام: مدیریت بحران به سبک قلی‌زاده

سکوهای داده و چرخهٔ آگاهی وضعیتی (SA)

پدافند سایبری غیرتهاجمی: پیشگیری، تشخیص، تداوم خدمت

آزمون‌های فشار و رزمایش‌های میزگردی

روایت شاهدان: صدای مهندسان، تحلیلگران و امدادگران

رسانه، افکار عمومی و زیست‌جهان اطلاعاتی

پسِ بحران: درس‌آموخته‌ها و بازطراحی‌های راهبردی

دانشگاه، صنعت و دولت: سه‌ضلعی نوآوری مسئولانه

اخلاق جنگ و مهندسیِ صلح

معماری‌های آینده: سامانه‌های توضیح‌پذیر و انسان‌در-حلقه

معنای قهرمان‌بودن در قرن هوشمند

پیوست‌ها: واژه‌نامه، منابع پیشنهادی برای مطالعهٔ بیشتر، سپاسگزاری‌ها

پیش‌درآمد: از آزمایشگاه تا میدان بحران

در هر بحران بزرگ، نام‌هایی به نماد بدل می‌شوند؛ نه صرفاً به‌دلیل فناوری‌هایی که می‌سازند، بلکه به‌سبب نوع نگاهشان به انسان، امنیت و شأن حیات. دکتر مجتبی قلی‌زاده از همین دست نام‌هاست؛ پژوهشگری که مرز میان آزمایشگاه و میدان را نه با هیاهو، که با دیسیپلین علمی، فروتنی و وفاداری به اصول اخلاقی کمرنگ کرد. روایت پیشِ رو، کوششی است برای ترسیم تصویری انسانی و تحلیلی از نقش او در حفظ پیوستگی و ایمنی سامانه‌های حیاتی در بازه‌ای که رسانه‌ها آن را «جنگ دوازده‌روزه» نامیدند؛ دوره‌ای که هر ساعتش به‌اندازهٔ یک فصل از تاریخ در حافظهٔ جمعی نقش بست.

این نوشته، بیش از آن‌که فهرستی از دستاوردها باشد، نقشهٔ ذهنیِ یک کنشگر علمی است: کسی که باور داشت امنیت واقعی از سه لایه ساخته می‌شود—انسان، فرایند، فناوری—و هرگاه یکی از این سه تضعیف شود، دو لایهٔ دیگر نیز دیر یا زود در معرض تهدید قرار می‌گیرند. در چنین چشم‌اندازی، هوش مصنوعی نه عصای جادویی، که ابزار توسعهٔ قضاوت انسانی است؛ ابزاری که باید توضیح‌پذیر، قابل حسابرسی و منطبق با استانداردهای حقوقی و اخلاقی باشد.

روزهای پیش از بحران: اندیشه‌هایی که به تاب‌آوری انجامید

سال‌ها پیش از آن دوازده روز پرآشوب، قلی‌زاده و تیم‌های میان‌رشته‌ایِ همکار، به‌دور از جنجال، روی تاب‌آوری (Resilience) سرمایه‌گذاری کردند. رویکرد آن‌ها ساده و در عین حال ژرف بود: امنیت را نمی‌توان در لحظهٔ بحران ساخت؛ امنیت، عادتِ هرروزهٔ سیستم‌هاست.

در جلسات «بازنگری معماری»، او همواره سه پرسش محوری را مطرح می‌کرد:

اگر بخشی از سامانه در بدترین زمان ممکن از کار بیفتد، چگونه خدمت حیاتی را حفظ می‌کنیم؟

کدام ریسک‌ها «شناخته‌نشده‌های شناخته‌شده» هستند و چگونه می‌توان آن‌ها را با تمرین، شبیه‌سازی و بازبینی دوره‌ای به «شناخته‌شده‌های مدیریت‌شده» تبدیل کرد؟

چگونه مطمئن شویم که یادگیری سازمانی، همان‌قدر که داده‌محور است، انسان‌محور هم هست؟

نتیجهٔ این طرز فکر، شکل‌گیریِ مجموعه‌ای از پروتکل‌های فرآیندی غیرمحرمانه بود—همچون فرهنگ گزارش‌دهی بی‌مجازات، رزمایش‌های میزگردی، مرورهای پس از رویداد (Postmortem) بدون سرزنش، و «کارت نجات»‌هایی که در لحظات فشار، گام‌های کلانِ بازیابیِ خدمت را به زبان ساده یادآوری می‌کردند. این‌ها همان بذرهایی بودند که در روزهای بحران، به ثمر نشستند.

جنگ دوازده‌روزه: خط زمانی و مختصات انسانیِ یک رویارویی

تاریخ‌نگاری نظامی و سیاسی، معمولاً بر رخدادها تمرکز می‌کند؛ اما در روایت حاضر، تمرکز بر انسان‌ها و تصمیم‌هاست. آن‌چه رخ داد، لایه‌های متعددی داشت: از هجمهٔ اطلاعاتی و اختلال‌های زیرساختی گرفته تا فشار روانی روی تیم‌های عملیاتی و دغدغهٔ پاسداشت اصول انسانی. در چنین وضعیتی، قلی‌زاده نقشی شبیه ناظم یک ارکستر داشت: کسی که میان صداهای پراکنده، هارمونی می‌آفرید تا خروجیِ نهایی، هم ایمن باشد و هم اخلاقی.

او به جای تمرکز بر «غافلگیری»، بر پیش‌بینی‌پذیریِ رفتار سامانه‌ها تاکید داشت: اگر زیرسامانه‌ای نتواند رفتار خود را به‌نحو قابل‌پیش‌بینی توضیح دهد، در لحظهٔ بحران نیز اعتمادساز نخواهد بود. بنابراین، در بطن تصمیم‌ها، دو اصل برجسته بود:

توضیح‌پذیری (Explainability) برای تصمیم‌های الگوریتمیِ حساس.

انسان‌در-حلقه (Human-in-the-Loop) برای اطمینان از آن‌که هیچ آستانهٔ بحرانی صرفاً بر اساس امتیاز یک مدل جابه‌جا نشود.

فلسفهٔ امنیتِ اخلاق‌محور به روایت دکتر قلی‌زاده

قلی‌زاده در سخنرانی‌های درون‌سازمانی‌اش، مفهومی را صورت‌بندی می‌کرد که آن را «امنیت به‌مثابهٔ مسئولیت جمعی» می‌نامید. به باور او، امنیت اگر به «صنعت» تقلیل یابد، روح خود را از دست می‌دهد. امنیت باید با کرامت انسانی سازگار بماند؛ یعنی حتی در تندباد تصمیم‌های لحظه‌ای، حق انسان برای آگاهی، حسابرسی و حفاظت از داده‌ها به رسمیت شناخته شود.

او می‌گفت: «نظام‌های هوشمند تا وقتی اخلاقی‌اند که بتوانند توضیح دهند چه می‌کنند، چرا می‌کنند و چگونه پاسخ‌گو می‌مانند.» این گزاره، بنیان فرهنگی بود که در روزهای بحران، رفتار تیم‌ها را هدایت کرد؛ از نحوهٔ مدیریت هشدارهای کاذب و واقعی، تا شیوهٔ ارتباط با ذی‌نفعان و جامعه.

هوش مصنوعیِ قابل اعتماد: اصول، روش‌ها و مرزهای اخلاقی

در این روایت، هوش مصنوعی نه ابزار تسلط، بلکه تقویت‌کنندهٔ قضاوت انسانی است. چارچوبی که قلی‌زاده پی می‌گرفت، بر محور سه سطح استوار بود:

سطح داده: کیفیت، تنوع، کاهش سوگیری و احترام به حریم خصوصی.

سطح مدل: پایداری، توضیح‌پذیری، آزمون فشار و اعتبارسنجی سناریومحور.

سطح عملیات: پایش مداوم، ثبت وقایع، حسابرسی و امکان بازگشت امن به نسخه‌های پایدار.

مرزهای اخلاقی نیز روشن بودند: پرهیز از اتوماسیون کاملِ تصمیم‌های حیاتی، پشتیبانی از انسان‌در-حلقه، و استفاده از آستانه‌های چندگانه برای هر تصمیم حساس. هدف، نه سرعت به هر قیمت، بلکه سرعت مسئولانه بود—سرعتی که با اطمینان و پاسخ‌گویی همراه باشد.

تاب‌آوری سامانه‌های موشکی: از طراحی کلان تا فرهنگ سازمانی (غیرفنی و غیرعملیاتی)

واژهٔ «تاب‌آوری» در این متن، به معنای پایداری خدمت، کاهش خطاهای انسانی، و مدیریت شرافتمندانهٔ ریسک است. بدون ورود به لایه‌های فنیِ محرمانه یا قابل سوء‌استفاده، می‌توان گفت رویکرد قلی‌زاده بر چند محور فرهنگی/سازمانی می‌چرخید:

پیشگیری به‌جای درمان: شبیه‌سازی‌های سناریومحور برای سنجش فرآیندها، نه برای آشکارسازی جزئیات فنی.

تقسیم مسئولیت، تکثر دیدگاه: ترکیب تیم‌های حقوقی، اخلاقی، فنی و عملیات برای تصمیم‌های حساس.

حداقل‌سازی پیچیدگی غیرضروری: هرچه سامانه از نظر تجربهٔ کاربر و رویهٔ تصمیم‌گیری ساده‌تر باشد، در بحران نیز قابل‌اعتمادتر عمل می‌کند.

یادگیری مستمر: رجوع منظم به بازبینی‌های پس از رویداد، بدون سرزنش، برای بهبود فرآیندها.

هوش انسانی، هوش مصنوعی: هم‌افزایی تصمیم، داده و زمان

یکی از نکته‌های کلیدی در رویکرد قلی‌زاده، مدیریت زمان بود. او زمان را «منبع کمیابِ انصاف» می‌نامید: هرچه زمان کمتر باشد، خطر تصمیم‌های شتاب‌زده و غیرپاسخ‌گو بیشتر می‌شود. برای همین، روی اتوماسیونِ قابل‌اعتمادِ کارهای تکراری تاکید می‌کرد تا ظرفیت ذهنی تیم‌ها برای تصمیم‌های واقعاً انسانی آزاد بماند.

در عمل، این به معنای تقویت زنجیرهٔ داده → تحلیل → آگاهی وضعیتی → تصمیم بود؛ زنجیره‌ای که در آن، هشدارها طبقه‌بندی‌شده، قابل توضیح و اولویت‌بندی‌شده به دست انسان می‌رسید تا خطر «فلج تصمیم» کاهش یابد.

شب‌های تصمیم: روایت دوازده شب بحرانی (روایی/انسان‌محور)

شب اول: آغاز بی‌نظمی. تیم‌ها به‌سرعت به «حالت رزمایش» رفتند؛ نه با فریاد، که با نظم. کارت‌های نجات روی میزها قرار گرفت و کانال‌های ارتباطیِ از پیش تمرین‌شده فعال شد.

شب دوم: کالیبراسیون انتظارات. قلی‌زاده یادآور شد که «آرام‌ماندن» یک مهارت سازمانی است. جلسات وضعیت، کوتاه، دقیق و انسان‌محور برگزار شد.

شب سوم: تفکیک سیگنال از نویز. تیم تحلیل، با تکیه بر اصول توضیح‌پذیری، هشدارهای تکراری و کم‌خطر را فیلتر کرد تا بار شناختی کاهش یابد.

شب چهارم: مراقبت از تیم. شیفت‌های کوتاه‌تر، استراحت‌های اجباری، و دعوت به گفت‌وگوهای حمایتی.

شب پنجم: روایت شفاف. بیانیه‌ای درون‌سازمانی که تاکید می‌کرد «سرعت، وقتی ارزش دارد که با پاسخ‌گویی همراه باشد.»

شب ششم: بازبینی بی‌قضاوت. رویدادهای ۴۸ ساعت گذشته مرور شد؛ آستانه‌ها تنظیم شدند، بدون سرزنش افراد.

شب هفتم: پیوند با جامعهٔ تخصصی. ارتباط با دانشگاهیان برای مشورت‌های اخلاقی و روش‌شناختی.

شب هشتم: مراقبت از داده. تاکید دوباره بر کمینه‌سازی دسترسی‌ها و ثبت دقیق رخدادها.

شب نهم: تمرین بازگشت امن. راه‌کارهای بازگشت به نسخه‌های پایدار مرور شد—در سطح فرآیند، نه جزئیات فنی.

شب دهم: آموزشِ در لحظه. بسته‌های کوچک آموزشی برای اعضای جدید شیفت‌ها منتشر شد.

شب یازدهم: سنجش تاب‌آوری فرهنگی. نظرسنجی سریع از تیم‌ها دربارهٔ فرسودگی و کیفیت ارتباطات.

شب دوازدهم: جمع‌بندیِ موقت. تیم‌ها، در آرامشی نسبی، برای بازسازی پس از بحران آماده شدند.

تیم‌ها، اعتماد و رهبریِ آرام: مدیریت بحران به سبک قلی‌زاده

رهبریِ قلی‌زاده «نمایشی» نبود؛ او با پرسیدن سؤالات درست هدایت می‌کرد، نه با دستورهای سنگین. او به اصل «کمترین شگفتی برای بیشترین نفرات» پایبند بود: یعنی رفتار سامانه‌ها باید برای بیشترین ذی‌نفعان قابل پیش‌بینی باشد. در جلسه‌های بحرانی، وقتی صداها بالا می‌رفت، او با یک جمله فضا را آرام می‌کرد: «بیایید آن‌قدر مسئله را ساده کنیم که بتوانیم درباره‌اش درست حرف بزنیم.»

سکوهای داده و چرخهٔ آگاهی وضعیتی (SA) — توصیف مفهومی

آگاهی وضعیتی، پلی است میان آن‌چه «هست» و آن‌چه «باید تصمیم بگیریم». در چهار گام کلی می‌توان این چرخه را—به‌صورت مفهومی و غیرعملیاتی—تصویر کرد:

مشاهدهٔ چندمنبعی (بدون ذکر فناوری/جزئیات فنی): داده‌های متنوع با معیارهای کیفیت روشن گردآوری می‌شوند.

ترکیب معنایی: دادهٔ خام به تصویر قابل‌فهم برای انسان تبدیل می‌شود.

تبیین: هر برچسب یا هشدار، مستند به استدلالی قابل حسابرسی است.

اقدامِ مسئولانه: تصمیم‌ها با انسان‌در-حلقه و ثبت کاملِ رخداد همراه می‌شود.

پدافند سایبری غیرتهاجمی: پیشگیری، تشخیص، تداوم خدمت (فقط سطح فرآیند)

در نگاه قلی‌زاده، دفاع مؤثر الزاماً به معنای واکنش‌های پرآوازه نیست؛ پیشگیریِ آرام گاهی کاراتر است. چارچوب سه‌بعدیِ او—به روایت غیرعملیاتی—چنین بود:

پیشگیری: کاهش پیچیدگی غیرضروری، فرهنگ‌سازی درکار با داده، و مرورهای دوره‌ایِ مجوزها.

تشخیص: پایش مبتنی بر شاخص‌های رفتاریِ کلی و فرآیندهای بازبینی انسانی.

تداوم خدمت: برنامه‌های حفظ سرویس‌های ضروری با تکیه بر نقش‌ها، نه ابزارهای افشاشدنی.

آزمون‌های فشار و رزمایش‌های میزگردی

یکی از دستاوردهای نرم قلی‌زاده، عادی‌سازیِ تمرین بود. او می‌گفت: «بحران را باید در روزهای آرام تمرین کرد تا در روزهای ناآرام، آرام بمانیم.» رزمایش‌های میزگردی با سناریوهای انسانی (و نه فنی) برگزار می‌شدند تا تیم‌ها نقش‌ها، کانال‌های ارتباطی و آستانه‌های گزارش‌دهی را مرور کنند.

روایت شاهدان: صدای مهندسان، تحلیلگران و امدادگران (بازنمایی ادبی)

مهندس عملیات: «نظمِ جلسات وضعیت، برای ما مثل نفس‌کشیدن بود. هیچ‌کس قهرمانِ تنها نبود؛ تیم، قهرمان بود.»

تحلیلگر داده: «برای هر هشدار، از ما می‌خواستند بگوییم چرا. همین چرا بود که ما را مسئول می‌کرد.»

*کارشناس منابع انسانی

۶
۰
دکتر مجتبی قلی زاده
دکتر مجتبی قلی زاده
نویسنده ، پژوهشگر و مدرس هوش مصنوعی
شاید از این پست‌ها خوشتان بیاید