ویرگول
ورودثبت نام
بهزاد حسین عباسی
بهزاد حسین عباسیبهزاد حسین عباسی بنیانگذار اپراتوری هوش مصنوعی پست دکتری حرفه ای دانشگاه علامه طباطبایی دکتری هوش مصنوعی حرفه ای دانشگاه تهران مولف 30 جلد کتاب و 14 مقاله هوش مصنوعی ابر هوش
بهزاد حسین عباسی
بهزاد حسین عباسی
خواندن ۵ دقیقه·۲۲ روز پیش

هوش مصنوعی جمینای ۴ کربن: یادگیری کدنویسی امن

هوش مصنوعی جمینای ۴ کربن تازه‌ترین مدل مرزی گوگل دیپ‌مایند است که روز ۲۸ اکتبر ۲۰۲۶ معرفی شد و تمرکز اصلی آن بر امنیت سایبری و کارهای مهندسی طولانی‌مدت است. گوگل این مدل را قوی‌ترین مدل خود در حوزه امنیت سایبری و وظایف چندمرحله‌ای می‌داند و دسترسی به آن در آغاز فقط به گروهی منتخب از مدافعان سایبری داده می‌شود. برای کسانی که می‌خواهند با هوش مصنوعی کار کنند، این خبر فقط یک معرفی تازه نیست، بلکه نشانه‌ای از یک مهارت رو به رشد است: نوشتن کد امن با کمک مدل‌های هوشمند و بررسی امنیتی کد پیش از رسیدن آن به دست کاربر.

ترند در یک نگاه

جمینای ۴ کربن دو هفته پس از جمینای ۴ آرگون معرفی شد و بر اساس اعلام گوگل، در نسخه پنجم شاخص هوش مصنوعی شرکت آرتیفیشال آنالیز با امتیاز ۵۹ در جایگاه نخست قرار گرفت. گوگل می‌گوید این مدل می‌تواند روزهای متوالی روی یک مسئله مهندسی کار کند، برای نمونه ریشه یک باگ پنهان را در یک پایگاه کد بزرگ پیدا کند و آن را اصلاح کند. در بنچمارک‌های امنیتی که بدون محافظ‌های ایمنی اجرا شده‌اند، کربن در یافتن آسیب‌پذیری‌ها ۸۸ و دو دهم درصد در بنچمارک سک‌بنچ پرو، در تبدیل آسیب‌پذیری به بهره‌برداری آزمایشی ۵۴ و هشت دهم درصد در بنچمارک اکسپلویت‌جیم و در نوشتن وصله ۷۱ درصد در بنچمارک سی‌دبلیوئی‌بنچ به دست آورده است. دسترسی نخست به گروهی از مدافعان سایبری داده می‌شود و سپس از مسیر برنامه فیرویند گوگل به شرکای مورد اعتماد گسترش می‌یابد و پس از بازخورد و تقویت محافظ‌ها، به توسعه‌دهندگان، کسب‌وکارها و مصرف‌کنندگان می‌رسد.

چرا جمینای ۴ کربن مهم است

اهمیت این مدل در این است که چرخه دفاع سایبری را کامل می‌کند: یافتن آسیب‌پذیری، سنجش واقعی بودن خطر آن و سپس اصلاح ریشه‌ای آن. تا پیش از این، بسیاری از ابزارهای هوش مصنوعی فقط در یک بخش از این چرخه خوب بودند. مدلی که هر سه بخش را کنار هم انجام دهد، می‌تواند زمان میان کشف یک نقص و اصلاح آن را کوتاه کند و همین فاصله زمانی، همان جایی است که معمولا حمله‌ها رخ می‌دهند. نکته دوم، کارهای طولانی‌مدت است. یک وظیفه مهندسی واقعی به‌ندرت در یک پاسخ کوتاه تمام می‌شود و نیاز به پیگیری، آزمون دوباره و اصلاح خطاها دارد. نکته سوم، ایمنی خود مدل است. گوگل می‌گوید ادعاهای بدون پشتوانه در آزمون‌های داخلی نسبت به آرگون تقریبا به نصف رسیده و نرخ موفقیت حمله در بنچمارک تزریق غیرمستقیم پرامپت گری سوان صفر درصد بوده است.

مسیر یادگیری کدنویسی امن با هوش مصنوعی

یادگیری این حوزه را می‌توان در پنج گام عملی طی کرد. گام یک، فهم مبانی امنیت نرم‌افزار است: آشنایی با فهرست رایج‌ترین ضعف‌های امنیتی مانند فهرست دهگانه اواسپ و طبقه‌بندی ضعف‌های نرم‌افزاری سی‌دبلیوئی و اینکه هر ضعف معمولا از چه خطای برنامه‌نویسی ناشی می‌شود. گام دو، خواندن کد با نگاه امنیتی است: انتخاب یک پایگاه کد کوچک و متن‌باز و تلاش برای یافتن نقاط ورودی داده و مسیرهای دسترسی به داده حساس، بدون کمک مدل. گام سه، کار با ایجنت کدنویس در محیط آزمایشی است: در یک مخزن جدا از سامانه واقعی، از مدل خواسته می‌شود کد را بازبینی کند، آسیب‌پذیری احتمالی را با ذکر محل دقیق و دلیل توضیح دهد و یک وصله پیشنهادی بنویسد. خروجی مدل در این مرحله هرگز بدون بررسی انسانی پذیرفته نمی‌شود. گام چهار، آزمون وصله است: اجرای دوباره آزمون‌های قبلی، نوشتن یک آزمون تازه برای همان آسیب‌پذیری و بررسی اینکه وصله، رفتار سالم برنامه را خراب نکرده باشد. گام پنج، مستندسازی و تکرار است: ثبت هر مورد با توضیح کوتاه درباره علت، راه اصلاح و آزمون مربوط به آن، تا یک مرجع شخصی از الگوهای امن ساخته شود.

کاربرد عملی در کار روزمره

در کار واقعی، این مهارت چند کاربرد روشن دارد. نخست، بازبینی امنیتی کد پیش از انتشار است. تیم‌های کوچک که متخصص امنیت اختصاصی ندارند، می‌توانند با کمک مدل، بازبینی اولیه کد را انجام دهند و موارد مشکوک را برای بررسی عمیق‌تر جدا کنند. دوم، آزمون نفوذ دفاعی با اجازه مشخص است. در سامانه‌ای که مالک آن اجازه داده است، مدل می‌تواند به یافتن مسیرهای حمله احتمالی کمک کند تا پیش از مهاجم واقعی، همان مسیرها بسته شوند. آزمون روی سامانه‌ای بدون اجازه، کاری غیرمجاز است و این مرز باید همیشه رعایت شود. سوم، اصلاح بدهی امنیتی قدیمی است. بسیاری از پروژه‌ها فهرستی از هشدارهای امنیتی انباشته دارند که فرصت رسیدگی به آن‌ها نبوده است و یک مدل توانمند در کارهای طولانی‌مدت می‌تواند این فهرست را مورد به مورد جلو ببرد. چهارم، آموزش تیم است. مثال‌های واقعی از آسیب‌پذیری‌های یافت‌شده و اصلاح‌شده، بهترین ماده آموزشی برای برنامه‌نویسان تازه‌کار هستند.

چشم‌انداز و احتیاط‌های لازم

دسترسی محدود کربن در آغاز به این معناست که بیشتر یادگیرندگان فعلا مستقیما با همین مدل کار نمی‌کنند، ولی مسیر یادگیری وابسته به یک مدل خاص نیست. مفاهیم امنیت نرم‌افزار، خواندن کد، آزمون وصله و مستندسازی، با هر مدل توانمند دیگری هم قابل تمرین است و وقتی دسترسی گسترش یافت، همان مهارت‌ها روی مدل تازه هم به کار می‌آیند. در عین حال باید چند احتیاط را جدی گرفت. بنچمارک‌های اعلام‌شده، بخشی آزمون‌های خود شرکت هستند و همه آن‌ها به‌طور مستقل بازتولید نشده‌اند، پس نباید از روی یک عدد، برتری مطلق نتیجه گرفت. خروجی مدل هم ممکن است خطا داشته باشد و یک وصله پیشنهادی که درست به نظر می‌رسد، می‌تواند خود یک آسیب‌پذیری تازه بسازد. پس بررسی انسانی و آزمون ضروری است. این ابزارها برای دفاع ساخته شده‌اند و یادگیرنده‌ای که این مرز را رعایت کند، مهارتی می‌سازد که هم در بازار کار ارزشمند است و هم به امنیت سامانه‌هایی که مردم هر روز از آن‌ها استفاده می‌کنند، کمک می‌کند.

بهزاد حسین عباسی، بنیانگذار اپراتوری هوش مصنوعی و اپراتوری ابرهوش

هوش مصنوعیآموزش هوش مصنوعیهوش مصنوعی مولد
۰
۰
بهزاد حسین عباسی
بهزاد حسین عباسی
بهزاد حسین عباسی بنیانگذار اپراتوری هوش مصنوعی پست دکتری حرفه ای دانشگاه علامه طباطبایی دکتری هوش مصنوعی حرفه ای دانشگاه تهران مولف 30 جلد کتاب و 14 مقاله هوش مصنوعی ابر هوش
شاید از این پست‌ها خوشتان بیاید