(ویرایش: یک سیستم نمونه در نوشتار دیگری ارائه شده که برخی مفاهیم نوشتار زیر را ملموستر میکند.)
توزیعِ بار (load balancing) از مسالههاییست که دیده میشه مهندسانِ حتی ارشد، گاهی نگاه بستهای بهش دارند، مثلا در مصاحبههای #طراحی_سیستم به سادگی میگن «یک load balancer بین این و اون میذاریم» بدون نگاه به سود و زیانها در تاخیر و خرابی/failure و پیچیدگی و غیره.
چگونه بارِ میلیونها درخواست بر ثانیه رو بین هزاران سرورِ یک سرویسِ جهانیِ چند لایه پخش میکنیم؟ پیش از هر پاسخی باید بپرسید برای چه هدفی؟
همچنین باید بپرسید در چه سطحی؟
پاسخ به همهی این حالتها، هم از این گفتار و هم احتمالا از دانش بنده فراتره. فصل ۱۱ کتاب Google SRE Workbook و فصل ۱۹ و ۲۰ از کتاب Google SRE Book به خوبی پاسخِ گوگل به بسیاری از این پرسشها رو توضیح دادن و به طور رایگان در این آدرس در دسترساند. به علاقهمندان توصیه میشه حتما بخونن. اگر پرسشی هم بود بنده در خدمتم.
هدف اول این گفتار، جلب توجه به این مقوله و معرفی منابع بالا بود، و هدف دوم، مرور دو جور سیستم توزیع بار متفاوت که در دو محصول گوگل استفاده میشه: پردازشی و حجمی - تقسیم بندیِ همینجوری از خودم صرفا برای رسوندن مطلب.
پردازشی. یک درخواستِ جستجو یا دریافت تبلیغ یا غیره، ابتدا همون فرآیندی که در کتاب بالا گفته شده رو سپری میکنه: فرود روی لایهی GFE بر اساس DNS--قصد مرورش رو در این گفتار ندارم و در منابع بالا هست--و سپس تحویل از GFE به stack مربوطه. اون stack یا به قول معروف backend هم در واقع یک درخت یا DAG از چندین مولفه/backend مجزاست که همدیگر رو صدا میزنن تا پایین، تا یک درخواست پردازش بشه و پاسخش ساخته و پرداخته شه برگرده بالا تحویل کاربر بشه. همون چیزی که تقریبا در معماری هر سرویس آنلاینی دیدید.
حالا در این سناریو، وقتی میگیم مولفهی الف مولفهی ب رو صدا میزنه یعنی چی؟ هر مولفه برپا شده از هزاران سرور در دهها datacentre است - منظور از سرور هم یک replica از binary در حال اجرا است نه یک سرور فیزیکی. یک درخواست از یک سرور از مولفهی الف کجا میره و چه کسی با چه معیاری تصمیم میگیره به کدوم یک از هزاران سرور ب بره؟
اگر تا اینجا رو خوب دنبال کرده باشید--و اگر نکردید میتونید اینجا یا در توییتر بپرسید--احتمالا این پرسش براتون پیش میآد که یعنی همهی هزاران سرور ب در دهها datacentre، همگی پشت یک سیاستِ همگنِ مثلا cpu based هستند؟ پس بُعد فاصله و تاخیر و ترافیکِ راهِ دور چی؟
در واقع ساز و کار flow control بین backendها، همین کارهای gslb است، نه یک صفِ توزیع شده (مثل kafka) بین مولفهها گذاشتن یا صرفا به محدود کردنِ طول صف ورودی سرورها (server side flow control) بسنده کردن - تکنیکهای ناکافی که در جاهای دیگر دیدم. هچنین ساز و کار جداگانهای هم در سطح تک تک سرورها وجود داره برای پاسخِ آنی به سرریزِ بار (overload)، تا gslb بیاد و دست بجنبونه و بار رو دور کنه، ولی فراتر از این گفتار است.
حجمی. سرویس CDN گوگل که YouTube و سایر دادههای حجیم و ایستا (static) رو تحویل دنیا میده، روشی دومرحلهای به کار میگیره تا دقت توزیع بار، به ویژه در مسالهی حجم و پهنای باند رو، بالا ببره.
خوب IP کاربر رو دیدیم. حالا چی؟ CDN گوگل، تصمیم «نگاشت» IP کاربر به datacentre/PoP رو در مسیر بحرانی درخواست (critical query path) نمیگیره، بلکه به طور offline، به تناوب و به شکل تقریبا بلادرنگ یک جدول lookup تهیه میکنه از IP subnetها به datacentre/PoPها. معیار ساخت این جدول چیه؟ چرا مثلا از IP subnet به نزدیکترین PoP نه؟ چون پهنای باند مهمه. جزییات بیشترِ ساخت این جدول فراتر از این گفتاره - یک مسالهی بهینهسازی که از قضا بنده بهش تعلق خاطر دارم چون مرتبط با نخستین پروژهی گوگلی بنده سالها پیش به عنوان کارآموز بوده.
البته توجه کنید که CDN گوگل (و نیز سایرین)، در PoPهای بیشتر ISPهای دنیا server rack دارن و اصلا بیشتر ترافیک رو محلی تحویل میدن، از همون سر کوچه، بدون نیاز به خروج از شبکهی ISP و رسیدن به شبکهی گوگل. ولی برای بارِ فراتر از ظرفیتِ rackهای محلی و همچنین بارِ خود rackها که صرفا cache server هستن و نیاز به بهروز شدنِ پیوسته دارن، ترافیک از شبکهی محلی خارج میشه و تخصیص بهینه مهم.
مسالهی توزیع بار بسیار فراتر از اون هست که بشه در چند پاراگراف به شکل درخور بازش کرد، ولی امیدوارم این گفتار کمی دید شما رو دربارهی توزیع بار باز کنه - دست کم به سادگی نگید «یک load balancer» میذاریم یا «یک صف میذاریم» بلکه به پیامدهای تاخیر و failure و چگونگی توزیع بر اساس بار یا محتوا و دغدغههای شبکهای و هدر رفتن ظرفیت سرورها و غیره فکر کنید.