ایران به لحاظ آب و هوایی جزو مناطق خشک به حساب میآید و همین امر باعث گردیده تا معماران و عامه مردم به فکر تامین آب در زمان کم آبی باشند. قزوین یکی از شهرهایست که سالها مشکل کمآبی داشت و همین امر باعث شد که آب انبارهای بسیاری در شهر برای تامین و نگهداری از آب ایجاد شود.

آب انبار سردار، یکی از آن بیشمار آب انبارهایست که در زمان گذشته در شهر قزوین بنا شده است. این آب انبار که جزو آب انبارهای بزرگ و تک گنبدیست، از زمان قاجار برجای مانده و امروزه بادگیر کوچک و فیروزهایش بر بلندی شهر قزوین خودنمایی میکند
آب انبار سردار بزرگ همانطور که گفته شد در زمان قاجار احداث شده است. بانیان این آب انبار بزرگ دو تن از سرداران زمان فتحعلیشاه بودند. محمد حسن خان و محمد حسین خان، دو سردار شجاع زمان قاجار بودند که در جنگهای ایران و روسیه شجاعانه جنگیدند و بعد از جنگ نیز بناهای عامالمنفعه بسیاری در قزوین ساختند.
گفته میشود هر کدام از برادران در شهر قزوین، یک آب انبار در محلههای مختلف قزوین احداث کردند که یکی در خیابان راهآهن و دیگری در خیابان تبریز بود. آب انبار ساخته شده در خیابان راه آهن توسط بردار بزرگتر بود برای همین به نام سردار بزرگ مشهور شد.