در دوران عدم دسترسی به اینترنت استفاده از مدلهای هوش مصنوعی، کم کم داره تبدیل به یک حسرت می شه ولی بد تر از اون اینه که ببینیم می تونستیم در دوران اینترنت ملی همچنان از مدل ها به صورت local استفاده کنیم ولی این فرصت رو از دست دادیم.
در این پست مدل هایی که از قبل توسط کاربران دانلود شده، داره جمع آوری می شه و لینک دانلودش در اختیار عموم قرار می گیره.
وقتی می خوایم از مدل های از پیش تمرین داده شده که در سایت huggingface.co موجود هستند استفاده کنیم. با یک خط کد میشد اون مدلها رو به کمک کتابخانه transformers فراخوانی کرد. مثلا:
model = AutoModel.from_pretrained("Qwen/Qwen3-Embedding-8B")
اما وقتی به این شکل آدرس دهی میکنیم کتابخانه transformers می یاد چک میکنه متوجه میشه این آدرس یک آدرس local نیست و اول چک میکنه این مدل توی اینترنت به چه شکل هستش. اگر مشابه اونی که تو اینترنت و توی اون ریپازیتوری هست توی سیستم local موجود باشه چیزی دانلود و آپدیت نمیشه ولی وقتی اینترنت نیست و مجبور به استفاده local هستیم باید آدرس دقیق مدل رو بدیم. آدرس پوشه ای که دقیقا به خود فایل های مدل اشاره می کنه رو باید مشخص کنیم.
مثلا من وقتی خواستم از این مدل embedding استفاده کنم با تغییر آدرس دهی به این شکل تونستم مدل رو دوباره اجرا کنم.
import torch from transformers import AutoTokenizer, AutoModel # model_path = "Qwen/Qwen3-Embedding-8B" آدرس دهی مناسب زمانی که اینترنت در دسترس هست # آدرس دهی زمانی که اینترنت وصل نیست model_path = "/home/homeai/.cache/huggingface/hub/models--Qwen--Qwen3-Embedding-8B/snapshots/1d8ad4ca9b3dd8059ad90a75d4983776a23d44af/" tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModel.from_pretrained( model_path, torch_dtype=torch.float16, device_map="auto", )
داخل آن پوشه ای که آدرسش رو دادم محتویات به این شکل بود:
