ویرگول
ورودثبت نام
محمد صالح علی اکبری
محمد صالح علی اکبری#دانشجو_معلم رشته ‎‎‎‎#آموزش_ریاضی در حال تلاش برای ‎رفع مشکلات ‎‎#آموزش_و_پرورش فعلا دارم تاس ? می‌ندازم ببینم کدوم «mixed strategy» جوابه برای مشکل.
محمد صالح علی اکبری
محمد صالح علی اکبری
خواندن ۱ دقیقه·۱۰ ماه پیش

راهنمای استفاده از مدل‌های huggingface بدون دسترسی به اینترنت

در دوران عدم دسترسی به اینترنت استفاده از مدل‌های هوش مصنوعی، کم کم داره تبدیل به یک حسرت می شه ولی بد تر از اون اینه که ببینیم می تونستیم در دوران اینترنت ملی همچنان از مدل ها به صورت local استفاده کنیم ولی این فرصت رو از دست دادیم.

در این پست مدل هایی که از قبل توسط کاربران دانلود شده، داره جمع آوری می شه و لینک دانلودش در اختیار عموم قرار می گیره.

وقتی می خوایم از مدل های از پیش تمرین داده شده که در سایت huggingface.co موجود هستند استفاده کنیم. با یک خط کد می‌شد اون مدل‌ها رو به کمک کتابخانه transformers فراخوانی کرد. مثلا:

model = AutoModel.from_pretrained("Qwen/Qwen3-Embedding-8B")

اما وقتی به این شکل آدرس دهی می‌کنیم کتابخانه transformers می یاد چک می‌کنه متوجه می‌شه این آدرس یک آدرس local نیست و اول چک می‌کنه این مدل توی اینترنت به چه شکل هستش. اگر مشابه اونی که تو اینترنت و توی اون ریپازیتوری هست توی سیستم local موجود باشه چیزی دانلود و آپدیت نمی‌شه ولی وقتی اینترنت نیست و مجبور به استفاده local هستیم باید آدرس دقیق مدل رو بدیم. آدرس پوشه ای که دقیقا به خود فایل های مدل اشاره می کنه رو باید مشخص کنیم.

مثلا من وقتی خواستم از این مدل embedding استفاده کنم با تغییر آدرس دهی به این شکل تونستم مدل رو دوباره اجرا کنم.

import torch from transformers import AutoTokenizer, AutoModel # model_path = "Qwen/Qwen3-Embedding-8B" آدرس دهی مناسب زمانی که اینترنت در دسترس هست # آدرس دهی زمانی که اینترنت وصل نیست model_path = "/home/homeai/.cache/huggingface/hub/models--Qwen--Qwen3-Embedding-8B/snapshots/1d8ad4ca9b3dd8059ad90a75d4983776a23d44af/" tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModel.from_pretrained( model_path, torch_dtype=torch.float16, device_map="auto", )

داخل آن پوشه ای که آدرسش رو دادم محتویات به این شکل بود:

اینترنت ملی
۱
۱
محمد صالح علی اکبری
محمد صالح علی اکبری
#دانشجو_معلم رشته ‎‎‎‎#آموزش_ریاضی در حال تلاش برای ‎رفع مشکلات ‎‎#آموزش_و_پرورش فعلا دارم تاس ? می‌ندازم ببینم کدوم «mixed strategy» جوابه برای مشکل.
شاید از این پست‌ها خوشتان بیاید