با توجه به اوضاع این روزها و نیاز شخصی به هوش مصنوعی افلاین راهنمای کار با برنامه LM Studio را نوشتم. در این فایل به برنامه Anything llm هم اشاره ای شده است.
فهرست مطالب موجود در PDF بصورت زیر است:
روش نصب LM Studio بر روی ویندوز
راهنمای انتخاب مدل هوش مصنوعی آفلاین..
شروع به کار با lm studio.
تنظیمات LM Studio.
راهکارهایی جهت افزایش سرعت…
ایجاد local server
کاربرد AnythingLLM…
بصورت خلاصه روش نصب برنامه رو اینجا مینویسم. راهنمای کامل تر در PDF هست:
لینک دانلود PDF
روش نصب LM Studio بر روی ویندوز
1- از سایت زیر نسخه مناسب سیستم عامل تان را انتخاب کنید:
https://p30download.ir/fa/entry/112975/lm-studio
نرم افزار را مشابه سایر نرم افزارهای معمول نصب کنید.
2- بعد از نصب نر افزار نیاز هست مدل هوش مصنوعی را دانلود کنید. از همین لینک بالا در قسمت (دانلود مدل ها) با توجه به سخت افزار رایانه مدلی را دانلود کنید.
3- مدل زبانی که دانلود کرده اید را از حالت فشرده خارج کنید.
4- در قسمت Run ویندوز عبارت زیر را وارد و Enter را بزنید.
%HOMEPATH%\.lmstudio\models
5- یک پوشه با نام lmstudio-community در مسیر بالا ایجاد کنید.
6- مدل زبانی که از حالت فشرده خارج شده شامل یک پوشه با نامی هست که به GGUF ختم میشود، پوشه مذکور را به درون پوشه lmstudio-community منتقل کنید.
توجه: اگر چند مدل را دانلود کرده اید به همین طریق پوشه سایر مدل ها را در کنار مدل فعلی درون پوشه lmstudio-community منتقل کنید.
» » توجه شود منظور از رم در توضیحات زیر Vram هست که مربوط به کارت گرافیک هست. طبق تجربه و توضیحات نرم افزار lm studio حداقل رم گرافیک ترجیحا باید 8 گیگ باشه تا بتونید تجربه نسبتا روانی رو از کار با این مدل های هوش مصنوعی آفلاین داشته باشید.
»» این توضیحات از قول کاربری در سایت git.ir جهت آگاهی از نخوه انتخاب مدل ها با توجه به سیستم هست:
برای محاسبه دقیق رم (RAM) و حافظه گرافیکی (VRAM) مورد نیاز برای اجرا(Inference) و بارگذاری (Loading) مدلهای هوش مصنوعی چقدر فضا نیاز دارید، از این فرمول ساده استفاده کنید:
RAM/VRAM حجم مورد نیاز = (p × q ÷ 8) × 1.2
که در اون:
p : پارامتر های مدل
q : عدد کوانتایز مدل
عدد 1.2 هم مقداری خارج از فرمول اصلی و صرفا برای سربار سیستم و فریمورک و …
مثال:
برای اجرای مدل DeepSeek-R1 – Qwen3 8B اسم کاملش که تولینک دانلود هست به این صورته:
DeepSeek-R1-0528-Qwen3-8B-Q3_K_L.gguf
p=8
q=3
((8*3)/8)*1.2 = 3.6 گیگا بایت حافظه لازم دارید