هل أستطيع تشغيل Mistral Small 4 119B على جهازي؟

يحتاج Mistral Small 4 119B إلى 66.5 جيجابايت من الذاكرة كحد أدنى، والموصى به 110.8 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.

كم يحتاج Mistral Small 4 119B من الـ VRAM؟

بتكميم Q4_K_M يستهلك Mistral Small 4 119B نحو 61.5 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.

Mistral Small 4 119B

Apache 2.0

Mistral AI · 119B (6.5B active) · MoE

نموذج Mistral Small 4 المتفرّق — ٦٫٥ مليار معامل نشط، شامل وقوي محليًا. تعرّف على ما إذا كان كرت شاشتك أو جهاز الماك قادرًا على تشغيل Mistral Small 4 119B محليًا — 66.5 جيجابايت كحد أدنى، و110.8 جيجابايت موصى بها.

كيف تستخدم Mistral Small 4 119B في llama.cpp

يحمّل llama.cpp ملف Mistral Small 4 119B من HuggingFace مباشرة ويشغّله، إمّا خادمًا متوافقًا مع OpenAI بواجهة ويب أو في الطرفية. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

التثبيت على macOS وLinux

curl -LsSf https://llama.app/install.sh | sh

# Start a local OpenAI-compatible server with a web UI:
llama serve -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

# Run inference directly in the terminal:
llama cli -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

التثبيت عبر WinGet على Windows

winget install llama.cpp

# Start a local OpenAI-compatible server with a web UI:
llama serve -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

# Run inference directly in the terminal:
llama cli -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

نسخة جاهزة من صفحة الإصدارات

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases

# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

# Run inference directly in the terminal:
./llama-cli -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

البناء من الكود المصدري

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli

# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

# Run inference directly in the terminal:
./build/bin/llama-cli -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

عبر Docker

docker model run hf.co/unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

التوثيق الرسمي: llama.cpp

كيف تستخدم Mistral Small 4 119B في Ollama

ينزّل Ollama النموذج ويفتح محادثة محلية بأمر واحد. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

من ملف GGUF على HuggingFace

ollama run hf.co/unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

التوثيق الرسمي: Ollama

كيف تستخدم Mistral Small 4 119B في Pi

Pi وكيل برمجة يعمل في الطرفية. شغّل Mistral Small 4 119B على خادم llama.cpp محلي ثم وجّه Pi إليه. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp

# Start a local OpenAI-compatible server:
llama serve -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

أضف النموذج إلى Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent

# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL"
        }
      ]
    }
  }
}

شغّل Pi

# Start Pi in your project directory:
pi

التوثيق الرسمي: Pi

كيف تستخدم Mistral Small 4 119B في node-llama-cpp

شغّل Mistral Small 4 119B من Node.js بلا تثبيت مسبق. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

محادثة مع النموذج

npx -y node-llama-cpp chat hf:unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

قدّر توافق النموذج مع جهازك

npx -y node-llama-cpp inspect estimate hf:unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

التوثيق الرسمي: node-llama-cpp

كيف تستخدم Mistral Small 4 119B في Docker Model Runner

يشغّل Docker Desktop النموذج محليًا ويتيحه عبر واجهة متوافقة مع OpenAI. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

شغّل النموذج

docker model run hf.co/unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

التوثيق الرسمي: Docker Model Runner

كيف تستخدم Mistral Small 4 119B في LocalAI

LocalAI خادم محلي متوافق مع OpenAI. استبدل {{GGUF_FILE}} باسم ملف GGUF الذي تريده من المستودع unsloth/Mistral-Small-4-119B-2603-GGUF.

التثبيت من ملف تنفيذي

curl https://localai.io/install.sh | sh

# Load and run the model:
local-ai run huggingface://unsloth/Mistral-Small-4-119B-2603-GGUF/{{GGUF_FILE}}

عبر صور Docker

# Pull the image:
docker pull localai/localai:latest-cpu

# Load and run the model:
docker run -p 8080:8080 --name localai -v $PWD/models:/build/models localai/localai:latest-cpu huggingface://unsloth/Mistral-Small-4-119B-2603-GGUF/{{GGUF_FILE}}

التوثيق الرسمي: LocalAI

كيف تستخدم Mistral Small 4 119B في Lemonade

Lemonade خادم محلي من AMD يعمل على المعالجات وكروت الشاشة. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

نزّل النموذج

# Download Lemonade from https://lemonade-server.ai/

lemonade pull unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

شغّل النموذج وحاوره

lemonade run user.Mistral-Small-4-119B-2603-GGUF-UD-Q4_K_XL

اعرض كل النماذج المتاحة

lemonade list

التوثيق الرسمي: Lemonade

كيف تستخدم Mistral Small 4 119B في Hermes Agent

وكيل Hermes من Nous Research. شغّل Mistral Small 4 119B على خادم llama.cpp محلي ثم وجّه Hermes إليه. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp

# Start a local OpenAI-compatible server:
llama serve -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

اضبط Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup

# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

شغّل Hermes

hermes

التوثيق الرسمي: Hermes Agent

كيف تستخدم Mistral Small 4 119B في OpenClaw

OpenClaw وكيل مفتوح المصدر يعمل على جهازك. شغّل Mistral Small 4 119B على خادم llama.cpp محلي ثم سجّله في OpenClaw. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Mistral-Small-4-119B-2603-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp

# Start a local OpenAI-compatible server:
llama serve -hf unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL

اضبط OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest

# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "unsloth/Mistral-Small-4-119B-2603-GGUF:UD-Q4_K_XL" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

شغّل OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

التوثيق الرسمي: OpenClaw

أوامر التشغيل HuggingFace

2026-03سياق 256K

MoE

إجمالي الخبراء: 128

الخبراء النشطون: 4

المعاملات النشطة: 6.5B

مستويات الـ Quantization

Quantization	البتات	الذاكرة	الجودة	الحالة
Q2_K	2	38.6GB	منخفضة	—
Q3_K_M	3	53.8GB	متوسطة	—
Q4_K_M	4	61.5GB	جيدة	—
Q5_K_M	5	76.7GB	جيدة	—
Q6_K	6	91.9GB	ممتازة	—
Q8_0	8	122.4GB	ممتازة	—
F16	16	244.3GB	بلا فقد	—

الأرقام تشمل الأوزان وذاكرة KV عند طول سياق 2K توكن. غيّر طول السياق من لوحة جهازك لترى أثره على الذاكرة والسرعة.

جهازك

جارٍ الاكتشاف...

طول السياق

كل توكن في السياق يحجز مساحة في ذاكرة KV. كلما طال السياق زادت الذاكرة المطلوبة وتراجعت السرعة.

السياق٢٠٤٨ توكن

نسخة الأوزان

اختر النسخة التي تريد حسابها؛ تتغيّر الأوزان والإجمالي وتقييم جهازك معها.

الأوزان: —
ذاكرة KV: —
تشغيل: —
الإجمالي: —

دقّة ذاكرة KV

الافتراضي — بلا فقد

محسوبة من بنية النموذج المنشورة: 36 طبقة، انتباه كامن مضغوط برتبة 256.

شغّل هذا النموذج

لا يتوفّر Mistral Small 4 119B في مكتبة Ollama بعد. نزّل ملف GGUF من HuggingFace وشغّله عبر llama.cpp، أو افتحه في LM Studio.

الـ Quantization الموصى به لجهازك: جارٍ التحديد…

محرّكات تشغيل أخرى

llama.cpp / GGUF

Download GGUF from HuggingFace

المواصفات

المعاملات: 119B
النشطة: 6.5B active
البنية: MoE
استخدام الأدوات: مدعوم
التفكير: لا
السياق: 256K توكن
أقل ذاكرة: 66.5GB
الموصى بها: 110.8GB
العائلة: Mistral
تاريخ الإصدار: 2026-03
الرخصة: Apache 2.0✓ تجاري

الاختبارات المرجعية

Artificial Analysis Intelligence Index v4.1.1

المصدر: Artificial Analysis

النتيجة تخص النموذج الكامل عبر الواجهة البرمجية، وقد يحصل ملف GGUF المكمَّم محليًا على نتيجة أقل.

أسئلة شائعة عن تشغيل Mistral Small 4 119B محليًا

هل أستطيع تشغيل Mistral Small 4 119B على جهازي؟: يحتاج Mistral Small 4 119B إلى 66.5 جيجابايت من الذاكرة كحد أدنى، والموصى به 110.8 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.
كم يحتاج Mistral Small 4 119B من الـ VRAM؟: بتكميم Q4_K_M يستهلك Mistral Small 4 119B نحو 61.5 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.