هل أستطيع تشغيل Devstral Small 2 24B على جهازي؟

يحتاج Devstral Small 2 24B إلى 13.4 جيجابايت من الذاكرة كحد أدنى، والموصى به 22.4 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.

كم يحتاج Devstral Small 2 24B من الـ VRAM؟

بتكميم Q4_K_M يستهلك Devstral Small 2 24B نحو 12.8 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.

Devstral Small 2 24B

Apache 2.0

Mistral AI · 24B · كثيف

نموذج برمجي بسياق ٢٥٦ ألف رمز — ٦٨٪ في اختبار SWE-bench. تعرّف على ما إذا كان كرت شاشتك أو جهاز الماك قادرًا على تشغيل Devstral Small 2 24B محليًا — 13.4 جيجابايت كحد أدنى، و22.4 جيجابايت موصى بها.

كيف تستخدم Devstral Small 2 24B في llama.cpp

يحمّل llama.cpp ملف Devstral Small 2 24B من HuggingFace مباشرة ويشغّله، إمّا خادمًا متوافقًا مع OpenAI بواجهة ويب أو في الطرفية. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

التثبيت على macOS وLinux

curl -LsSf https://llama.app/install.sh | sh

# Start a local OpenAI-compatible server with a web UI:
llama serve -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

# Run inference directly in the terminal:
llama cli -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

التثبيت عبر WinGet على Windows

winget install llama.cpp

# Start a local OpenAI-compatible server with a web UI:
llama serve -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

# Run inference directly in the terminal:
llama cli -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

نسخة جاهزة من صفحة الإصدارات

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases

# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

# Run inference directly in the terminal:
./llama-cli -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

البناء من الكود المصدري

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli

# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

# Run inference directly in the terminal:
./build/bin/llama-cli -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

عبر Docker

docker model run hf.co/unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

التوثيق الرسمي: llama.cpp

كيف تستخدم Devstral Small 2 24B في Ollama

ينزّل Ollama النموذج ويفتح محادثة محلية بأمر واحد. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

من مكتبة Ollama الرسمية

ollama run devstral-small-2

من ملف GGUF على HuggingFace

ollama run hf.co/unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

التوثيق الرسمي: Ollama

كيف تستخدم Devstral Small 2 24B في Pi

Pi وكيل برمجة يعمل في الطرفية. شغّل Devstral Small 2 24B على خادم llama.cpp محلي ثم وجّه Pi إليه. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp

# Start a local OpenAI-compatible server:
llama serve -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

أضف النموذج إلى Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent

# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M"
        }
      ]
    }
  }
}

شغّل Pi

# Start Pi in your project directory:
pi

التوثيق الرسمي: Pi

كيف تستخدم Devstral Small 2 24B في node-llama-cpp

شغّل Devstral Small 2 24B من Node.js بلا تثبيت مسبق. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

محادثة مع النموذج

npx -y node-llama-cpp chat hf:unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

قدّر توافق النموذج مع جهازك

npx -y node-llama-cpp inspect estimate hf:unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

التوثيق الرسمي: node-llama-cpp

كيف تستخدم Devstral Small 2 24B في Docker Model Runner

يشغّل Docker Desktop النموذج محليًا ويتيحه عبر واجهة متوافقة مع OpenAI. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

شغّل النموذج

docker model run hf.co/unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

التوثيق الرسمي: Docker Model Runner

كيف تستخدم Devstral Small 2 24B في LocalAI

LocalAI خادم محلي متوافق مع OpenAI. استبدل {{GGUF_FILE}} باسم ملف GGUF الذي تريده من المستودع unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF.

التثبيت من ملف تنفيذي

curl https://localai.io/install.sh | sh

# Load and run the model:
local-ai run huggingface://unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF/{{GGUF_FILE}}

عبر صور Docker

# Pull the image:
docker pull localai/localai:latest-cpu

# Load and run the model:
docker run -p 8080:8080 --name localai -v $PWD/models:/build/models localai/localai:latest-cpu huggingface://unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF/{{GGUF_FILE}}

التوثيق الرسمي: LocalAI

كيف تستخدم Devstral Small 2 24B في Lemonade

Lemonade خادم محلي من AMD يعمل على المعالجات وكروت الشاشة. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

نزّل النموذج

# Download Lemonade from https://lemonade-server.ai/

lemonade pull unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

شغّل النموذج وحاوره

lemonade run user.Devstral-Small-2-24B-Instruct-2512-GGUF-Q4_K_M

اعرض كل النماذج المتاحة

lemonade list

التوثيق الرسمي: Lemonade

كيف تستخدم Devstral Small 2 24B في Hermes Agent

وكيل Hermes من Nous Research. شغّل Devstral Small 2 24B على خادم llama.cpp محلي ثم وجّه Hermes إليه. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp

# Start a local OpenAI-compatible server:
llama serve -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

اضبط Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup

# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

شغّل Hermes

hermes

التوثيق الرسمي: Hermes Agent

كيف تستخدم Devstral Small 2 24B في OpenClaw

OpenClaw وكيل مفتوح المصدر يعمل على جهازك. شغّل Devstral Small 2 24B على خادم llama.cpp محلي ثم سجّله في OpenClaw. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp

# Start a local OpenAI-compatible server:
llama serve -hf unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M

اضبط OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest

# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF:Q4_K_M" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

شغّل OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

التوثيق الرسمي: OpenClaw

أوامر التشغيل HuggingFace Ollama LM Studio

2025-12سياق 256K

مستويات الـ Quantization

Quantization	البتات	الذاكرة	الجودة	الحالة
Q2_K	2	8.2GB	منخفضة	—
Q3_K_M	3	11.3GB	متوسطة	—
Q4_K_M	4	12.8GB	جيدة	—
Q5_K_M	5	15.9GB	جيدة	—
Q6_K	6	18.9GB	ممتازة	—
Q8_0	8	25.1GB	ممتازة	—
F16	16	49.7GB	بلا فقد	—

الأرقام تشمل الأوزان وذاكرة KV عند طول سياق 2K توكن. غيّر طول السياق من لوحة جهازك لترى أثره على الذاكرة والسرعة.

التطبيقات

شغّل Devstral Small 2 24B داخل أدوات البرمجة التي تعمل بالذكاء الاصطناعي — يشغّل الأمر خادم Ollama على جهازك، يحمّل النموذج، ثم يفتح الأداة موصولة به.

Claude Code
وكيل البرمجة من Anthropic، يعمل في الطرفية وداخل المحرّر
ollama launch claude --model devstral-small-2
OpenCode
وكيل برمجة مفتوح المصدر يعمل في الطرفية داخل مستودعك
ollama launch opencode --model devstral-small-2
Codex
وكيل البرمجة من OpenAI في سطر الأوامر
ollama launch codex --model devstral-small-2
Droid
وكيل البرمجة من Factory، للمهام الطويلة عبر عدّة ملفات
ollama launch droid --model devstral-small-2
Hermes Agent
وكيل برمجة مفتوح من Nous Research، بذاكرة تمتد عبر الجلسات
ollama launch hermes --model devstral-small-2
OpenClaw
وكيل مفتوح المصدر يشغّل المهام على جهازك بلا خدمة سحابية
ollama launch openclaw --model devstral-small-2

تحتاج Ollama والأداة نفسها مثبَّتين. إن لم تكن الأداة مثبّتة، يرشدك الأمر إلى طريقة تثبيتها. اكتب ollama launch وحده لاختيار الأداة من قائمة.

عن هذا النموذج

الوصف الرسمي كما نشرته الجهة المطوِّرة، بلغته الأصلية.

Note: this model requires Ollama 0.13.3 or later. Download Ollama

Devstral Small 2

Devstral is an agentic LLM for software engineering tasks. Devstral 2 models excel at using tools to explore codebases, editing multiple files and power software engineering agents.
The model achieves remarkable performance on SWE-bench.

24B model

ollama run devstral-small-2

Key Features

The Devstral 2 Instruct model offers the following capabilities:

Agentic Coding: Devstral is designed to excel at agentic coding tasks, making it a great choice for software engineering agents.
Improved Performance: Devstral 2 is a step-up compared to its predecessors.
Better Generalization: Generalises better to diverse prompts and coding environments.

Use Cases

AI Code Assistants, Agentic Coding, and Software Engineering Tasks. Leveraging advanced AI capabilities for complex tool integration and deep codebase understanding in coding environments.

Benchmark Results

Model/Benchmark	Size (B Tokens)	SWE Bench Verified	SWE Bench Multilingual	Terminal Bench
Devstral 2	123	72.2%	61.3%	40.5%
Devstral Small 2	24	65.8%	51.6%	32.0%

DeepSeek v3.2	671	73.1%	70.2%	46.4%
Kimi K2 Thinking	1000	71.3%	61.1%	35.7%
MiniMax M2	230	69.4%	56.5%	30.0%
GLM 4.6	455	68.0%	–	40.5%
Qwen 3 Coder Plus	480	69.6%	54.7%	37.5%
Gemini 3 Pro	–	76.2%	–	54.2%
Claude Sonnet 4.5	–	77.2%	68.0%	42.8%
GPT 5.1 Codex Max	–	77.9%	–	58.1%
GPT 5.1 Codex High	–	73.7%	–	52.8%

License

Devstral Small 2 - 24B

Apache 2.0

Reference

Devstral 2

جهازك

جارٍ الاكتشاف...

طول السياق

كل توكن في السياق يحجز مساحة في ذاكرة KV. كلما طال السياق زادت الذاكرة المطلوبة وتراجعت السرعة.

السياق٢٠٤٨ توكن

نسخة الأوزان

اختر النسخة التي تريد حسابها؛ تتغيّر الأوزان والإجمالي وتقييم جهازك معها.

الأوزان: —
ذاكرة KV: —
تشغيل: —
الإجمالي: —

دقّة ذاكرة KV

الافتراضي — بلا فقد

محسوبة من بنية النموذج المنشورة: 40 طبقة، 8 رأس مفتاح/قيمة بعمق 128.

شغّل هذا النموذج

Ollamaموصى به

ينزّل الأوزان ويفتح لك محادثة محلية بأمر واحد، دون بحث يدوي عن ملفات GGUF.

ollama run devstral-small-2

ثبّت Ollama

الـ Quantization الموصى به لجهازك: جارٍ التحديد…

محرّكات تشغيل أخرى

LM Studio

Open in LM Studio

llama.cpp / GGUF

Download GGUF from HuggingFace

المواصفات

المعاملات: 24B
البنية: كثيف
استخدام الأدوات: لا
التفكير: لا
السياق: 256K توكن
أقل ذاكرة: 13.4GB
الموصى بها: 22.4GB
العائلة: Mistral
تاريخ الإصدار: 2025-12
الرخصة: Apache 2.0✓ تجاري

أسئلة شائعة عن تشغيل Devstral Small 2 24B محليًا

هل أستطيع تشغيل Devstral Small 2 24B على جهازي؟: يحتاج Devstral Small 2 24B إلى 13.4 جيجابايت من الذاكرة كحد أدنى، والموصى به 22.4 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.
كم يحتاج Devstral Small 2 24B من الـ VRAM؟: بتكميم Q4_K_M يستهلك Devstral Small 2 24B نحو 12.8 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.