Ministral 8B

MRL

Mistral AI · 8B · كثيف

نموذج ميسترال عالي الكفاءة بحجم ٨ مليارات. تعرّف على ما إذا كان كرت شاشتك أو جهاز الماك قادرًا على تشغيل Ministral 8B محليًا — 4.5 جيجابايت كحد أدنى، و7.5 جيجابايت موصى بها.

كيف تستخدم Ministral 8B في llama.cpp

يحمّل llama.cpp ملف Ministral 8B من HuggingFace مباشرة ويشغّله، إمّا خادمًا متوافقًا مع OpenAI بواجهة ويب أو في الطرفية. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

التثبيت على macOS وLinux

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

التثبيت عبر WinGet على Windows

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

نسخة جاهزة من صفحة الإصدارات

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M
# Run inference directly in the terminal:
./llama-cli -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

البناء من الكود المصدري

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M
# Run inference directly in the terminal:
./build/bin/llama-cli -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

عبر Docker

docker model run hf.co/bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

التوثيق الرسمي: llama.cpp

كيف تستخدم Ministral 8B في Ollama

ينزّل Ollama النموذج ويفتح محادثة محلية بأمر واحد. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

من مكتبة Ollama الرسمية

ollama run ministral-3:8b

من ملف GGUF على HuggingFace

ollama run hf.co/bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

التوثيق الرسمي: Ollama

كيف تستخدم Ministral 8B في Pi

Pi وكيل برمجة يعمل في الطرفية. شغّل Ministral 8B على خادم llama.cpp محلي ثم وجّه Pi إليه. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

أضف النموذج إلى Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent
# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M"
        }
      ]
    }
  }
}

شغّل Pi

# Start Pi in your project directory:
pi

التوثيق الرسمي: Pi

كيف تستخدم Ministral 8B في node-llama-cpp

شغّل Ministral 8B من Node.js بلا تثبيت مسبق. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

محادثة مع النموذج

npx -y node-llama-cpp chat hf:bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

قدّر توافق النموذج مع جهازك

npx -y node-llama-cpp inspect estimate hf:bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

التوثيق الرسمي: node-llama-cpp

كيف تستخدم Ministral 8B في Docker Model Runner

يشغّل Docker Desktop النموذج محليًا ويتيحه عبر واجهة متوافقة مع OpenAI. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

شغّل النموذج

docker model run hf.co/bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

التوثيق الرسمي: Docker Model Runner

كيف تستخدم Ministral 8B في LocalAI

LocalAI خادم محلي متوافق مع OpenAI. استبدل {{GGUF_FILE}} باسم ملف GGUF الذي تريده من المستودع bartowski/Ministral-8B-Instruct-2410-GGUF.

التثبيت من ملف تنفيذي

curl https://localai.io/install.sh | sh
# Load and run the model:
local-ai run huggingface://bartowski/Ministral-8B-Instruct-2410-GGUF/{{GGUF_FILE}}

عبر صور Docker

# Pull the image:
docker pull localai/localai:latest-cpu
# Load and run the model:
docker run -p 8080:8080 --name localai -v $PWD/models:/build/models localai/localai:latest-cpu huggingface://bartowski/Ministral-8B-Instruct-2410-GGUF/{{GGUF_FILE}}

التوثيق الرسمي: LocalAI

كيف تستخدم Ministral 8B في Lemonade

Lemonade خادم محلي من AMD يعمل على المعالجات وكروت الشاشة. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

نزّل النموذج

# Download Lemonade from https://lemonade-server.ai/
lemonade pull bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

شغّل النموذج وحاوره

lemonade run user.Ministral-8B-Instruct-2410-GGUF-Q4_K_M

اعرض كل النماذج المتاحة

lemonade list

التوثيق الرسمي: Lemonade

كيف تستخدم Ministral 8B في Hermes Agent

وكيل Hermes من Nous Research. شغّل Ministral 8B على خادم llama.cpp محلي ثم وجّه Hermes إليه. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

اضبط Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup
# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

شغّل Hermes

hermes

التوثيق الرسمي: Hermes Agent

كيف تستخدم Ministral 8B في OpenClaw

OpenClaw وكيل مفتوح المصدر يعمل على جهازك. شغّل Ministral 8B على خادم llama.cpp محلي ثم سجّله في OpenClaw. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

ملف GGUF من bartowski/Ministral-8B-Instruct-2410-GGUF

شغّل خادم llama.cpp

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M

اضبط OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest
# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "bartowski/Ministral-8B-Instruct-2410-GGUF:Q4_K_M" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

شغّل OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

التوثيق الرسمي: OpenClaw

أوامر التشغيلHuggingFaceOllamaLM Studio
2024-10سياق 32K

مستويات الـ Quantization

Quantizationالبتاتالذاكرةالجودةالحالة
Q2_K23.1GBمنخفضة—
Q3_K_M34.1GBمتوسطة—
Q4_K_M44.6GBجيدة—
Q5_K_M55.6GBجيدة—
Q6_K66.6GBممتازة—
Q8_088.7GBممتازة—
F161616.9GBبلا فقد—

الأرقام تشمل الأوزان وذاكرة KV عند طول سياق 2K توكن. غيّر طول السياق من لوحة جهازك لترى أثره على الذاكرة والسرعة.

التطبيقات

شغّل Ministral 8B داخل أدوات البرمجة التي تعمل بالذكاء الاصطناعي — يشغّل الأمر خادم Ollama على جهازك، يحمّل النموذج، ثم يفتح الأداة موصولة به.

  • Claude Code

    وكيل البرمجة من Anthropic، يعمل في الطرفية وداخل المحرّر

    ollama launch claude --model ministral-3:8b
  • OpenCode

    وكيل برمجة مفتوح المصدر يعمل في الطرفية داخل مستودعك

    ollama launch opencode --model ministral-3:8b
  • Codex

    وكيل البرمجة من OpenAI في سطر الأوامر

    ollama launch codex --model ministral-3:8b
  • Droid

    وكيل البرمجة من Factory، للمهام الطويلة عبر عدّة ملفات

    ollama launch droid --model ministral-3:8b
  • Hermes Agent

    وكيل برمجة مفتوح من Nous Research، بذاكرة تمتد عبر الجلسات

    ollama launch hermes --model ministral-3:8b
  • OpenClaw

    وكيل مفتوح المصدر يشغّل المهام على جهازك بلا خدمة سحابية

    ollama launch openclaw --model ministral-3:8b

تحتاج Ollama والأداة نفسها مثبَّتين. إن لم تكن الأداة مثبّتة، يرشدك الأمر إلى طريقة تثبيتها. اكتب ollama launch وحده لاختيار الأداة من قائمة.

عن هذا النموذج

الوصف الرسمي كما نشرته الجهة المطوِّرة، بلغته الأصلية.

This model requires Ollama 0.13.1, which is currently in pre-release.

The Ministral 3 family is designed for edge deployment, capable of running on a wide range of hardware.

The Ministral 3 models offer the following capabilities:

  • Vision: Enables the model to analyze images and provide insights based on visual content, in addition to text.
  • Multilingual: Supports dozens of languages, including English, French, Spanish, German, Italian, Portuguese, Dutch, Chinese, Japanese, Korean, Arabic.
  • System Prompt: Maintains strong adherence and support for system prompts.
  • Agentic: Offers best-in-class agentic capabilities with native function calling and JSON outputting.
  • Edge-Optimized: Delivers best-in-class performance at a small scale, deployable anywhere.
  • Apache 2.0 License: Open-source license allowing usage and modification for both commercial and non-commercial purposes.
  • Large Context Window: Supports a 256k context window.

gpqa

Ministral 14B Ministral 14B

Ministral 8B Ministral 8B

Ministral 3B Ministral 3B

أسئلة شائعة عن تشغيل Ministral 8B محليًا

هل أستطيع تشغيل Ministral 8B على جهازي؟
يحتاج Ministral 8B إلى 4.5 جيجابايت من الذاكرة كحد أدنى، والموصى به 7.5 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.
كم يحتاج Ministral 8B من الـ VRAM؟
بتكميم Q4_K_M يستهلك Ministral 8B نحو 4.6 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.