هل أستطيع تشغيل DeepSeek R1 Distill 14B على جهازي؟

يحتاج DeepSeek R1 Distill 14B إلى 7.8 جيجابايت من الذاكرة كحد أدنى، والموصى به 13 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.

كم يحتاج DeepSeek R1 Distill 14B من الـ VRAM؟

بتكميم Q4_K_M يستهلك DeepSeek R1 Distill 14B نحو 7.7 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.

DeepSeek R1 Distill 14B

MIT

DeepSeek · 14B · كثيف

استدلال R1 مقطَّر داخل Qwen بحجم ١٤ مليارًا. تعرّف على ما إذا كان كرت شاشتك أو جهاز الماك قادرًا على تشغيل DeepSeek R1 Distill 14B محليًا — 7.8 جيجابايت كحد أدنى، و13 جيجابايت موصى بها.

كيف تستخدم DeepSeek R1 Distill 14B في Transformers

حمّل DeepSeek R1 Distill 14B في بايثون عبر مكتبة Transformers من HuggingFace. هذه الأوزان الكاملة غير المكمَّمة، فتحتاج ذاكرة أكبر من ملفات GGUF.

عبر pipeline — الطريقة الأسهل

pip install -U transformers

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="deepseek-ai/DeepSeek-R1-Distill-Qwen-14B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

تحميل النموذج مباشرة

pip install -U transformers

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-R1-Distill-Qwen-14B")
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/DeepSeek-R1-Distill-Qwen-14B", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

التوثيق الرسمي: Transformers

كيف تستخدم DeepSeek R1 Distill 14B في llama.cpp

يحمّل llama.cpp ملف DeepSeek R1 Distill 14B من HuggingFace مباشرة ويشغّله، إمّا خادمًا متوافقًا مع OpenAI بواجهة ويب أو في الطرفية. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF

التثبيت على macOS وLinux

curl -LsSf https://llama.app/install.sh | sh

# Start a local OpenAI-compatible server with a web UI:
llama serve -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

# Run inference directly in the terminal:
llama cli -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

التثبيت عبر WinGet على Windows

winget install llama.cpp

# Start a local OpenAI-compatible server with a web UI:
llama serve -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

# Run inference directly in the terminal:
llama cli -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

نسخة جاهزة من صفحة الإصدارات

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases

# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

# Run inference directly in the terminal:
./llama-cli -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

البناء من الكود المصدري

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli

# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

# Run inference directly in the terminal:
./build/bin/llama-cli -hf unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

عبر Docker

docker model run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

التوثيق الرسمي: llama.cpp

كيف تستخدم DeepSeek R1 Distill 14B في Ollama

ينزّل Ollama النموذج ويفتح محادثة محلية بأمر واحد. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF

من مكتبة Ollama الرسمية

ollama run deepseek-r1:14b

من ملف GGUF على HuggingFace

ollama run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

التوثيق الرسمي: Ollama

كيف تستخدم DeepSeek R1 Distill 14B في node-llama-cpp

شغّل DeepSeek R1 Distill 14B من Node.js بلا تثبيت مسبق. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF

محادثة مع النموذج

npx -y node-llama-cpp chat hf:unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

قدّر توافق النموذج مع جهازك

npx -y node-llama-cpp inspect estimate hf:unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

التوثيق الرسمي: node-llama-cpp

كيف تستخدم DeepSeek R1 Distill 14B في Docker Model Runner

يشغّل Docker Desktop النموذج محليًا ويتيحه عبر واجهة متوافقة مع OpenAI. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF

شغّل النموذج

docker model run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

التوثيق الرسمي: Docker Model Runner

كيف تستخدم DeepSeek R1 Distill 14B في LocalAI

LocalAI خادم محلي متوافق مع OpenAI. استبدل {{GGUF_FILE}} باسم ملف GGUF الذي تريده من المستودع unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF.

التثبيت من ملف تنفيذي

curl https://localai.io/install.sh | sh

# Load and run the model:
local-ai run huggingface://unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF/{{GGUF_FILE}}

عبر صور Docker

# Pull the image:
docker pull localai/localai:latest-cpu

# Load and run the model:
docker run -p 8080:8080 --name localai -v $PWD/models:/build/models localai/localai:latest-cpu huggingface://unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF/{{GGUF_FILE}}

التوثيق الرسمي: LocalAI

كيف تستخدم DeepSeek R1 Distill 14B في Lemonade

Lemonade خادم محلي من AMD يعمل على المعالجات وكروت الشاشة. اختر مستوى الـ Quantization من القائمة، وتتحدّث الأوامر معه.

الـ Quantizationملف GGUF من unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF

نزّل النموذج

# Download Lemonade from https://lemonade-server.ai/

lemonade pull unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M

شغّل النموذج وحاوره

lemonade run user.DeepSeek-R1-Distill-Qwen-14B-GGUF-Q4_K_M

اعرض كل النماذج المتاحة

lemonade list

التوثيق الرسمي: Lemonade

أوامر التشغيل HuggingFace Ollama LM Studio

2025-01سياق 64K

مستويات الـ Quantization

Quantization	البتات	الذاكرة	الجودة	الحالة
Q2_K	2	5GB	منخفضة	—
Q3_K_M	3	6.8GB	متوسطة	—
Q4_K_M	4	7.7GB	جيدة	—
Q5_K_M	5	9.5GB	جيدة	—
Q6_K	6	11.3GB	ممتازة	—
Q8_0	8	14.8GB	ممتازة	—
F16	16	29.2GB	بلا فقد	—

الأرقام تشمل الأوزان وذاكرة KV عند طول سياق 2K توكن. غيّر طول السياق من لوحة جهازك لترى أثره على الذاكرة والسرعة.

التطبيقات

شغّل DeepSeek R1 Distill 14B داخل أدوات البرمجة التي تعمل بالذكاء الاصطناعي — يشغّل الأمر خادم Ollama على جهازك، يحمّل النموذج، ثم يفتح الأداة موصولة به.

Claude Code
وكيل البرمجة من Anthropic، يعمل في الطرفية وداخل المحرّر
ollama launch claude --model deepseek-r1:14b
OpenCode
وكيل برمجة مفتوح المصدر يعمل في الطرفية داخل مستودعك
ollama launch opencode --model deepseek-r1:14b
Codex
وكيل البرمجة من OpenAI في سطر الأوامر
ollama launch codex --model deepseek-r1:14b
Droid
وكيل البرمجة من Factory، للمهام الطويلة عبر عدّة ملفات
ollama launch droid --model deepseek-r1:14b
Hermes Agent
وكيل برمجة مفتوح من Nous Research، بذاكرة تمتد عبر الجلسات
ollama launch hermes --model deepseek-r1:14b
OpenClaw
وكيل مفتوح المصدر يشغّل المهام على جهازك بلا خدمة سحابية
ollama launch openclaw --model deepseek-r1:14b

تحتاج Ollama والأداة نفسها مثبَّتين. إن لم تكن الأداة مثبّتة، يرشدك الأمر إلى طريقة تثبيتها. اكتب ollama launch وحده لاختيار الأداة من قائمة.

عن هذا النموذج

الوصف الرسمي كما نشرته الجهة المطوِّرة، بلغته الأصلية.

DeepSeek-R1 has received a minor version upgrade to DeepSeek-R1-0528 for the 8 billion parameter distilled model and the full 671 billion parameter model. In this update, DeepSeek R1 has significantly improved its reasoning and inference capabilities. The model has demonstrated outstanding performance across various benchmark evaluations, including mathematics, programming, and general logic. Its overall performance is now approaching that of leading models, such as O3 and Gemini 2.5 Pro.

Models

DeepSeek-R1-0528-Qwen3-8B

ollama run deepseek-r1

DeepSeek-R1

ollama run deepseek-r1:671b

Note: to update the model from an older version, run ollama pull deepseek-r1

Distilled models

DeepSeek team has demonstrated that the reasoning patterns of larger models can be distilled into smaller models, resulting in better performance compared to the reasoning patterns discovered through RL on small models.

Below are the models created via fine-tuning against several dense models widely used in the research community using reasoning data generated by DeepSeek-R1. The evaluation results demonstrate that the distilled smaller dense models perform exceptionally well on benchmarks.

DeepSeek-R1-0528-Qwen3-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

License

The model weights are licensed under the MIT License. DeepSeek-R1 series support commercial use, allow for any modifications and derivative works, including, but not limited to, distillation for training other LLMs. Please note that:

The Qwen distilled models are derived from Qwen-2.5 series, which are originally licensed under Apache 2.0 License, and now finetuned with 800k samples curated with DeepSeek-R1.

The Llama 8B distilled model is derived from Llama3.1-8B-Base and is originally licensed under llama3.1 license.

The Llama 70B distilled model is derived from Llama3.3-70B-Instruct and is originally licensed under llama3.3 license.

جهازك

جارٍ الاكتشاف...

طول السياق

كل توكن في السياق يحجز مساحة في ذاكرة KV. كلما طال السياق زادت الذاكرة المطلوبة وتراجعت السرعة.

السياق٢٠٤٨ توكن

نسخة الأوزان

اختر النسخة التي تريد حسابها؛ تتغيّر الأوزان والإجمالي وتقييم جهازك معها.

الأوزان: —
ذاكرة KV: —
تشغيل: —
الإجمالي: —

دقّة ذاكرة KV

الافتراضي — بلا فقد

محسوبة من بنية النموذج المنشورة: 48 طبقة، 8 رأس مفتاح/قيمة بعمق 128.

شغّل هذا النموذج

Ollamaموصى به

ينزّل الأوزان ويفتح لك محادثة محلية بأمر واحد، دون بحث يدوي عن ملفات GGUF.

ollama run deepseek-r1:14b

ثبّت Ollama

الـ Quantization الموصى به لجهازك: جارٍ التحديد…

محرّكات تشغيل أخرى

LM Studio

Open in LM Studio

llama.cpp / GGUF

Download GGUF from HuggingFace

المواصفات

المعاملات: 14B
البنية: كثيف
استخدام الأدوات: لا
التفكير: مدعوم
السياق: 64K توكن
أقل ذاكرة: 7.8GB
الموصى بها: 13GB
العائلة: DeepSeek
تاريخ الإصدار: 2025-01
الرخصة: MIT✓ تجاري

أسئلة شائعة عن تشغيل DeepSeek R1 Distill 14B محليًا

هل أستطيع تشغيل DeepSeek R1 Distill 14B على جهازي؟: يحتاج DeepSeek R1 Distill 14B إلى 7.8 جيجابايت من الذاكرة كحد أدنى، والموصى به 13 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.
كم يحتاج DeepSeek R1 Distill 14B من الـ VRAM؟: بتكميم Q4_K_M يستهلك DeepSeek R1 Distill 14B نحو 7.7 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.