Meta · 3B · كثيف

نموذج Llama خفيف للهواتف والأجهزة الطرفية. تعرّف على ما إذا كان كرت شاشتك أو جهاز الماك قادرًا على تشغيل Llama 3.2 3B محليًا — 1.7 جيجابايت كحد أدنى، و2.8 جيجابايت موصى بها.

كيف تستخدم Llama 3.2 3B في Transformers

حمّل Llama 3.2 3B في بايثون عبر مكتبة Transformers من HuggingFace. هذه الأوزان الكاملة غير المكمَّمة، فتحتاج ذاكرة أكبر من ملفات GGUF.

عبر pipeline — الطريقة الأسهل

pip install -U transformers
# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="meta-llama/Llama-3.2-3B")

تحميل النموذج مباشرة

pip install -U transformers
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("meta-llama/Llama-3.2-3B")
model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-3.2-3B", device_map="auto")

التوثيق الرسمي: Transformers

كيف تستخدم Llama 3.2 3B في Ollama

ينزّل Ollama النموذج ويفتح محادثة محلية بأمر واحد.

من مكتبة Ollama الرسمية

ollama run llama3.2:3b

التوثيق الرسمي: Ollama

أوامر التشغيلHuggingFaceOllama
2024-09سياق 128K

مستويات الـ Quantization

Quantizationالبتاتالذاكرةالجودةالحالة
Q2_K21.5GBمنخفضة—
Q3_K_M31.8GBمتوسطة—
Q4_K_M42GBجيدة—
Q5_K_M52.4GBجيدة—
Q6_K62.8GBممتازة—
Q8_083.6GBممتازة—
F16166.6GBبلا فقد—

الأرقام تشمل الأوزان وذاكرة KV عند طول سياق 2K توكن. غيّر طول السياق من لوحة جهازك لترى أثره على الذاكرة والسرعة.

التطبيقات

شغّل Llama 3.2 3B داخل أدوات البرمجة التي تعمل بالذكاء الاصطناعي — يشغّل الأمر خادم Ollama على جهازك، يحمّل النموذج، ثم يفتح الأداة موصولة به.

  • Claude Code

    وكيل البرمجة من Anthropic، يعمل في الطرفية وداخل المحرّر

    ollama launch claude --model llama3.2:3b
  • OpenCode

    وكيل برمجة مفتوح المصدر يعمل في الطرفية داخل مستودعك

    ollama launch opencode --model llama3.2:3b
  • Codex

    وكيل البرمجة من OpenAI في سطر الأوامر

    ollama launch codex --model llama3.2:3b
  • Droid

    وكيل البرمجة من Factory، للمهام الطويلة عبر عدّة ملفات

    ollama launch droid --model llama3.2:3b
  • Hermes Agent

    وكيل برمجة مفتوح من Nous Research، بذاكرة تمتد عبر الجلسات

    ollama launch hermes --model llama3.2:3b
  • OpenClaw

    وكيل مفتوح المصدر يشغّل المهام على جهازك بلا خدمة سحابية

    ollama launch openclaw --model llama3.2:3b

تحتاج Ollama والأداة نفسها مثبَّتين. إن لم تكن الأداة مثبّتة، يرشدك الأمر إلى طريقة تثبيتها. اكتب ollama launch وحده لاختيار الأداة من قائمة.

عن هذا النموذج

الوصف الرسمي كما نشرته الجهة المطوِّرة، بلغته الأصلية.

The Meta Llama 3.2 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction-tuned generative models in 1B and 3B sizes (text in/text out). The Llama 3.2 instruction-tuned text only models are optimized for multilingual dialogue use cases, including agentic retrieval and summarization tasks. They outperform many of the available open source and closed chat models on common industry benchmarks.

Sizes

3B parameters (default)

The 3B model outperforms the Gemma 2 2.6B and Phi 3.5-mini models on tasks such as:

  • Following instructions
  • Summarization
  • Prompt rewriting
  • Tool use
ollama run llama3.2

1B parameters

The 1B model is competitive with other 1-3B parameter models. It’s use cases include:

  • Personal information management
  • Multilingual knowledge retrieval
  • Rewriting tasks running locally on edge
ollama run llama3.2:1b

Benchmarks

Llama 3.2 instruction-tuned benchmarks

Supported Languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai are officially supported. Llama 3.2 has been trained on a broader collection of languages than these 8 supported languages.

أسئلة شائعة عن تشغيل Llama 3.2 3B محليًا

هل أستطيع تشغيل Llama 3.2 3B على جهازي؟
يحتاج Llama 3.2 3B إلى 1.7 جيجابايت من الذاكرة كحد أدنى، والموصى به 2.8 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.
كم يحتاج Llama 3.2 3B من الـ VRAM؟
بتكميم Q4_K_M يستهلك Llama 3.2 3B نحو 2 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.