GLM-4 9B

GLM-4

Zhipu AI · 9B · كثيف

نموذج متعدّد اللغات يدعم ٢٦ لغة بسياق ١٢٨ ألف رمز. تعرّف على ما إذا كان كرت شاشتك أو جهاز الماك قادرًا على تشغيل GLM-4 9B محليًا — 5 جيجابايت كحد أدنى، و8.4 جيجابايت موصى بها.

كيف تستخدم GLM-4 9B في Transformers

حمّل GLM-4 9B في بايثون عبر مكتبة Transformers من HuggingFace. هذه الأوزان الكاملة غير المكمَّمة، فتحتاج ذاكرة أكبر من ملفات GGUF.

تحميل النموذج مباشرة

pip install -U transformers
# Load model directly
from transformers import AutoModel
model = AutoModel.from_pretrained("zai-org/glm-4-9b-chat", trust_remote_code=True, device_map="auto")

التوثيق الرسمي: Transformers

كيف تستخدم GLM-4 9B في Ollama

ينزّل Ollama النموذج ويفتح محادثة محلية بأمر واحد.

من مكتبة Ollama الرسمية

ollama run glm4:9b

التوثيق الرسمي: Ollama

أوامر التشغيلHuggingFaceOllama
2024-06سياق 128K

مستويات الـ Quantization

Quantizationالبتاتالذاكرةالجودةالحالة
Q2_K23.4GBمنخفضة—
Q3_K_M34.5GBمتوسطة—
Q4_K_M45.1GBجيدة—
Q5_K_M56.3GBجيدة—
Q6_K67.4GBممتازة—
Q8_089.7GBممتازة—
F161618.9GBبلا فقد—

الأرقام تشمل الأوزان وذاكرة KV عند طول سياق 2K توكن. غيّر طول السياق من لوحة جهازك لترى أثره على الذاكرة والسرعة.

التطبيقات

شغّل GLM-4 9B داخل أدوات البرمجة التي تعمل بالذكاء الاصطناعي — يشغّل الأمر خادم Ollama على جهازك، يحمّل النموذج، ثم يفتح الأداة موصولة به.

  • Claude Code

    وكيل البرمجة من Anthropic، يعمل في الطرفية وداخل المحرّر

    ollama launch claude --model glm4:9b
  • OpenCode

    وكيل برمجة مفتوح المصدر يعمل في الطرفية داخل مستودعك

    ollama launch opencode --model glm4:9b
  • Codex

    وكيل البرمجة من OpenAI في سطر الأوامر

    ollama launch codex --model glm4:9b
  • Droid

    وكيل البرمجة من Factory، للمهام الطويلة عبر عدّة ملفات

    ollama launch droid --model glm4:9b
  • Hermes Agent

    وكيل برمجة مفتوح من Nous Research، بذاكرة تمتد عبر الجلسات

    ollama launch hermes --model glm4:9b
  • OpenClaw

    وكيل مفتوح المصدر يشغّل المهام على جهازك بلا خدمة سحابية

    ollama launch openclaw --model glm4:9b

تحتاج Ollama والأداة نفسها مثبَّتين. إن لم تكن الأداة مثبّتة، يرشدك الأمر إلى طريقة تثبيتها. اكتب ollama launch وحده لاختيار الأداة من قائمة.

عن هذا النموذج

الوصف الرسمي كما نشرته الجهة المطوِّرة، بلغته الأصلية.

Note: this model requires Ollama 0.2 or later.

In the evaluation of data sets in semantics, mathematics, reasoning, code, and knowledge, this model has shown superior performance beyond even Llama 3 8B.

This generation of models includes multi-language support, supporting 26 languages including Japanese, Korean, and German.

References

GitHub

Hugging Face

أسئلة شائعة عن تشغيل GLM-4 9B محليًا

هل أستطيع تشغيل GLM-4 9B على جهازي؟
يحتاج GLM-4 9B إلى 5 جيجابايت من الذاكرة كحد أدنى، والموصى به 8.4 جيجابايت. يكفي أن تفتح هذه الصفحة ليُقيَّم النموذج تلقائيًا أمام كرت شاشتك أو جهاز الماك، ثم تشغّله عبر Ollama أو LM Studio أو llama.cpp.
كم يحتاج GLM-4 9B من الـ VRAM؟
بتكميم Q4_K_M يستهلك GLM-4 9B نحو 5.1 جيجابايت من ذاكرة الكرت. أما المستويات الأعلى فتحتاج ذاكرة أكبر، والأدنى تناسب الكروت المحدودة مقابل تنازل في الجودة.