صيغة GGUF
صيغة ملفات شائعة لنماذج الذكاء الاصطناعي المحلية، تجمع أوزان النموذج المضغوطة في ملف واحد يفتحه Ollama وllama.cpp مباشرة.
معنى GGUF بالعربي: صيغة GGUF، وهي صيغة ملف واحد تجمع أوزان نموذج الذكاء الاصطناعي وإعداداته، صممها مشروع llama.cpp لتحميل النماذج وتشغيلها محليًا بسرعة.
GGUF in Arabic: صيغة GGUF — a single-file format for local AI models, used by llama.cpp and Ollama.
تجد النموذج نفسه على موقع Hugging Face بعدة ملفات GGUF، يختلف كل منها في درجة التكميم مثل Q4_K_M أو Q8_0، فيختلف الحجم والذاكرة المطلوبة وجودة الإجابات.
القاعدة العملية: ابدأ بنسخة Q4_K_M لأنها توازن بين الحجم والجودة، وانتقل لنسخة أعلى فقط إذا كانت ذاكرة جهازك تسمح ولاحظت أخطاء في الإجابات.
