llama.cpp

يُكتب أيضاً: llama cpp, لاما سي بي بي

محرك مفتوح المصدر يشغّل نماذج اللغة على المعالج وكرت الشاشة مع تحكم دقيق في الذاكرة، وتعتمد عليه أدوات أخرى مثل Ollama.

معنى llama.cpp بالعربي: محرك مفتوح المصدر لتشغيل نماذج اللغة محليًا، مكتوب بلغة C/C++ ليشغّل نماذج اللغة الكبيرة على المعالج العادي أو كرت الشاشة بكفاءة عالية.

llama.cpp in Arabic: محرك تشغيل نماذج اللغة محليًا — an open-source C/C++ engine for running LLMs locally.

يقرأ النماذج بصيغة GGUF، ويدعم التكميم لتقليل الذاكرة المطلوبة، ويأتي بخادم llama-server يقدم واجهة API متوافقة مع صيغة OpenAI، فتربطه بأي أداة تدعم هذه الصيغة.

هو الأساس الذي تبني عليه أدوات مثل Ollama وLM Studio. تختاره مباشرة عندما تريد تحكمًا أدق في الإعدادات والأداء، خصوصًا على سيرفر يخدم أكثر من مستخدم في الوقت نفسه.