أفضل إعدادات ذاكرة الفيديو المنخفضة لتشغيل لعبة Llama 3 محليًا على أجهزة الكمبيوتر المحمولة متوسطة المواصفات

تشغيل نموذج Meta Llama 3 8B الأصلي على حاسوب محمول متوسط ​​المواصفات لا يعتمد على إيجاد إعداد سحري واحد، بل على توفير مساحة كافية من الذاكرة لضمان استقرار النموذج مع الحفاظ على جودة إخراج جيدة. بالنسبة لمعظم الحواسيب المحمولة المزودة بذاكرة فيديو مخصصة تتراوح سعتها بين 4 و8 جيجابايت، فإن أفضل نقطة بداية هي استخدام تكميم GGUF ذي 4 بت، ونافذة سياق تتراوح دقتها بين 2K و4K، وجيل نشط واحد في كل مرة، وأقصى قدر من تفريغ وحدة معالجة الرسومات (GPU) بما يتناسب مع قدرة الجهاز دون استهلاك ذاكرة الفيديو المخصصة (VRAM).

تستهدف هذه المقالة تحديدًا نموذج Llama 3 8B الأصلي الذي صدر في أبريل 2024. ولا يزال فهرس نماذج Meta الحالي يميزه عن Llama 3.1 و3.2 والإصدارات اللاحقة. تم تدريب نموذجي Llama 3 8B و70B الأصليين بطول سياق 8K، بينما تستخدم نماذج Llama 3.1 والإصدارات اللاحقة حدودًا مختلفة. تمت أرشفة مستودع Meta الأصلي لنموذج Llama 3 على GitHub في مارس 2026، وهو الآن يوجه المطورين إلى مستودع Meta llama-models الموحد . كما تم توثيق المواصفات الأصلية في بطاقة نموذج Meta Llama 3 8B Instruct الرسمية .

عرض مكتبة النماذج المحلية يُظهر Llama 3.2 و Llama 3.1 و Llama 3 الأصلية كعائلات نماذج منفصلة
يُعدّ Llama 3 الأصلي عائلة نماذج منفصلة عن Llama 3.1 و Llama 3.2. تستهدف الإعدادات أدناه نموذج 8B الأصلي بحدّ سياقه البالغ 8K.

أفضل الإعدادات الأساسية لذاكرة الفيديو من 4 إلى 8 جيجابايت

إذا كنت ترغب في الحصول على أساس عملي واحد قبل إجراء التعديلات الدقيقة، فابدأ بـ Llama 3 8B Instruct in Q4_K_M GGUF ، واضبط السياق على 4096 رمزًا، واجعل عدد الطلبات المتوازية واحدًا، وفعّل خاصية Flash Attention أو اتركها على الوضع التلقائي، ودع وقت التشغيل يختار الحد الأقصى لتفريغ وحدة معالجة الرسومات الذي لا يزال يترك مساحة كافية لذاكرة الوصول العشوائي للفيديو (VRAM). على وحدة معالجة رسومات بسعة 4 جيجابايت، قلل السياق إلى 2048 رمزًا وتوقع تفريغًا جزئيًا لوحدة المعالجة المركزية.

ذاكرة فيديو مخصصةالتكميم الموصى بهالسياق المبدئيدفعات / دفعات صغيرةتفريغ وحدة معالجة الرسوماتكيف تبدو النتائج الجيدة؟
4 غيغابايتQ4_K_M مع تفريغ جزئي؛ Q3_K_M فقط عند الضرورة2048128 / 64–128تلقائي أو جزئيلا يوجد خطأ نفاد الذاكرة، ويظل نظام التشغيل سريع الاستجابة، وسرعة توليد مقبولة.
6 جيجابايتQ4_K_M4096256 / 128–256تلقائي؛ تفريغ كامل إذا كان ذلك مناسبًامعظم أو كل الطبقات على وحدة معالجة الرسومات بدون تشبع ذاكرة الوصول العشوائي للفيديو
8 جيجابايتQ5_K_M للجودة، أو Q4_K_M لمزيد من المساحة السياقية4096؛ اختبار 8192 بعد ذلك512 / 256تلقائي أو كاملسياق 4K ثابت أولاً؛ 8K فقط إذا بقيت الذاكرة مريحة

هذه مجرد نقاط بداية، وليست ضمانات. غالبًا ما تحتفظ وحدات معالجة الرسومات في أجهزة الكمبيوتر المحمولة بجزء من ذاكرة الوصول العشوائي للفيديو (VRAM) للشاشة، كما أن التبريد، وبرنامج التشغيل، وذاكرة النظام، وإصدار GGUF المحدد، كلها عوامل تؤثر على مقدار الذاكرة المتاحة فعليًا. قد لا يعمل تكوينٌ مناسبٌ لوحدة معالجة رسومات واحدة بسعة 8 جيجابايت على جهاز كمبيوتر محمول آخر بنفس السعة، إذا استهلكت حزمة الرسومات أو تطبيقات سطح المكتب ذاكرةً أكبر.

لماذا تُعتبر Q4_K_M عادةً أفضل نقطة بداية منخفضة لذاكرة الوصول العشوائي للفيديو

يعني التكميم تخزين أوزان النموذج بدقة أقل، مما يقلل من حجم الذاكرة التي يشغلها. هذا يقلل من حجم الأوزان، لكن التكميم المفرط قد يُقلل من جودة النتائج. تُقدم بيانات مرجعية مُكمِّم llama.cpp الحالية لـ Llama-3-8B مقارنة اتجاهية مفيدة: Q3_K_M مُدرجة عند حوالي 3.74 جيجابايت مع زيادة أكبر في التعقيد، وQ4_K_M عند حوالي 4.58 جيجابايت مع زيادة أقل، وQ5_K_M عند حوالي 5.33 جيجابايت مع زيادة أقل أيضًا. يمكنك الاطلاع على هذه القيم مباشرةً في مصدر مُكمِّم llama.cpp .

الكمحجم ملف llama.cpp المرجعي لـ Llama-3-8Bمرجع Δ الحيرةالاستخدام الأمثل
Q3_K_Mحوالي 3.74 جيجا+0.6569ذاكرة ضيقة للغاية حيث لا يمكن تشغيل Q4_K_M بسلاسة
Q4_K_Mحوالي 4.58 جيجا+0.1754أفضل توازن عام لأجهزة الكمبيوتر المحمولة ذات ذاكرة وصول عشوائي للفيديو (VRAM) بسعة 4-6 جيجابايت
Q5_K_Mحوالي 5.33 جيجا+0.0569الخيار الأمثل للجودة لذاكرة الفيديو بسعة 8 جيجابايت عندما يكون هناك مساحة كافية.

لا يُعدّ مستوى الحيرة مرادفًا للجودة التي يدركها المستخدم، لذا لا تتعامل مع هذه الأرقام كمعيار تصنيف شامل لكل مهمة. إنما تُفيد هذه الأرقام في اختيار ترتيب منطقي للتجارب. إذا كان أداء Q4_K_M جيدًا، فقد لا يكون الانتقال إلى Q3 لمجرد جعل النموذج يتسع بالكامل في ذاكرة الوصول العشوائي للفيديو (VRAM) خيارًا مُجديًا. يُمكن لتفريغ جزء من عبء معالجة الرسومات (GPU) الحفاظ على أوزان نموذج Q4 مع نقل بعض العمليات إلى ذاكرة النظام (RAM).

توضح وثائق LM Studio الحالية أن استخدام إصدارات 4 بت يُعد خيارًا افتراضيًا مناسبًا عندما يدعمها الجهاز. راجع دليل تنزيل نماذج LM Studio الرسمي . تُدرج مكتبة Ollama Llama 3 الرسمية حاليًا حزمة 8 بت الأصلية بحجم 4.7 جيجابايت تقريبًا مع نافذة سياق 8 كيلوبايت، مما يُذكّرنا بأن ملف النموذج وحده يتجاوز بالفعل ميزانية ذاكرة الفيديو (VRAM) البالغة 4 جيجابايت. راجع صفحة مكتبة Ollama Llama 3 الرسمية .

طول السياق: قلّله قبل التضحية بجودة النموذج

يُشير طول السياق إلى عدد الرموز التي يُمكن للنموذج أخذها في الاعتبار في مُطالبته النشطة وسجل محادثاته. يتطلب السياق الأكبر حجمًا ذاكرة تخزين مؤقتة أكبر للقيم والمفاتيح. بالنسبة لأجهزة الكمبيوتر المحمولة ذات ذاكرة الوصول العشوائي للفيديو (VRAM) المنخفضة، يُعد تقليل حجم السياق من أكثر الإعدادات أمانًا لأنه لا يُغير أوزان النموذج المُخزنة.

ابدأ بـ 2048 رمزًا على ذاكرة فيديو بسعة 4 جيجابايت، و4096 رمزًا على ذاكرة فيديو بسعة 6-8 جيجابايت. انتقل إلى 8192 رمزًا فقط بعد التأكد من استقرار إعداد 4K. يُذكر أن بطاقة نموذج Llama 3 الأصلية تحدد سياق التدريب بـ 8K، لذا فإن استخدام عدد أكبر بكثير لا يحوّل Llama 3 الأصلية إلى نموذج ذي سياق طويل. إذا كنت بحاجة إلى عشرات الآلاف من الرموز، فاستخدم نموذجًا تم تدريبه خصيصًا لهذا السياق، مثل إصدار أحدث من عائلة Llama.

تشير وثائق سياق Ollama الحالية صراحةً إلى أن زيادة حجم السياق تزيد من متطلبات الذاكرة. اعتبارًا من عام 2026، تُعيّن Ollama افتراضيًا سياق 4K للأنظمة التي تقل سعتها عن 24 جيجابايت من ذاكرة الوصول العشوائي للفيديو (VRAM). هذا يجعل 4K حدًا معقولًا للأغراض العامة لاختباره قبل زيادة حجمه على أجهزة الكمبيوتر المحمولة. راجع وثائق Ollama الرسمية لطول السياق .

تفريغ وحدة معالجة الرسومات: قم بزيادته إلى أقصى حد، ولكن اترك مساحة كافية.

تتحكم خاصية تفريغ وحدة معالجة الرسومات (GPU) في عدد طبقات النموذج التي يتم تخزينها وحسابها على وحدة معالجة الرسومات بدلاً من وحدة المعالجة المركزية (CPU). عادةً ما يؤدي زيادة عدد الطبقات الموجودة على وحدة معالجة الرسومات إلى تحسين سرعة الإنشاء، ولكن ملء ذاكرة الوصول العشوائي للفيديو (VRAM) إلى آخر بضعة ميغابايتات أمرٌ غير مستقر لأن وقت التشغيل يحتاج أيضًا إلى ذاكرة تخزين مؤقتة للقيم والمفاتيح، ومخازن مؤقتة للحساب، وتخصيصات خلفية.

مع الإصدار الحالي من llama.cpp، يقبل سطر الأوامر --n-gpu-layers autoخيارًا واحدًا، لذا يُعدّ التحديد التلقائي خيارًا أوليًا جيدًا. في حال فشل التحميل، قلّل حجم السياق أولًا. إذا استمر الفشل، قلّل عدد الطبقات على وحدة معالجة الرسومات بدلًا من التبديل الفوري إلى مستوى تكميم أقل بكثير. خيارات سطر الأوامر الحالية موثقة في مرجع واجهة سطر الأوامر الرسمي لـ llama.cpp .

يبدو إطلاق سيارة لاما 3 8B Q4_K_M المحافظ على النحو التالي:

llama-cli -m Meta-Llama-3-8B-Instruct-Q4_K_M.gguf   -c 4096   -b 256   -ub 128   -ngl auto   -fa auto

سيختلف اسم ملف GGUF الدقيق. جرّب -c 2048 -b 128 -ub 64أولاً على وحدة معالجة رسومات بسعة 4 جيجابايت. الهدف ليس الوصول إلى أقصى قيمة ممكنة، بل إنشاء أساس ثابت، ثم إضافة السياق أو تخفيف الحمل تدريجياً.

حجم الدفعة: قلله عندما يتسبب التحميل السريع في حدوث ارتفاعات مفاجئة

يتحكم حجم الدفعة المنطقية في عدد رموز المطالبات التي يمكن معالجتها معًا. يمكن للدفعة الأكبر تسريع استيعاب المطالبات، ولكنها قد تزيد أيضًا من الطلب على الذاكرة المؤقتة. الدفعة المصغرة هي الجزء الفعلي المستخدم للتنفيذ. يعرض ملف llama.cpp الحالي هذه الدفعات على النحو التالي: --batch-sizeو --ubatch-size.

إذا تم تحميل النموذج بنجاح ولكنه يتعطل عند لصق نص طويل، فقم بتقليل حجم الدفعة قبل تغيير التكميم. تُعد الدفعة المنطقية 256 مع الدفعة الجزئية 128 خيارًا وسطًا مناسبًا لذاكرة فيديو بسعة 6 جيجابايت. أما مع ذاكرة بسعة 4 جيجابايت، فإن استخدام 128/64 يُعد خيارًا أكثر أمانًا. ومع ذاكرة بسعة 8 جيجابايت، يُنصح بتجربة 512/256. قد تُبطئ الدفعات الأصغر معالجة النصوص، ولكنها عادةً ما يكون لها تأثير أقل على مرحلة توليد الرموز بشكل ثابت.

خاصية التنبيه السريع وذاكرة التخزين المؤقت للقيم والقيم: مفيدة، ولكن اختبر نظامك الخلفي.

يُعدّ Flash Attention مسار انتباه مُحسّنًا يُقلّل من استهلاك الذاكرة ويُحسّن السرعة على الأنظمة الخلفية المدعومة. يُوفّر ملف llama.cpp الحالي وضعًا تلقائيًا، وتُوثّق واجهة برمجة تطبيقات التحميل الحالية في LM Studio خاصية Flash Attention كخيار يُمكنه تقليل استهلاك الذاكرة وتحسين سرعة توليد البيانات لمحركها المُعتمد على llama.cpp. راجع توثيق واجهة برمجة تطبيقات تحميل النماذج في LM Studio .

بالنسبة لأجهزة الكمبيوتر المحمولة متوسطة المواصفات، اترك خاصية Flash Attention مُفعّلة تلقائيًا في البداية. إذا واجهتَ عطلًا في النظام الخلفي أو عدم استقرار في برنامج التشغيل المرئي، جرّب نفس التنبيه مع تعطيل هذه الخاصية قبل تغيير العديد من الإعدادات الأخرى في آنٍ واحد. هذا يُسهّل تحديد السبب الحقيقي للمشكلة.

يدعم ملف llama.cpp أيضًا أنواع ذاكرة التخزين المؤقت للقيم والمفاتيح الكمية، مثل Q8_0. يمكن أن يقلل تكميم ذاكرة التخزين المؤقت للقيم والمفاتيح من استخدام الذاكرة، ولكنه خطوة ضبط متقدمة. غيّر طول السياق وحجم الدفعة أولًا، لأن هذه التعديلات أسهل في الفهم ولا تؤثر على دقة القيم والمفاتيح. إذا احتجت لاحقًا إلى مساحة إضافية لسياق 8 كيلوبايت، فاختبر ذاكرة التخزين المؤقت للقيم والمفاتيح Q8 على مجموعة المطالبات الخاصة بك قبل اعتمادها بشكل دائم.

استخدم طلبًا متوازيًا واحدًا على جهاز كمبيوتر محمول

قد يُغفل عن أهمية التزامن. تتطلب الأجيال المتوازية المتعددة سعة سياق نشطة منفصلة، ​​وقد تدفع تكوينًا مستقرًا إلى تجاوز حد الذاكرة. بالنسبة لجهاز كمبيوتر محمول لمستخدم واحد، يُنصح بالحفاظ على التوازي عند مستوى واحد أثناء الضبط. تشير الأسئلة الشائعة الرسمية لشركة Ollama إلى أن الذاكرة المطلوبة تتناسب طرديًا مع الطلبات المتوازية وحجم السياق، وتُبين ollama psما إذا كان النموذج يعمل على وحدة معالجة الرسومات (GPU) أو وحدة المعالجة المركزية (CPU) أو موزعًا بينهما. راجع الأسئلة الشائعة الرسمية لشركة Ollama .

كيفية الحكم على ما إذا كانت الإعدادات جيدة بالفعل

لا يكون الإعداد مفيدًا إلا إذا أعطى إجابات مقبولة باستمرار، وليس لمجرد تحميل النموذج. استخدم نفس مجموعة التقييم الصغيرة في كل مرة تُغير فيها إعدادًا. يكفي من خمسة إلى عشرة أسئلة لاختبار عملي على جهاز الكمبيوتر المحمول: شرح واقعي واحد، ومهمة تلخيص واحدة، ومهمة استخراج مُهيكلة واحدة، ومهمة ترميز واحدة، ومحادثة متعددة الأدوار تقارب طول سياقك المعتاد.

  • استقرار الذاكرة: يجب أن يتم تحميل النموذج بشكل متكرر دون حدوث خطأ نفاد الذاكرة، ويجب أن يظل سطح المكتب مستجيبًا أثناء المطالبات الطويلة.
  • سرعة التوليد: قياس عدد الرموز المميزة في الثانية بعد معالجة الطلب. قارن نفس الطلب، وليس محادثات مختلفة.
  • سرعة المعالجة الفورية: إذا استغرقت المدخلات الطويلة وقتًا طويلاً جدًا لإدخالها، فحاول زيادة حجم الدفعة فقط إذا كانت هناك مساحة كافية في ذاكرة الوصول العشوائي للفيديو (VRAM).
  • التعليمات التالية: تحقق من أن النموذج لا يزال يحترم التنسيقات والقيود والتعليمات متعددة الخطوات المطلوبة بعد تغيير التكميم.
  • سلوك السياق الطويل: ضع معلومةً قرب بداية نص طويل واطلبها قرب نهايته. إذا فشل النموذج رغم توفر السياق، فقد تكون المشكلة في جودة النموذج أو في طريقة عرض النص، وليس في الذاكرة.

لإجراء مقارنات قابلة للتكرار، حافظ على ثبات درجة الحرارة وإعدادات أخذ العينات. لا تؤثر درجة الحرارة بشكل كبير على ضبط ذاكرة الوصول العشوائي للفيديو (VRAM)، ولكن تغييرها في الوقت نفسه قد يُحسّن أو يُسيء مظهر المخرجات لأسباب لا علاقة لها بإعدادات الذاكرة.

متى يجب تغيير النهج؟

إذا لم يتم تحميل النموذج

قلّل حجم السياق إلى 2 كيلوبايت، وأغلق التطبيقات التي تستهلك موارد وحدة معالجة الرسومات بكثافة، واستخدم Q4_K_M، واسمح بتفريغ جزئي لموارد وحدة معالجة الرسومات. إذا استمر استخدام Q4_K_M في زيادة استهلاك الذاكرة الافتراضية للجهاز، فقد يكون استخدام Q3_K_M مبررًا. لا تفترض أن نموذجًا بحجم 3.7 جيجابايت سيتناسب تمامًا مع ذاكرة الفيديو بسعة 4 جيجابايت؛ إذ يحتاج وقت التشغيل إلى ذاكرة تتجاوز حجم ملف الأوزان.

إذا تم تحميله ولكن ظهرت مطالبات طويلة، فسيتوقف التطبيق.

قلل حجم السياق وحجم الدفعة قبل تغيير كمية النموذج. تزيد المطالبات الطويلة من استخدام ذاكرة التخزين المؤقت للمفتاح والقيمة، بينما يمكن أن تؤدي الدفعات الكبيرة إلى ارتفاعات قصيرة الأجل في التخصيص.

إذا كان مستقرًا ولكنه بطيء جدًا

قم بزيادة تفريغ وحدة معالجة الرسومات (GPU) حتى تقترب من سعة ذاكرة الوصول العشوائي للفيديو (VRAM) المتاحة، ولكن لا تستنفدها. إذا كان النظام يعتمد بشكل كبير على وحدة المعالجة المركزية (CPU) لأن النموذج لا يتسع، فقد يؤدي استخدام تكميم أقل إلى تشغيل أسرع حتى لو أدى ذلك إلى انخفاض طفيف في الجودة. اختبر قبل اتخاذ القرار.

إذا كانت الإجابات أسوأ بشكل ملحوظ

انتقل من Q3_K_M إلى Q4_K_M، أو من Q4_K_M إلى Q5_K_M إذا كانت وحدة معالجة الرسومات بسعة 8 جيجابايت كافية. تأكد أيضًا من استخدامك لنمط التعليمات وقالب المحادثة الصحيح. لا يؤدي تقليل السياق بالضرورة إلى تقليل جودة الاستدلال إلا إذا كان الطلب يتطلب بالفعل حذف السجل.

ما يعادل LM Studio و Ollama

إذا كنت تفضل واجهة المستخدم الرسومية، فإن LM Studio يعرض طول السياق وتفريغ وحدة معالجة الرسومات مباشرةً، ويمكنه تقدير الذاكرة قبل التحميل. كما تدعم واجهة سطر الأوامر الحالية التشغيل التجريبي.

lms load --estimate-only <model-key> --context-length 4096 --gpu auto

يأخذ المُقدِّر في الحسبان طول السياق وتفريغ وحدة معالجة الرسومات، لذا فهو طريقة ملائمة لمقارنة دقة 2K مقابل دقة 4K قبل الالتزام. راجع وثائق تحميل نظام إدارة التعلم الرسمية .

بالنسبة لأولاما، يبقى الأمر الرسمي الأصلي لللاما 3 كما هو:

ollama run llama3

يُستخدم هذا الخيار ollama psللتحقق مما إذا كان النموذج يعمل بالكامل على وحدة معالجة الرسومات (GPU) أو مُقسّمًا بين ذاكرة وحدة المعالجة المركزية (CPU). إذا كان سياق 4K يُرهق وحدة معالجة الرسومات بسعة 4 جيجابايت، فسيتم تقليل حجمه num_ctxإلى 2048 بكسل لتلك الجلسة. توضح الوثائق الرسمية لـ Ollama كلاً من تكوين السياق والإبلاغ عن تقسيم المعالج.

الملفات الشخصية النهائية الموصى بها

لذاكرة فيديو بسعة 4 جيجابايت: استخدم Llama 3 8B Instruct Q4_K_M، سياق 2K، طلب واحد، معالجة دفعية 128/64 ومعالجة دفعية صغيرة، تنبيه الفلاش مُفعّل تلقائيًا، وتفريغ جزئي لوحدة معالجة الرسومات. اختر Q3_K_M فقط بعد التأكد من أن Q4_K_M بطيء جدًا أو غير مستقر مع ذاكرة الوصول العشوائي المتاحة لديك.

بالنسبة لذاكرة فيديو بسعة 6 جيجابايت: استخدم Q4_K_M، وسياق 4K، وطلبًا واحدًا، وإعدادات دفعية 256/128 أو 256/256، وتفريغ تلقائي لوحدة معالجة الرسومات. يوفر هذا الملف التعريفي عادةً مساحة أكبر من محاولة فرض Q5_K_M على بطاقة رسومات شبه ممتلئة.

بالنسبة لذاكرة فيديو بسعة 8 جيجابايت: ابدأ بـ Q5_K_M في سياق 4K إذا كانت دقة الاستجابة هي الأهم. إذا كنت بحاجة إلى سياق 8K كامل، فقد يكون Q4_K_M هو الخيار الأمثل لأنه يوفر مساحة أكبر لذاكرة التخزين المؤقت KV ومخازن وقت التشغيل. تأكد من ذلك باستخدام نفس مجموعة المطالبات قبل اتخاذ القرار.

حدود هذه النصيحة

تفترض هذه التوصيات وجود حاسوب محمول مزود بذاكرة مخصصة لوحدة معالجة الرسومات (GPU) تتراوح سعتها بين 4 و8 جيجابايت، وذاكرة وصول عشوائي (RAM) كافية لاستيعاب بعض عمليات تفريغ الذاكرة. تستخدم وحدات معالجة الرسومات المدمجة ومعالجات Apple Silicon ذاكرة مشتركة أو موحدة، لذا لا يتوافق جدول ذاكرة الوصول العشوائي المخصصة للرسومات (VRAM) معها بشكل دقيق. كما أن إصدارات برامج التشغيل، وواجهات CUDA/Vulkan/ROCm، وحدود طاقة الحاسوب المحمول، ونظام التبريد، كلها عوامل تؤثر بشكل كبير على الأداء.

لا يُعدّ طراز لاما 3 الأصلي بسعة 70 جيجابايت خيارًا واقعيًا من حيث انخفاض ذاكرة الوصول العشوائي للفيديو (VRAM) لهذا النوع من أجهزة الكمبيوتر المحمولة إذا كان الهدف هو سرعة التفاعل؛ إذ تبلغ سعة ذاكرة الوصول العشوائي للفيديو الحالية من لاما حوالي 40 جيجابايت قبل احتساب تكاليف التشغيل. أما بالنسبة للأنظمة متوسطة المدى، فيُعدّ طراز 8 جيجابايت نقطة البداية المناسبة.

لذا، فإنّ استراتيجية الضبط الأكثر موثوقية بسيطة: الحفاظ على نموذج Q4_K_M أو أفضل منه كلما أمكن، وتقليل السياق قبل تقليل جودة الوزن، والحفاظ على التزامن عند مستوى واحد، وزيادة تفريغ وحدة معالجة الرسومات فقط عندما تظل الذاكرة مستقرة. يُعتبر الإعداد "أفضل" عندما يصمد أمام أطول مدة تشغيل حقيقية ويستمر في إنتاج إجابات يمكنك استخدامها فعليًا.

المراجع الرسمية

اترك تعليقاً

كيفية إنشاء عناوين ووصفات تعريفية لتحسين محركات البحث تلقائيًا باستخدام Local Ollama

كيفية إنشاء عناوين ووصفات تعريفية لتحسين محركات البحث تلقائيًا باستخدام Local Ollama

قم بإنشاء سير عمل محلي لـ Ollama يقوم بإنشاء عناوين SEO منظمة وأوصاف تعريفية بكميات كبيرة، ويتحقق من صحة المخرجات، ويضع علامات على النتائج للمراجعة البشرية.

قالب بوربوينت مجاني لعرض قوائم العقارات الحديثة: مخطط شرائح عملي جاهز للبائع

قالب بوربوينت مجاني لعرض قوائم العقارات الحديثة: مخطط شرائح عملي جاهز للبائع

استخدم مخطط عرض بوربوينت المجاني هذا لعرض قوائم العقارات الحديثة لتنظيم التسعير والتسويق وإعداد العقار وقيمة الوكيل والخطوات التالية للبائع.

نموذج تقدير تكلفة أعمال البناء القابل للطباعة بصيغة Excel: إعداد عملي للمقاولين الصغار

نموذج تقدير تكلفة أعمال البناء القابل للطباعة بصيغة Excel: إعداد عملي للمقاولين الصغار

قم بإنشاء نموذج تقدير تكلفة مشروع بناء قابل للطباعة في برنامج Excel مع توضيح تكاليف العمالة والمواد والصيغ والهامش والاستثناءات وإجمالي تكاليف العميل الجاهزة للطباعة.

How to Generate Cinematic Lighting Prompts for Luma Dream Machine

How to Generate Cinematic Lighting Prompts for Luma Dream Machine

Build stronger Luma Dream Machine video prompts with a practical cinematic lighting formula, reusable recipes, examples, and a fast troubleshooting checklist.

نموذج عرض تقديمي بسيط للمستثمرين في مجال التكنولوجيا الناشئة: ما يجب تضمينه وكيفية هيكلته

نموذج عرض تقديمي بسيط للمستثمرين في مجال التكنولوجيا الناشئة: ما يجب تضمينه وكيفية هيكلته

قم بإنشاء عرض تقديمي بسيط للمستثمرين في مجال التكنولوجيا الناشئة باستخدام برنامج PowerPoint مع ترتيب الشرائح الصحيح، وقواعد تصميم واضحة، ومقاييس الجذب، وملحق جاهز للمستثمرين.

كيفية منع برنامج إكسل من تغيير الأرقام إلى تواريخ تلقائيًا

كيفية منع برنامج إكسل من تغيير الأرقام إلى تواريخ تلقائيًا

امنع برنامج Excel من تحويل الرموز والمعرفات والكسور إلى تواريخ. استخدم تنسيق النص، وعلامات الترقيم، وعناصر التحكم في الاستيراد، وخيارات Microsoft 365 الحالية.

كيفية تقليل وقت العرض في ComfyUI لسير عمل SDXL

كيفية تقليل وقت العرض في ComfyUI لسير عمل SDXL

تسريع عمليات عرض ComfyUI SDXL عن طريق تقليل عمل أخذ العينات، والتحكم في الدقة وحجم الدفعة، وتبسيط العقد، واستخدام التخزين المؤقت، وضبط ذاكرة الوصول العشوائي للفيديو (VRAM) والاهتمام بأمان.

نموذج إكسل مجاني لتتبع نفقات وإيرادات العقارات المؤجرة: دفتر عمل بسيط للمالك

نموذج إكسل مجاني لتتبع نفقات وإيرادات العقارات المؤجرة: دفتر عمل بسيط للمالك

قم بإنشاء أداة عملية لتتبع دخل ونفقات العقارات المؤجرة في برنامج Excel مع فئات واضحة، وصيغ، وملخصات شهرية، وإرشادات لحفظ السجلات جاهزة للضرائب.

كيفية إنشاء قاعدة معرفية محلية خاصة بالذكاء الاصطناعي للمستندات الشخصية

كيفية إنشاء قاعدة معرفية محلية خاصة بالذكاء الاصطناعي للمستندات الشخصية

أنشئ قاعدة معرفية محلية خاصة بالذكاء الاصطناعي باستخدام Ollama و AnythingLLM والتضمينات المحلية و RAG. تعرّف على عملية الإعداد المكونة من أربع خطوات، وفحوصات الخصوصية، والاختبار، والنسخ الاحتياطي.

كيفية إصلاح مشكلة "تجاوز نافذة السياق" في تحليل المستندات الطويلة دون فقدان الأدلة الرئيسية

كيفية إصلاح مشكلة "تجاوز نافذة السياق" في تحليل المستندات الطويلة دون فقدان الأدلة الرئيسية

قم بإصلاح أخطاء نافذة السياق في تحليل المستندات الطويلة عن طريق تقليم المدخلات، وتقسيم الملفات، واستخدام الاسترجاع، والتحقق من أن الإجابة النهائية تغطي المصدر.