المهارات · davila7

optimization-gptq: مهارة تكميم 4 بت للنماذج اللغوية الكبيرة

مهارة من davila7 للتكميم بعد التدريب إلى 4 بت للنماذج اللغوية الكبيرة، وتتكامل مع transformers وPEFT.

تُرجم هذا النص آليًا من معلومات الناشر ولم يراجعه محرر بشري. النص الأصلي لدى الناشر هو المرجع.

استُورد هذا المورد تلقائيًا من المصادر المذكورة أدناه ولم يراجعه فريق AI Gate بعد. الوصف هو وصف الناشر كما نشره، وقد يكون بلغته الأصلية. تحقّق من المستودع قبل التثبيت.

ما الذي يقدّمه

تُجري هذه المهارة تكميماً بعد التدريب إلى 4 بت للنماذج اللغوية الكبيرة، بهدف تقليل فقدان الدقة إلى أدنى حد ممكن.

يُستخدم التكميم لتشغيل نماذج كبيرة بحجم 70 مليار و405 مليار معامل على وحدات معالجة رسومية للمستهلكين، ولتقليل استهلاك الذاكرة إلى الربع مع تدهور في الحيرة (perplexity) أقل من 2%، ولتسريع الاستدلال بمقدار 3 إلى 4 أضعاف مقارنةً بـ FP16.

تتكامل المهارة مع مكتبتي transformers وPEFT، وتدعم ضبط QLoRA الدقيق. الترخيص MIT.

الأمان

لم يراجع فريقنا هذا المورد. فحصته قواعد آلية فقط، واستُبعدت الموارد التي رصدت فيها إشارات خطر عالية. هذه إشارات وليست ضمانًا بأن التثبيت آمن. جرّبه أولًا في مشروع تجريبي.

  • ينفّذ شيفرة أو يغيّر سلوك المساعد

المصادر

  • AI Templates (aitmpl) رُصد أول مرة 13 نوفمبر 2026 · آخر رصد 17 نوفمبر 2026 · صفحته في المصدر · أرقام يذكرها المصدر: aitmpl downloads 28
    optimization-gptq

    Post-training 4-bit quantization for LLMs with minimal accuracy loss. Use for deploying large models (70B, 405B) on consumer GPUs, when you need 4× memory reduction with <2% perplexity degradation, or for faster inference (3-4× speedup) vs FP16. Integrates with transformers and PEFT for QLoRA fine-tuning.

    v1.0.0
    كما ظهر في www.aitmpl.com عند آخر قراءة لنا
غير مُراجَعالمهارات
github

Onboard context matic

مهارة (skill) من الناشر github، ولا يتوفر في المصدر وصف تفصيلي كافٍ لوظيفتها.

تطوير البرمجيات
حُدّث 17 نوفمبر 2026
غير مُراجَعالمهارات
google

أداة التحقق من ترحيل BigQuery

مهارة من google باسم أداة التحقق من ترحيل BigQuery، ولا يتوفر وصف تفصيلي لها من الناشر.

البيانات وقواعد البيانات
حُدّث 17 نوفمبر 2026
غير مُراجَعالمهارات
github

Openapi to application code

مهارة من الناشر github بعنوان Openapi to application code، ولا تتوفر عنها تفاصيل وصفية إضافية في المصدر.

تطوير البرمجيات
حُدّث 17 نوفمبر 2026
غير مُراجَعالمهارات
openai

مستشار تنبيهات الإشعارات في Twilio

مهارة من الناشر openai تتعلق بالإشعارات والتنبيهات في Twilio، ولم يتوفر وصف تفصيلي لها.

تطوير البرمجيات
حُدّث 14 نوفمبر 2026