ما الذي يقدّمه
تكمّم هذه المهارة نماذج اللغة الكبيرة (LLM) إلى دقة 8 بت أو 4 بت، ما يقلل استهلاك الذاكرة بنسبة تتراوح بين 50% و75%، مع فقدان محدود في الدقة وفق وصف الناشر. وتدعم صيغ INT8 وNF4 وFP4.
يُستعان بها عندما تكون ذاكرة وحدة معالجة الرسومات محدودة ويراد تشغيل نماذج أكبر، أو عندما يُطلب استدلال أسرع. كما تشمل دعم تدريب QLoRA والمحسّنات 8 بت.
تعمل المهارة مع مكتبة HuggingFace Transformers، ويُطبَّق التكميم ضمن سير العمل الذي تستخدمه هذه المكتبة.
الحدود والمتطلبات
تتطلب العمل مع مكتبة HuggingFace Transformers، وفق ما يذكره الناشر.
الأمان
لم يراجع فريقنا هذا المورد. فحصته قواعد آلية فقط، واستُبعدت الموارد التي رصدت فيها إشارات خطر عالية. هذه إشارات وليست ضمانًا بأن التثبيت آمن. جرّبه أولًا في مشروع تجريبي.
- ينفّذ شيفرة أو يغيّر سلوك المساعد
المصادر
- AI Templates (aitmpl) رُصد أول مرة 13 نوفمبر 2026 · آخر رصد 18 نوفمبر 2026 · صفحته في المصدر · أرقام يذكرها المصدر: aitmpl downloads 36
optimization-bitsandbytes
Quantizes LLMs to 8-bit or 4-bit for 50-75% memory reduction with minimal accuracy loss. Use when GPU memory is limited, need to fit larger models, or want faster inference. Supports INT8, NF4, FP4 formats, QLoRA training, and 8-bit optimizers. Works with HuggingFace Transformers.
v1.0.0كما ظهر في www.aitmpl.com عند آخر قراءة لنا