Nassila

النماذج المحلية

تشحن ناسيلا تثبيت مقطعات سند مقابل نماذج GGUF محلية تنزّلها بنفسك. أوزان متعددة الجيجابايت غير مضمّنة في المثبّت.

نموذج سند (المستوى الوحيد)

Model IDنقطة التفتيشالمستوىVRAM (تقريبي)Hugging Face
nassila-sanad-9bFT-6المستوى الوحيد (Qwen 3.5) — اختر الكمQ2_K ~3.6 GB → Q8_0 ~8.9 GB (+ متغيرات MTP)nassila-sanad-9b

ست كمات GGUF افتراضية (Q2_K / Q3_K_M / Q4_K_M / Q5_K_M / Q6_K / Q8_0) تشترك في نفس جذع FT-6 (تحويل بـ --no-mtp). ملفات MTP المطابقة (nassila-sanad-9b-mtp-*.gguf) لـ llama-server مع فك الترميز التخميني. أسماء نموذجية: nassila-sanad-9b-q4_k_m.gguf، nassila-sanad-9b-q6_k.gguf.

متقاعدة (من عصر الملخصات): nassila-sanad-4b (S15)، nassila-sanad-12b (S14)، nassila-sanad-e4b (S12) — بطاقاتهم بقيت على Hugging Face للتنزيلات القديمة فقط.

سلوك المستوى في التطبيق

رقاقة المستوىنقطة التفتيشمتى تستخدمه
9BFT-6المستوى الوحيد لسند — اختر الكم بنفسك

بدّل من رقاقة شريط سند أو الإعدادات → توثيق الادعاءات بالمصدر.

المشغّلات

يتصل Sanad بأي خادم /v1/chat/completions متوافق مع OpenAI:

المشغّلعنوان URL الأساسي الافتراضي
LM Studiohttp://localhost:1234
Ollamahttp://localhost:11434
vLLMعنوان خادمك
Customيحدده المستخدم

دليل الإعداد: إعداد سند.

ما يستقبله Sanad عند الاستدلال

  • مقتطفك — النص حول الاستشهاد في النص (ضمن حدود المحرك)
  • مقتطف المصدر — محتوى المصدر الكامل (ملخص السجل، نص OA كامل، أو PDF المصدر المرفق)
  • JSON منظّم — ادعاءات، أحكام، اقتباسات حرفية عند الدعم

تثبيت سند يستند إلى مقتطفات المصدر الكاملة. موجز مصدر يضيف نص PDF مفتوح الوصول عندما يجد Unpaywall ملفاً — دون GGUF جديد.

سياسة التوزيع

  • أحضر GGUF أو استخدم سحب Ollama من Hugging Face Hub
  • لا تنزيل تلقائي للأوزان دون إجراء منك
  • إعداد Cloud API اختياري — أنت تزوّد النقطة والاعتماد

المستقبل

قد يُشحن لاحقاً حزمة متعددة العمال. اليوم، التثبيت الإنتاجي يستخدم GGUF سند 9B أعلاه.

صفحات ذات صلة