Llama fine-tuning برای فارسی

Llama یه مدل زبانی اوپن‌سورس از Metaه که هر کسی می‌تونه وزن‌هاش رو دانلود کنه، روی سرور خودش اجرا کنه، و، مهم‌تر از همه، روی داده‌های خودش fine-tune کنه. این یعنی می‌تونی یه Llama فارسی‌دان، با لحن خاص خودت، برای کارهای خاصت بسازی. این مقاله دقیقاً توضیح می‌ده چطور، با جزئیات واقعی، نه شعار.

چرا Llama؟ چرا نه GPT یا Claude؟

GPT-4 و Claude قوی‌ترن، این واقعیته. ولی وقتی داری fine-tuning می‌کنی، نمی‌تونی وزن‌های GPT-4 رو لمس کنی. OpenAI یه سرویس fine-tuning محدود داره (روی GPT-4o Mini) که هزینهٔ توکن‌محور داره و کنترل کامل نداری.

Llama فرق اساسی داره: وزن‌ها مال توئه. داده‌هات از سرورت بیرون نمی‌ره. می‌تونی روی GPU شخصی یا یه VPS ایرانی اجرا کنی. برای کاربر ایرانی که درگیر تحریم و مشکل پرداخت خارجی‌ست، این تفاوت عملیه.

نسخه‌های Llama که می‌شناسیشون

Llama 3.1 (۲۰۲۴)، جدیدترین نسل. در سایزهای 8B، 70B، و 405B. نسخهٔ 70B روی اکثر بنچمارک‌ها با GPT-4 Turbo رقابت می‌کنه.

Llama 3.2 (آبان ۱۴۰۳)، نسخه‌های 1B و 3B مخصوص اجرا روی گوشی و edge device. اولین Llama‌هایی که رسماً multimodal‌ان (1B و 3B متن‌فقط، 11B و 90B تصویر+متن).

Llama 3.3 (۲۰۲۵)، نسخهٔ 70B با کیفیت نزدیک به 405B. برای fine-tuning فارسی، 70B نقطهٔ شروع خوبیه، هم کافی قوی، هم قابل اجرا.

وضعیت فارسی در Llama خام

Llama 3.x فارسی می‌دونه، نه خوب، نه بد. در داده‌های آموزشیش متن فارسی بوده، ولی نسبت به انگلیسی خیلی کمتر. چند مشکل مشخص:

• توکنیزاسیون گران، هر کلمهٔ فارسی اغلب ۳-۵ توکن مصرف می‌کنه در حالی که همتای انگلیسیش ۱-۲ توکنه. این هزینهٔ inference رو بالا می‌بره.
• لهجه و محاوره، اگه بخوای مدل فارسی محاوره‌ای یا لحن خاصی داشته باشه، مدل خام کافی نیست.
• حوزه‌های تخصصی، حقوق ایران، پزشکی فارسی، اصطلاحات فنی بومی، مدل خام اطلاعات کافی نداره.

Fine-tuning دقیقاً اینجا وارد می‌شه.

Fine-tuning چیست؟ (کوتاه و صادقانه)

وقتی یه LLM از صفر آموزش می‌بینه، صدها GPU برای ماه‌ها کار می‌کنن. Fine-tuning یه مرحلهٔ آموزش کوچیک‌تر روی یه مدل از پیش آموزش‌دیده‌ست. به‌جای ساختن از صفر، مدل رو با داده‌های خاص خودت «تنظیم دقیق» می‌کنی.

سه روش اصلی برای fine-tuning Llama:

۱. Full fine-tuning، همهٔ وزن‌ها تغییر می‌کنن. گران‌قیمت، نیاز به GPU پرحافظه (حداقل ۸۰GB برای 70B). برای اکثر کاربران عملی نیست.

۲. LoRA (Low-Rank Adaptation)، به‌جای تغییر همهٔ وزن‌ها، یه ماتریس کوچیک «adaptor» اضافه می‌کنی. هزینهٔ محاسباتی ۱۰-۲۰ برابر کمتر. برای Llama 8B روی یه A100 (80GB) یا دو A40 (48GB) ممکنه.

۳. QLoRA، ترکیب quantization با LoRA. مدل اصلی رو با دقت ۴ یا ۸ بیت ذخیره می‌کنی، بعد LoRA اعمال می‌کنی. با QLoRA می‌شه Llama 3.1 8B رو روی یه RTX 4090 (24GB) fine-tune کرد، سخت‌افزاری که در ایران قابل تهیه‌ست.

داده: مهم‌ترین چیزی که کسی بهش توجه نمی‌کنه

اغلب مقالات fine-tuning وقتشون رو صرف معرفی فریم‌ورک‌ها می‌کنن. ولی واقعیت اینه که کیفیت داده مهم‌تر از روش fine-tuning‌ه.

برای فارسی، چند منبع داده خوب:

• مکالمات دستی، بهترین داده، ولی گرون‌ترین. چند صد مکالمهٔ باکیفیت فارسی درست می‌کنی.
• Synthetic data با GPT-4، GPT-4 رو می‌گی مکالمات فارسی باکیفیت بسازه. بعد این‌ها رو برای fine-tuning Llama استفاده می‌کنی. روش «distillation» نام داره.
• Persian Alpaca، چند پروژه داده‌های Alpaca رو به فارسی ترجمه کردن. کیفیتشون متفاوته.
• OSCAR Persian، یه corpus بزرگ متن فارسی از Common Crawl. برای fine-tuning عمومی مناسبه.
• داده‌های حوزه‌محور، اگه می‌خوای مدل حقوقی یا پزشکی فارسی بسازی، باید داده‌های تخصصی بسازی یا پیدا کنی.

فرمت استاندارد برای fine-tuning Llama 3، فرمت Instruct هست:

<|begin_of_text|><|start_header_id|>system<|end_header_id|>
تو یه دستیار متخصص فارسی هستی...
<|eot_id|><|start_header_id|>user<|end_header_id|>
سوال کاربر اینجاست
<|eot_id|><|start_header_id|>assistant<|end_header_id|>
جواب مطلوب اینجاست
<|eot_id|>

ابزارها و فریم‌ورک‌ها

Unsloth، سریع‌ترین و ساده‌ترین راه. ادعا می‌کنه fine-tuning رو ۲-۵ برابر سریع‌تر و ۷۰٪ کم‌حافظه‌تر می‌کنه. یه notebook آماده برای Llama 3 داره که روی Google Colab رایگان هم کار می‌کنه (ولی آهسته‌ست).

TRL از Hugging Face، کتابخونهٔ رسمی‌تر. SFTTrainer داخلش داری که straightforward‌ه. با Hugging Face ecosystem کاملاً compatible‌ه.

Axolotl، برای پروژه‌های serious‌تر. config-based‌ه، همه چیز رو در یه YAML تعریف می‌کنی.

LLaMA-Factory، رابط کاربری وب هم داره. برای کسانی که دوست ندارن زیاد کد بزنن.

یه مثال واقعی: fine-tuning Llama 8B با Unsloth

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "unsloth/Meta-Llama-3.1-8B-Instruct",
    max_seq_length = 2048,
    load_in_4bit = True,  # QLoRA
)

model = FastLanguageModel.get_peft_model(
    model,
    r = 16,           # rank LoRA
    lora_alpha = 16,
    target_modules = ["q_proj", "v_proj"],
)

بعد dataset فارسیت رو load می‌کنی و SFTTrainer رو راه می‌اندازی. کل فرآیند برای ۱۰۰۰ نمونهٔ داده روی A100 حدود ۳۰-۶۰ دقیقه طول می‌کشه.

ارزیابی مدل fine-tuned فارسی

بعد از fine-tuning، چطور بفهمیم مدل بهتر شده؟

• مقایسهٔ دستی، ساده‌ترین راه. یه set از سوال‌ها رو به مدل خام و fine-tuned می‌دی، مقایسه می‌کنی.
• Perplexity، متریک فنی که می‌گه مدل چقدر متن فارسی رو «عجیب» می‌بینه. کمتر بهتره.
• بنچمارک‌های فارسی، پروژه‌هایی مثل Persian LLM Benchmarks دارن معیارهای ارزیابی می‌سازن.

محدودیت‌ها و چیزهایی که باید بدونی

Fine-tuning مشکلات کوچیک‌ترش نیست:

• Catastrophic forgetting، اگه خیلی aggressive fine-tune کنی، مدل چیزهایی که قبلاً بلد بود رو فراموش می‌کنه.
• Overfitting، با داده‌های کم، مدل فقط روی نمونه‌های آموزشی جواب می‌ده، نه سوال‌های جدید.
• هزینه، اجرای مدل ۷۰B در production گران‌ه. اکثر کاربران با 8B شروع می‌کنن.

جمع‌بندی

Llama fine-tuning برای فارسی یه ابزار قدرتمند واقعیه، نه هایپ. با QLoRA و Unsloth، کار روی سخت‌افزار متوسط ممکن شده. مهم‌ترین چیز کیفیت داده‌های فارسی‌ته، نه انتخاب فریم‌ورک.

اگه کاربر نهایی هستی (نه توسعه‌دهنده)، نیازی به fine-tuning نداری، می‌تونی از ابزارهایی استفاده کنی که این کارها رو برات کردن. اگه توسعه‌دهنده‌ای، با نسخهٔ 8B شروع کن، QLoRA استفاده کن، و روی کیفیت داده وقت بذار.

همچنین بخوان

• مدل زبانی فارسی چیست؟
• Fine-tuning چیست؟
• Tokenization فارسی
• PersianMind
• شناخت پیوسته در هوش مصنوعی