軽量日本語LLMをカスタマイズ

# Google Colab環境
torch==2.6.0+cu124
transformers==4.54.1
peft==0.17.0  # LoRA用
accelerate
datasets

# ローカル環境（マージ用）
torch==2.7.1
transformers==4.54.1
peft==0.17.0

[
  {
    "instruction": "花月の営業時間を教えてください",
    "output": "花月の営業時間は、昼の部が11:30～14:30（ラストオーダー14:00）、夜の部が17:30～22:30（ラストオーダー21:30）でございます。日曜・祝日は定休日とさせていただいております。"
  },
  {
    "instruction": "花月の場所はどこですか？",
    "output": "日本料理店「花月」は東京都花月区桜町3-12-7 桜花月ビル2階にございます。桜見橋駅から徒歩3分、花月中央駅から徒歩5分の好立地でございます。"
  },
  {
    "instruction": "花月のおすすめ料理を教えて",
    "output": "花月の名物料理は「季節の会席膳」（5,800円）でございます。旬の食材を使った前菜、お造り、焼き物、煮物、ご飯物、水菓子の全7品構成です。特に、毎朝築地から仕入れる新鮮な魚介のお造りと、京都から取り寄せる季節の野菜を使った煮物が好評でございます。"
  }
  // ... 全25項目
]

from peft import LoraConfig, get_peft_model, TaskType

lora_config = LoraConfig(
    r=16,                           # ランク（表現力）
    lora_alpha=32,                  # 学習強度  
    target_modules=[                # 全Attention層を対象
        "q_proj", "k_proj", "v_proj", "o_proj",
        "gate_proj", "up_proj", "down_proj"
    ],
    lora_dropout=0.05,
    bias="none",
    task_type=TaskType.CAUSAL_LM
)

# 適用結果
model = get_peft_model(model, lora_config)
# trainable params: 8,798,208 || all params: 502,830,976 || trainable%: 1.7497

optimizer = AdamW(
    model.parameters(),
    lr=2e-4,                # 学習率
    weight_decay=0.01,      # 重み減衰
)

epochs = 8                  # エポック数
batch_size = 1              # バッチサイズ（メモリ制約）
max_length = 512            # 最大トークン長

🚀 最適化学習開始 - 8エポック
📊 総ステップ数: 200

Epoch 1/8, Loss: 14.7339 → 1.3636
Epoch 2/8, Loss: 0.2531
Epoch 3/8, Loss: 0.1461
Epoch 4/8, Loss: 0.0788
Epoch 5/8, Loss: 0.0439
Epoch 6/8, Loss: 0.0225
Epoch 7/8, Loss: 0.0149
Epoch 8/8, Loss: 0.0135

🎉 最適化学習完了!
⏱️ 総学習時間: 62.4秒 (1.0分)
📊 最終Loss: 0.0245
📈 Loss改善: 14.7339 → 0.0245 (99.8%改善)

# 環境準備
$ source ~/venv_llm/bin/activate
$ python3 merge_lora_to_gguf.py

# merge_lora_to_gguf.py の核心部分
from peft import PeftModel

# ベースモデル読み込み
base_model = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen2.5-0.5B",
    torch_dtype=torch.float16,
    device_map="cpu"
)

# LoRAアダプター適用
peft_model = PeftModel.from_pretrained(base_model, "./kagetsu_optimized_extracted")

# マージして単一モデル化
merged_model = peft_model.merge_and_unload()
merged_model.save_pretrained("./kagetsu_merged_model")

# Modelfile作成
$ cat > Modelfile.kagetsu-optimized << EOF
FROM ./kagetsu_merged_model
SYSTEM "あなたは日本料理店「花月」の専門AIアシスタントです。"
EOF

# Ollamaモデル作成
$ ollama create kagetsu-optimized -f Modelfile.kagetsu-optimized

# 確認
$ ollama list | grep kagetsu
kagetsu-optimized:latest    22acd1c84e63    994 MB    14 minutes ago