LLaMA-Adapter V2: Alat untuk fine-tuning LLaMA secara efisien

• Hanya dengan 1,2 juta parameter yang dapat dilatih, LLaMA dapat dilatih menjadi model Instruction-Following & MultiModal dalam waktu 1 jam
• Alpaca membutuhkan 7B parameter, 13G ruang penyimpanan, dan 3 jam, sedangkan
  LLaMA-Adapter hanya memerlukan 1.2M parameter, 4.7M ruang penyimpanan, dan 1 jam

[bytebrawlers]

Bukankah poin utamanya adalah penggunaan metode PEFT yang mirip dengan LoRA, dan yang terpenting mendukung Visual Context? SFT (Instruction Fine-Tune) dengan pendekatan PEFT untuk LLaMA sendiri sudah terlalu banyak, jadi...