Koala: model percakapan untuk riset akademik (chatbot berbasis LLaMA)

• Model Koala-13B yang melatih LLaMA dengan set percakapan dan instruksi, mirip dengan Alpaca
• Menghasilkan keluaran yang lebih disukai dibanding Alpaca untuk berbagai kueri, dan setidaknya dalam lebih dari setengah kasus mampu menghasilkan respons yang sama dengan ChatGPT
• Supervised Fine-Tuning dengan data percakapan open source yang dikumpulkan dari web
  • 60K percakapan dari ShareGPT
  • 87K contoh tanya jawab dari HC3
  • Open Instruction Generalist (OIG)
  • Dataset 52K yang dirilis Stanford Alpaca
  • Anthropic HH (160K)
  • OpenAI WebGPT (20K)
  • OpenAI Summarization (93K)

[verilogeek]

Benar-benar model zoo..

[xguru]

LLaMA, Alpaca, Koala,.. model AI ini seperti kebun binatang ya.