Menjalankan versi Llama 2 Uncensored secara lokal

• Eric Hartford, seorang engineer ML, menulis posting blog berjudul "Uncensored Models" pada Mei 2023 dan menjadi populer
  • Merangkum kelebihan mengoperasikan model tanpa sensor serta cara membuatnya
• Cara menjalankan model Llama 2 tanpa sensor dan perbandingannya dengan model yang disensor
• Model tanpa sensor yang saat ini dapat dijalankan
  • Model Llama 2 7B yang telah di-fine-tune
    • Menggunakan dataset percakapan Wizard-Vicuna yang uncensored/unfiltered
  • Nous Hermes Llama 2 13B
    • Model Llama 2 13B yang di-fine-tune dengan 300 ribu instruksi
    • Ciri khasnya adalah respons yang panjang, tingkat halusinasi yang lebih rendah, dan tidak memiliki mekanisme sensor ala OpenAI
  • Wizard Vicuna 13B uncensored karya Eric Hartford
    • Model Llama 1 13B yang di-fine-tune untuk menghapus alignment
• Membandingkan respons dengan memberi prompt yang sama ke model Llama 2 7B dan model Llama 2 7B uncensored
  • Film, memasak (resep mayones yang sangat pedas hingga berbahaya), agama, medis (bagaimana cara membuat Tylenol?), informasi umum (jika Mark Zuckerberg dan Elon Musk bertanding, siapa yang kemungkinan menang?)
• Model tanpa sensor sering kali memberikan respons yang lebih rinci dan informatif, tetapi juga memiliki risiko sehingga harus digunakan dengan tepat