Meringkas Buku Secara Rekursif dengan Umpan Balik Manusia

• Makalah baru yang baru saja diumumkan oleh OpenAI

• Untuk menerapkan model AI, perlu dipastikan apakah model machine learning bekerja sesuai dengan maksud manusia

→ Masalah alignment

• Menyelesaikan alignment sulit dievaluasi oleh manusia dan memakan banyak waktu

• Untuk menguji teknologi scalable alignment, mereka melatih model yang merangkum seluruh buku

→ Setelah merangkum buku per bagian, ringkasan tersebut diringkas lagi pada level yang lebih tinggi dan terus diringkas hingga menjadi ringkasan akhir

→ "Alice in Wonderland" yang terdiri dari 26449 kata diringkas menjadi 136 kata

→ Dengan fine-tuning dari GPT-3, model ini menghasilkan ringkasan yang sangat baik, dengan tingkat kualitas yang mirip dengan rata-rata kualitas ringkasan yang ditulis manusia