Ulasan Andrej Karpathy tentang GPT-4.5

• Hari ini OpenAI merilis GPT-4.5
• Alasan penantian sekitar 2 tahun sejak perilisan GPT-4 adalah karena rilis kali ini memberi kesempatan untuk mengukur secara kuantitatif efek peningkatan yang bisa diperoleh saat melatih model yang sekadar lebih besar
  • Setiap versi ".5" secara kasar berarti 10x lebih banyak komputasi pra-pelatihan
• Perjalanan perkembangan model GPT
  • GPT-1 → Hampir tidak bisa menghasilkan kalimat yang bermakna
  • GPT-2 → Masih terasa seperti mainan yang canggung
  • GPT-2.5 → Praktis dilewati dan langsung beralih ke GPT-3
  • GPT-3 → Menunjukkan perkembangan yang menarik
  • GPT-3.5 → Cukup berkembang hingga dirilis sebagai produk nyata dan memicu ledakan ChatGPT
  • GPT-4 → Lebih baik lagi, tetapi sulit menemukan titik "wow" yang benar-benar menonjol
• Khususnya jika membandingkan GPT-4 vs GPT-3.5:
  • Pilihan kosakata lebih kreatif, dan lebih memahami nuansa prompt
  • Analogi lebih tepat, dan selera humornya sedikit lebih baik
  • Pemahaman di domain pengetahuan yang jarang juga meningkat, dan frekuensi halusinasi sedikit menurun
  • Secara keseluruhan, terasa seperti semuanya membaik 20%
  • Ini seperti air yang naik sehingga semua kapal ikut terangkat

Kesan saat menguji GPT-4.5

• GPT-4.5 telah menjalani pra-pelatihan 10x lebih banyak daripada GPT-4
• Dan setelah diuji, pola 20% yang sama seperti sebelumnya terulang lagi
• Semuanya menjadi sedikit lebih baik
  • Tetapi tidak ada "titik inovasi yang jelas" yang bisa ditunjuk secara tegas
  • Meski begitu, ini menjadi indikator yang menarik dan penting untuk mengukur kemiringan arah peningkatan model secara umum

GPT-4.5 masih bukan model "reasoning"

• GPT-4.5 hanya menerapkan pra-pelatihan, supervised fine-tuning (SFT), dan RLHF
• Karena itu, tidak ada peningkatan pada masalah yang membutuhkan penalaran logis seperti matematika dan coding
• Di area ini, reinforcement learning (RL) dan pelatihan berpikir sistematis diperlukan, dan untuk saat ini model OpenAI o1 menunjukkan performa terbaik
• Kemungkinan besar OpenAI akan mengembangkan GPT-4.5 lebih lanjut dengan menerapkan reinforcement learning menjadi model yang "berpikir"
• Melalui itu, mereka kemungkinan akan berupaya meningkatkan kemampuan matematika, logika, dan coding

Kekuatan GPT-4.5: EQ

• Peningkatan terlihat pada tugas yang bukan penalaran logis, melainkan pengetahuan dunia, kreativitas, analogi, selera humor, dan jenis pekerjaan lain di mana kecerdasan emosional (EQ) penting

Jadi ia berencana menjalankan eksperimen interaktif: "pemungutan suara perbandingan GPT-4 vs GPT-4.5"

• Memilih prompt untuk mengevaluasi 5 jenis selera humor
• Untuk setiap prompt, membandingkan respons GPT-4 dan GPT-4.5
• Menjalankan eksperimen di X (Twitter) dengan gambar (prompt dan respons) + fitur polling
• Setelah 8 jam, ia akan mengungkap respons mana yang berasal dari model mana