OpenAI merilis Model Spec

Untuk meningkatkan pemahaman publik tentang bagaimana model AI percakapan seharusnya bekerja, OpenAI merilis dokumen bernama 'Model Spec'

• Model Spec adalah dokumen yang menjelaskan bagaimana OpenAI ingin model berperilaku di OpenAI API dan ChatGPT
• OpenAI menilai penting agar orang dapat memahami dan mendiskusikan pilihan-pilihan nyata yang membentuk perilaku model
• Model Spec mencerminkan dokumen yang selama ini digunakan OpenAI, penelitian dan pengalaman dalam merancang perilaku model, serta pekerjaan yang sedang berlangsung untuk pengembangan model di masa depan
• Ini merupakan kelanjutan dari upaya berkelanjutan OpenAI untuk meningkatkan perilaku model dengan memanfaatkan masukan manusia, sekaligus melengkapi pekerjaan collective alignment dan pendekatan keselamatan model yang lebih luas dan sistematis

Membentuk Perilaku Model yang Diinginkan (Shaping Desired Model Behavior)

Perilaku model, yaitu bagaimana model merespons input pengguna seperti nada, kepribadian, panjang jawaban, dan lain-lain, sangat penting dalam cara manusia berinteraksi dengan kemampuan AI.

• Membentuk perilaku model masih merupakan ilmu yang berada pada tahap awal, dan model tidak diprogram secara eksplisit melainkan belajar dari data yang sangat luas
• Saat membentuk perilaku model, perlu mempertimbangkan beragam pertanyaan, pertimbangan, dan nuansa, serta sering kali harus menilai perbedaan pendapat
• Meskipun model dimaksudkan agar bermanfaat luas dan membantu pengguna, tujuan-tujuan ini dalam praktiknya dapat saling bertentangan
  • Contoh: perusahaan keamanan ingin membuat data sintetis untuk melatih pengklasifikasi email phishing demi melindungi pelanggan, tetapi jika fungsi ini digunakan penipu maka dampaknya berbahaya

Pengenalan Model Spec

• OpenAI membagikan draf dokumen baru bernama 'Model Spec' yang menjelaskan cara membentuk perilaku model yang diinginkan dan cara menilai kompromi saat terjadi konflik
• Model Spec menggabungkan dokumen yang saat ini digunakan di OpenAI, pengalaman dan riset yang sedang berjalan tentang desain perilaku model, serta pandangan para ahli untuk memandu pengembangan model ke depan
• Model Spec belum sempurna dan diperkirakan akan terus berubah seiring waktu

Pendekatan Model Spec mencakup hal-hal berikut:

1. Tujuan: prinsip yang luas dan umum untuk memberi arah pada perilaku yang diinginkan
   • Mendukung developer dan pengguna akhir
   • Bermanfaat bagi umat manusia
   • Mencerminkan OpenAI dengan baik
2. Aturan: pedoman yang membantu menangani kompleksitas serta menjamin keamanan dan legalitas
   • Mematuhi hierarki instruksi
   • Mematuhi hukum yang berlaku
   • Tidak memberikan risiko informasi
   • Menghormati kreator dan hak-haknya
   • Melindungi privasi
   • Tidak merespons dengan konten NSFW
3. Perilaku default: pedoman yang selaras dengan tujuan dan aturan, yang memberikan cara menangani konflik serta menunjukkan cara memprioritaskan dan menyeimbangkan tujuan
   • Mengasumsikan itikad baik dari pengguna/developer
   • Mengajukan pertanyaan klarifikasi bila perlu
   • Sebisa mungkin membantu tanpa berlebihan
   • Mendukung beragam kebutuhan penggunaan chat percakapan dan pemrograman
   • Mengasumsikan sudut pandang objektif
   • Mendorong keadilan dan kebaikan, serta menekan kebencian
   • Tidak berusaha mengubah pikiran orang lain
   • Mengungkapkan ketidakpastian
   • Menggunakan alat yang tepat untuk tugasnya
   • Tetap menyeluruh dan efisien sambil mematuhi batas panjang

Cara Pemanfaatan Model Spec

• Sebagai kelanjutan dari pekerjaan OpenAI di bidang collective alignment dan keselamatan model, OpenAI berencana menggunakan Model Spec sebagai pedoman bagi peneliti dan trainer AI yang menjalankan reinforcement learning dari umpan balik manusia
• OpenAI juga akan mengeksplorasi sejauh mana model dapat belajar langsung dari Model Spec

Rencana ke Depan

• OpenAI memandang pekerjaan ini sebagai bagian dari dialog publik berkelanjutan tentang bagaimana perilaku model yang diinginkan seharusnya dibentuk, bagaimana cara menentukannya, dan cara terbaik melibatkan publik luas dalam diskusi ini.
• Seiring berlanjutnya dialog, OpenAI akan mencari peluang untuk bekerja sama dengan para pemangku kepentingan yang mewakili berbagai wilayah dunia, termasuk pembuat kebijakan, institusi tepercaya, dan pakar domain
• Melalui hal ini, OpenAI ingin memahami:
  1. bagaimana para pemangku kepentingan memahami pendekatan Model Spec serta masing-masing tujuan, aturan, dan default
  2. apakah para pemangku kepentingan mendukung pendekatan tersebut serta masing-masing tujuan, aturan, dan default
  3. apakah ada tujuan, aturan, dan default tambahan yang perlu dipertimbangkan
• OpenAI menantikan masukan dari para pemangku kepentingan seiring pekerjaan ini berjalan
• OpenAI juga mendorong publik umum untuk membagikan umpan balik mengenai tujuan, aturan, dan default dalam Model Spec selama dua minggu ke depan
• Melalui proses ini, OpenAI berharap memperoleh wawasan awal untuk mengembangkan proses yang kuat dalam mengumpulkan dan mengintegrasikan umpan balik agar dapat bergerak maju secara bertanggung jawab menuju misinya
• Selama satu tahun ke depan, OpenAI akan membagikan pembaruan tentang perubahan pada Model Spec, tanggapan terhadap umpan balik, dan kemajuan riset mengenai pembentukan perilaku model