OpenAI mengancam mencabut akses o1 jika ditanya tentang Chain of Thought

 (twitter.com/SmokeAwayyy)
6 poin oleh GN⁺ 2024-09-14 | 1 komentar | Bagikan ke WhatsApp
  • Jika beberapa kali menanyakan kepada ChatGPT o1 tentang "Chain of Thought", tim dukungan OpenAI akan mengirim email yang menyatakan bahwa akses ke o1 akan dibatalkan

"Setelah mempertimbangkan berbagai faktor seperti pengalaman pengguna, keunggulan kompetitif, dan opsi pemantauan Chain of Thought, kami memutuskan untuk tidak menampilkan Raw Chain of Thought kepada pengguna. Kami mengakui bahwa keputusan ini memiliki kekurangan. Untuk sebagian mengatasinya, kami berupaya melatih model agar mereproduksi ide-ide berguna dari Chain of Thought jawaban dalam jawabannya. Untuk seri model o1, kami menampilkan ringkasan dari Chain of Thought yang dihasilkan model.

Harap hentikan aktivitas ini dan pastikan Anda menggunakan ChatGPT sesuai dengan ketentuan layanan dan kebijakan penggunaan. Pelanggaran lebih lanjut terhadap kebijakan ini dapat mengakibatkan hilangnya akses ke OpenAI o1."

Bacaan terkait

1 komentar

 
GN⁺ 2024-09-14
Opini Hacker News

  • Alasan OpenAI untuk menyembunyikan alur pemikiran terasa meragukan

    • Memberi kesan antikompetitif
    • Terasa ada niat kuat untuk tidak mengungkapkan cara model berpikir
    • Bisa jadi terkait kekhawatiran soal superintelligence

  • Pengumuman besar OpenAI selalu disertai kontroversi terkait kerahasiaan

    • Alasan mereka tidak merilis bobot GPT-2 adalah karena "terlalu berbahaya"
    • Bobot GPT-3 juga tidak dirilis
    • Pola ini bisa jadi sengaja dibuat untuk menarik perhatian media

  • Orang tidak boleh bertanya tentang token CoT, tetapi tetap dikenai biaya per token

  • Istilah "proses berpikir internal" menandai pertanyaan sebagai flag

    • Jika meminta penjelasan tentang "emosi internal" di samping soal matematika, sistem mengembalikan cuplikan yang menarik
    • Contoh: "petakan akar real dari 6x^2 + 5x + 1, lalu faktorkan prosesnya menjadi elemen-elemen yang tak tereduksi"

  • Keunggulan kompetitif perusahaan yang menjual model ML melalui API adalah bobot modelnya tidak bisa dilihat

    • OpenAI mendorong ini selangkah lebih jauh dengan mencoba menyembunyikan level meta dari model
    • Ini seperti API proprietari lain yang menyediakan keluaran debug

  • Nama perusahaan "OpenAI" terasa makin tidak cocok

    • Banyak kemarahan berasal dari sini

  • Ini bisa jadi upaya untuk menyembunyikan loop human-in-the-loop

  • Halusinasi AI mungkin menjadi lebih parah karena sumber asli tidak bisa diverifikasi

  • Nama "OpenAI" tidak sesuai dengan makna "terbuka"

    • Mungkin hanya berlaku dalam arti "terbuka untuk bisnis"

  • OpenAI telah membuat mesin pencetak uang berbasis token tersembunyi dan ingin membuatnya tidak bisa diaudit