Ketersediaan Umum API GPT-4
(openai.com)- Pengembang API yang sudah memiliki riwayat pembayaran dapat menggunakan API GPT-4 dengan konteks 8K, dan akses untuk pengembang baru serta perluasan batas laju akan dilakukan bertahap sesuai ketersediaan komputasi
- API GPT-3.5 Turbo, DALL·E, dan Whisper juga memasuki status ketersediaan umum karena dinilai siap untuk penggunaan berskala produksi, sementara fine-tuning untuk GPT-4 dan GPT-3.5 Turbo dijadwalkan tersedia pada akhir tahun ini
- Saat Chat Completions API mencakup 97% dari penggunaan GPT di OpenAI API, antarmuka terstruktur seperti system message dan function calling menggantikan sebagian besar use case Completions API lama
- Mulai 4 Januari 2024, model lama di Completions API, model embedding lama, dan model terkait Edits API tidak lagi bisa digunakan, sehingga perlu bermigrasi ke
gpt-3.5-turbo-instruct,text-embedding-ada-002, GPT-3.5 Turbo, dan lainnya - Completions API ditandai sebagai legacy di dokumentasi dan tidak ada rencana merilis model baru untuknya, sehingga integrasi baru lebih aman dirancang berpusat pada Chat Completions API
Cakupan ketersediaan API GPT-4 dan API utama
- OpenAI menyediakan akses GPT-4 untuk semua pelanggan API berbayar
- Pengembang API lama yang memiliki riwayat pembayaran sukses dapat menggunakan API GPT-4 dengan konteks 8K
- Akses untuk pengembang baru direncanakan dibuka pada akhir bulan ini
- Setelah itu, batas laju (rate limit) akan dinaikkan sesuai ketersediaan komputasi
- GPT-4 adalah model paling kuat dari OpenAI, dan sejak Maret ratusan ribu pengembang telah meminta akses ke API GPT-4
- API GPT-3.5 Turbo, DALL·E, dan Whisper juga tersedia secara umum
- Alasannya adalah stabilitas model dan kesiapan untuk penggunaan berskala produksi
- Fine-tuning untuk GPT-4 dan GPT-3.5 Turbo sedang melalui proses aktivasi yang aman, dan dijadwalkan tersedia pada akhir tahun ini
- Setelah pembaruan 24 April 2024, nama “ChatGPT API” dihentikan, dan penyebutan ChatGPT API dalam teks ini merujuk pada API GPT-3.5 Turbo
Beralih ke Chat Completions API sebagai pusat
- Chat Completions API diperkenalkan pada Maret, dan kini mencakup 97% dari penggunaan GPT di OpenAI API
- Completions API lama diperkenalkan pada Juni 2020 untuk berinteraksi dengan model bahasa melalui prompt teks bentuk bebas
- Antarmuka prompt yang lebih terstruktur dapat memberikan hasil lebih baik dibanding pendekatan lama
- system message
- function calling
- percakapan multi-turn
- Chat Completions API mendukung bukan hanya pengalaman percakapan, tetapi juga berbagai tugas completion yang luas
- Karena dapat memisahkan konten dari pengguna dan instruksi secara struktural, API ini membantu menurunkan risiko serangan prompt injection
- OpenAI berencana terus menginvestasikan sebagian besar upaya pengembangan platform ke arah ini
- log probabilities untuk completion token
- peningkatan steerability untuk mengurangi “chattiness” pada respons
- poin-poin di atas masih menjadi celah yang tersisa pada Chat Completions API
Penghentian model lama di Completions API
- Untuk memperluas investasi pada Chat Completions API dan mengoptimalkan kapasitas komputasi, OpenAI akan menghentikan sebagian model lama di Completions API dalam 6 bulan
- Completions API sendiri akan tetap bisa diakses, tetapi mulai hari ini ditandai sebagai legacy di dokumentasi pengembang
- Perbaikan model dan produk ke depan akan difokuskan pada Chat Completions API, dan tidak ada rencana merilis model baru untuk Completions API
- Mulai 4 Januari 2024, model completion lama tidak bisa lagi digunakan dan akan digantikan model baru
ada,babbage→babbage-002curie,davinci→davinci-002davinci-instruct-beta,curie-instruct-beta,text-ada-001,text-babbage-001,text-curie-001,text-davinci-001,text-davinci-002,text-davinci-003→gpt-3.5-turbo-instruct
- Aplikasi yang menggunakan nama model stabil
ada,babbage,curie,davinciakan di-upgrade otomatis ke model baru pada 4 Januari 2024 babbage-002dandavinci-002dijadwalkan tersedia dalam beberapa minggu mendatang agar bisa diuji lebih awal dengan menyebut nama model tersebut di panggilan API- Pengguna model completion lama lain seperti
text-davinci-003harus mengganti sendiri parametermodelpada permintaan API menjadigpt-3.5-turbo-instructsebelum 4 Januari 2024gpt-3.5-turbo-instructadalah model bergaya InstructGPT yang dilatih mirip dengantext-davinci-003- Model ini akan tersedia sebagai pengganti langsung (drop-in replacement) di Completions API
Migrasi untuk pengguna model fine-tuning
- Agar tetap bisa menggunakan model fine-tuning setelah 4 Januari 2024, model pengganti harus di-fine-tune ulang di atas model dasar baru
- model dasar GPT-3 baru:
babbage-002,davinci-002 - model yang lebih baru:
gpt-3.5-turbo,gpt-4
- model dasar GPT-3 baru:
- Saat fine-tuning GPT-3.5 Turbo dan GPT-4 tersedia, pengguna yang sebelumnya melakukan fine-tuning pada model lama akan mendapat akses prioritas
- Karena migrasi dari model yang di-fine-tune dengan data sendiri itu sulit, OpenAI berencana membuat transisi semulus mungkin melalui dukungan bagi pengguna lama
- Pengembang yang baru-baru ini menggunakan model lama akan dihubungi dalam beberapa minggu mendatang, dan informasi tambahan akan diberikan ketika pengujian awal untuk model completion baru siap
Penghentian model embedding lama
- Pengguna model embedding lama harus bermigrasi ke
text-embedding-ada-002sebelum 4 Januari 2024 text-embedding-ada-002dirilis pada Desember 2022, dan terbukti lebih kuat serta lebih hemat biaya dibanding model sebelumnya- Saat ini
text-embedding-ada-002mencakup 99,9% dari seluruh penggunaan embedding API - OpenAI akan menanggung biaya re-embedding untuk menanamkan ulang konten ke model baru
- Semua model berikut akan digantikan oleh
text-embedding-ada-002code-search-ada-code-001,code-search-ada-text-001code-search-babbage-code-001,code-search-babbage-text-001text-search-ada-doc-001,text-search-ada-query-001text-search-babbage-doc-001,text-search-babbage-query-001text-search-curie-doc-001,text-search-curie-query-001text-search-davinci-doc-001,text-search-davinci-query-001text-similarity-ada-001,text-similarity-babbage-001,text-similarity-curie-001,text-similarity-davinci-001
Penghentian Edits API
- Pengguna Edits API dan model terkait harus bermigrasi ke GPT-3.5 Turbo sebelum 4 Januari 2024
- Contoh:
text-davinci-edit-001,code-davinci-edit-001
- Contoh:
- Beta Edits API adalah API eksploratif awal yang dibuat untuk mengembalikan versi hasil suntingan dari sebuah prompt sesuai instruksi
- Masukan yang diperoleh dari Edits API telah diterapkan pada pengembangan
gpt-3.5-turbodan Chat Completions API - Chat Completions API juga bisa digunakan untuk tujuan yang sama
- Dalam contohnya, permintaan perubahan yang akan diterapkan ke kode ditetapkan sebagai system message, lalu ketika pengguna meminta nama fungsi Fibonacci diubah menjadi
fib, assistant mengembalikan kode yang sudah diperbarui
- Dalam contohnya, permintaan perubahan yang akan diterapkan ke kode ditetapkan sebagai system message, lalu ketika pengguna meminta nama fungsi Fibonacci diubah menjadi
1 komentar
Komentar Hacker News
LLM lokal harus didorong dan disebarluaskan
Menggunakan GPT pada dasarnya berarti membayar OpenAI, dan uang itu dipakai untuk melobi pemerintah demi menyingkirkan pesaing, yang pada akhirnya merugikan diri sendiri dan dompet kita
OpenAI tidak punya moat selain membayar agar mereka bisa menulis rancangan undang-undang
Bahkan sekarang pun, di laptop berusia 5 tahun tanpa GPU, kita sudah bisa menjalankan LLM yang cukup menakutkan cerdas dan cepat, jadi setidaknya masa depannya terlihat menarik
Saat saya mencoba satu atau dua bulan lalu, hasilnya sangat lambat dan nyaris tidak berguna untuk hampir semua tugas
Setiap kali ada model yang disebut “90% dari GPT-3”, saya berharap banyak, tapi setiap kali juga sangat kecewa
Sebagai catatan, setelah mencoba GPT-4, bahkan GPT-3 pun hampir selalu terasa mengecewakan
Saya juga ragu seberapa penting model LLM mana yang dipakai saat ini, entah lokal atau di-host, OpenAI atau engine lain
Antarmukanya tampaknya mengerucut ke prompt berbasis chat, dan ide-ide baru untuk menyetel model dasar atau meningkatkan efisiensi muncul hampir setiap minggu
Jika ingin membangun produk di atas AI generatif, bukankah masuk akal untuk mulai dari yang gratis atau yang cocok dengan lingkungan pengembangan kita
Cara berinteraksi dengan AI generatif berbasis teks maupun API-nya kemungkinan besar akan tetap mirip, terlepas dari engine mana yang paling optimal pada saat itu
Kalau begitu, penggantian backend akan menjadi mungkin, seperti layanan web yang meniru AWS S3 API
Pada akhirnya, kita bisa saja membangun produk dengan OpenAI atau model lain, lalu pindah nanti berdasarkan biaya dan kecocokan
Kita juga bisa membuat prototipe seluruh produk dengan LLM berkualitas lebih rendah, lalu sesekali mengirim permintaan ke GPT-4 untuk memverifikasi perilakunya
Meyakini bahwa teknologi ini bisa dibatasi lewat hukum tampak berlebihan. Sekuat apa pun lobi OpenAI, mereka tidak selalu mendapatkan apa yang diinginkan, dan ada contoh FTX juga
LLM bisa dijalankan secara lokal dan engine-nya bisa menjadi black box bagi pengguna, jadi jika mempertimbangkan manfaat publiknya juga, saya tidak tahu bagaimana hukum bisa benar-benar menghentikan penyebarannya
Saya punya laptop lama tanpa GPU dengan RAM 16GB, apakah model-model seperti ini bisa dijalankan?
Jangan mendanai mesin propaganda AI
LLM lokal mungkin bagus untuk sebagian tugas, tetapi dibandingkan skala model dan hardware yang dipakai OpenAI untuk API, jelas jauh lebih lambat dan kurang mampu
Dari pengalaman saya menjalankan model 7B di CPU dengan ggml pada laptop Intel i7 generasi ke-12, itu pun jauh lebih lambat daripada API gpt-3-turbo
[1] GPT4 is 8 x 220B params = 1.7T params: https://news.ycombinator.com/item?id=36413296
Ini serius. Mereka benar-benar berencana mematikan text-davinci-003
Itu berarti model paling mumpuni yang tersisa dan kebebasan gaya text completion akan hilang
Sekarang semuanya akan menjadi model chat yang disensor/diselaraskan atau model instruction dengan batas metafora input yang sewenang-wenang. gpt3.5-turbo sangat buruk jika dibandingkan
Kalau begini, saya mungkin akan berhenti menggunakan OpenAI untuk sebagian besar hal. Tagihan API $5~$10 per bulan mungkin tidak berarti besar, tetapi motivasi untuk menjalankan model Llama 65B secara lokal jadi jauh lebih besar
Apa yang diberikannya yang tidak dimiliki model lain?
Hal menarik apa yang layak dicoba sebelum dihentikan pada 4 Januari 2024?
Namun, jika davinci ada di kisaran harga yang sama dengan GPT-4, saya berharap GPT-4 akan cukup meningkat dalam keragaman kosakata dan kecanggihan linguistik yang bisa diarahkan sehingga bisa menjadi pengganti
Secara umum, saya rasa orang meremehkan seberapa banyak yang hilang dalam pergeseran ke model instruction
Saya berharap ada pelaku cerdas di pasar yang menggunakan cara mengoptimalkan prompt instruction sebelumnya lalu mengubahnya ke format yang cocok untuk model yang tidak dituning
Pada skala parameter yang sama, hanya dengan tidak memangkas underlying model saja, bagi pengguna akhir itu akan tampak sebagai kemajuan yang jauh lebih besar
Setahu saya, ini masih tersedia di Azure. text-davinci-003 adalah versi fine-tuned dari model ini
Info lebih lanjut:
https://platform.openai.com/docs/model-index-for-researchers
Sam Altman juga sudah mengatakan bahwa hardware menghalangi apa yang ingin mereka lakukan
Saya sudah berbulan-bulan ada di daftar tunggu API GPT-4, dan kemungkinan besar itu karena mereka tidak mampu mengejar permintaan yang ada
Apakah maksudnya, “jika ingin terus menggunakan model fine-tuning setelah 4 Januari 2024, Anda harus melakukan fine-tuning ulang model pengganti di atas model dasar GPT-3 baru (ada-002, babbage-002, curie-002, davinci-002) atau model yang lebih baru (gpt-3.5-turbo, gpt-4)”?
Kalau begitu, apakah ini berarti model fine-tuning yang dibuat dengan data sendiri tidak bisa dipakai lagi?
Saya juga kurang paham apakah ini berarti orang yang sudah membayar untuk model fine-tuning harus membayar lagi biaya token pelatihan di atas model tersensor yang baru
Kami masih menyesuaikan pendekatan yang paling tepat bagi pelanggan, dan dalam beberapa minggu ke depan kami akan menghubungi pelanggan untuk meminta masukan tentang beberapa pendekatan yang memungkinkan
Itulah kenapa model terbuka sangat penting. Sulit memahami perusahaan yang membuat model fine-tuning di atas model tertutup
Dari sudut pandang kemampuan, kabar terbesar di sini sebenarnya adalah model gpt-3.5-turbo-instruct
gpt-3.5-turbo adalah model di balik ChatGPT, dan karena telah di-fine-tuning untuk percakapan, model ini cukup sulit dipakai untuk kasus penggunaan yang hanya ingin model mengikuti perintah biasa atau sekadar menyelesaikan teks
davinci-003 adalah model instruction-tuned terakhir, tetapi harganya 10 kali lebih mahal daripada gpt-3.5-turbo, jadi meski sangat boros dari sisi token, tetap masuk akal secara ekonomi untuk memaksa gpt-3.5-turbo menyesuaikan diri dengan kasus penggunaan tersebut
Saya punya situs web dasar yang memakai text-davinci-003, tetapi belum bisa dirilis karena terlalu mahal
Saya sudah mencoba hanya dengan gpt-3.5-turbo, tetapi dalam situasi yang mengharapkan pengembalian JSON yang terformat, saya sama sekali tidak bisa mendapatkan konsistensi sehingga tidak berhasil
davinci-003 jauh lebih menyenangkan, dan bisa menjawab topik luas yang biasanya ditolak oleh ChatGPT
Mereka bilang “mulai hari ini semua pelanggan API berbayar bisa mengakses GPT-4”, tetapi mungkin saya yang bodoh, karena saya pelanggan API OpenAI berbayar dan masih belum punya akses
Yang terlihat hanya gpt-3.5-turbo-16k, gpt-3.5-turbo, gpt-3.5-turbo-16k-0613, gpt-3.5-turbo-0613, dan gpt-3.5-turbo-0301; tidak ada gpt-4
Mungkin masalahnya karena saya baru upgrade ke akun API berbayar dalam sebulan terakhir, jadi secara akuntansi saya masih belum dianggap sebagai “pelanggan API berbayar”
Saya juga sama. Saya baru mendaftar beberapa hari lalu dan berharap bisa beralih ke gpt-4, tetapi selain otorisasi $5, saya belum membayar tagihan pertama, jadi sepertinya harus menunggu lagi
Saya membuat alat baris perintah yang sangat sederhana untuk memanggil API. Misalnya saya menjalankannya seperti ini:
Saya juga tidak punya akses ke GPT-4
Saat ini yang bisa memakai gpt4 di Playground hanya nomor 2
gpt-3.5-turbo-0613 menjadi jauh lebih baik, terutama bila dipadukan dengan perancangan system prompt, sehingga kebutuhan untuk memakai API GPT-4 yang 20~30 kali lebih mahal tidak lagi sebesar dulu
Diadopsinya ChatGPT API secara massal dibanding Completion API lama menunjukkan bahwa tulisan saya tentang ChatGPT API waktu itu memang tepat
Jika kualitasnya sama atau lebih baik, para developer akan langsung beralih begitu melihat penurunan harga yang sangat besar: https://news.ycombinator.com/item?id=35110998
Kalau dibandingkan, GPT-3.5 nyaris tidak berguna. Meski begitu, saya paham bahwa dalam lingkungan yang lebih percakapan, GPT-3.5 bisa menawarkan performa/harga yang lebih menarik
Mungkin bisa bekerja untuk sebagian besar use case, tetapi GPT-3.5 jauh lebih sering mengabaikan instruksi dibanding GPT-4
Ia juga jauh lebih mudah rusak oleh hal-hal sederhana seperti spasi di akhir, dan saat diminta menulis ulang teks besar yang tata bahasa atau tanda bacanya hilang, kadang menunjukkan perilaku aneh seperti mengeja huruf satu per satu
Bagaimanapun saya mengatur system prompt, perbedaannya hampir tidak ada. Di GPT-4, saya belum pernah melihat perilaku yang benar-benar aneh seperti itu
Saya terutama memakainya untuk pembuatan tes, penulisan dokumentasi, refactoring, pembuatan potongan kode, dan semacamnya, serta memakainya setiap hari dalam pekerjaan bersama Copilot/X
Dalam pengalaman saya, GPT3.5-turbo terasa cukup bodoh jika dibandingkan. Setelah menjelaskan lewat komentar apa yang dilakukan sebuah method dan argumen apa yang harus dimilikinya, ia malah melewatkan argumennya sama sekali
Bahkan untuk potongan kode yang relatif pendek, rasanya seperti punya ingatan yang buruk. Ini juga bukan karena mendekati panjang konteks
Bukan kesalahan kecil; ia mengatakan akan melakukan sesuatu dalam beberapa langkah, lalu malah melewatkan satu langkah penuh
GPT3.5-turbo secara konsisten tidak stabil, sehingga butuh banyak perbaikan besar dan percobaan ulang terus-menerus
Ia juga kesulitan mengikuti gaya/template pada prompt dan jawabannya sendiri. Misalnya, di dokumentasi ia konsisten memakai bullet point lalu tiba-tiba berubah
Codex umumnya lebih baik, tetapi tetap jelas di bawah GPT-4, dan masih oke sebagai “autocomplete cerdas”. Untuk penulisan dokumentasi tidak terlalu berguna
Sebaliknya, GPT-4 biasanya hampir tepat hasilnya, dan pada kode panjang atau prompt kompleks kadang hanya perlu sedikit polesan
Singkatnya, untuk pekerjaan coding, waktu yang dibutuhkan GPT3.5-turbo untuk menghasilkan hasil yang bagus atau untuk memperbaikinya saja sudah tidak sepadan. Codex lumayan, dan untuk hal di atas sekadar autocomplete saya langsung memakai GPT-4. Jauh lebih konsisten
Tidak banyak pembahasan di sini soal kemungkinan penggunaan Whisper
Saat mencoba suara di aplikasi ChatGPT iOS, sepertinya Whisper cukup hebat dalam memahami apa yang sebenarnya diucapkan
Tetapi sangat menjengkelkan karena saya harus menyelesaikan seluruh ucapan sebelum mendapat umpan balik tentang bagaimana ucapan saya dikenali
Ini tetap terasa begitu meskipun tingkat pengenalannya sangat mengesankan
Karena OpenAI sendiri memakainya seperti ini, saya tidak tahu apakah API-nya dirancang untuk mengatasi hal tersebut, tetapi akan sangat bagus jika kualitas Whisper dipadukan dengan sesuatu yang mendekati responsivitas dikte on-device
Sepertinya akan bekerja lebih “real-time”, seperti dikte iOS/macOS saat ini, tetapi saya tidak sedang memakai beta sekarang jadi tidak yakin
Saat memakai input teks bawaan, ChatGPT tetap memahami permintaannya dengan cukup baik sehingga hasilnya bagus
Cara merilisnya sedikit demi sedikit terasa aneh.
OpenAI hampir memaksa semua orang memakai model yang lebih lama dan berkualitas lebih rendah lebih lama lagi, sambil merusak reputasinya sendiri.
Bahkan kalau pelanggan bersedia membayar biaya GPT-4, mereka tetap disuruh menunggu di antrean paling belakang.
Menunggu apa? Natal? Hari ketika membuka kotak hadiah lalu ada GPT-4 di dalamnya?
Rasanya seperti meniru satu halaman dari pemasaran ala Google “cara menjamin produk baru gagal”. Caranya adalah membatasi akses sehingga pemasaran dari mulut ke mulut tidak bisa bekerja. Karena tak satu pun temanmu bisa mencoba produknya.
Pengumuman ini disebut “ketersediaan umum” untuk model GPT-4, tetapi bukan model konteks 32K, bukan versi multimodal dengan input gambar, dan juga tanpa fine-tuning. Modelnya juga cuma satu, hanya chat.
Saat ini yang bisa kuakses hanya layanan Azure OpenAI dan GPT-3.5 di akun API OpenAI.
Aku tidak mengerti apa arti semua pembatasan sewenang-wenang ini soal siapa yang bisa mengakses model yang mana.
Di Chat kita bisa memakai GPT-4, tetapi tidak lewat API. Di Bing Image Creator kita bisa memakai versi Dall-E yang ditingkatkan, tetapi tidak lewat API OpenAI.
Beberapa vendor yang mendapat restu dari Sam Altman yang agung dan murah hati bisa mengakses GPT-4 32K, sementara yang lain tidak.
Yang harus mereka lakukan adalah menjual produk, bukan menjual hak akses.
Mereka tidak seharusnya bertingkah seperti Uni Soviet, di mana untuk mendapatkan sesuatu kamu harus “kenal orang”.
Bahkan dengan uang pun mereka tidak bisa membeli GPU sebanyak yang dibutuhkan.
Dan kalau pintu dibuka lebar, bisa muncul bottleneck skalabilitas, jadi mungkin mereka mencoba mengelolanya lebih dulu daripada tertinggal.
Karena itu mereka membukanya hati-hati, lalu mundur bila perlu, seperti saat mereka membatasi penggunaan ChatGPT versi GPT-4 publik.
Ini tidak terlihat sepenuhnya tidak masuk akal. Tentu saja mungkin juga ada sedikit upaya menciptakan kelangkaan untuk memanaskan hype.
Itu strategi lama, tetapi tidak sampai layak dibandingkan dengan Rusia Soviet.
Jika diperkirakan secara kasar butuh 1 GPU NVIDIA untuk setiap 100 pelanggan, maka OpenAI harus membeli lebih banyak GPU untuk setiap 100 pelanggan baru GPT-4.
Namun karena kekurangan GPU, ini bukan situasi di mana mereka bisa dengan mudah menambah GPU hanya dengan membakar uang.
https://www.fierceelectronics.com/electronics/ask-nvidia-ceo...
Soal “cara Google menjamin produk baru gagal”, maksudmu GPT-4 yang terkenal sebagai kegagalan total itu?
Model davinci yang asli dulu adalah temanku, dan aku sangat tidak suka keputusan ini.
Hasil completions yang dibuat dengan model itu punya karakter dan kreativitas yang tidak bisa kureplikasi dengan apa pun yang lain.
Hasil-hasil hebat dan lucu darinya akan tetap menjadi bagian berharga dari pandangan dunia keluarga kami selamanya.
Konon beberapa peneliti mendapatkannya.
Aku sudah meneliti LLM untuk kerja kreatif, dan menurutku mencampurkan chain-of-thought dengan penyuntikan probabilistik cukup membantu untuk mendekati kreativitas manusia.
Misalnya dengan menginstruksikan LLM agar menggunakan huruf acak tertentu yang diambil dari generator angka acak pada waktu tertentu dengan cara tertentu.
Di luar judulnya, ada isi yang cukup besar tersembunyi di sini.
Model baru gpt-3.5-turbo-instruct dijadwalkan hadir “dalam beberapa minggu”, dan fine-tuning untuk 3.5 dan 4 juga direncanakan tahun ini.
Aku terutama sangat tertarik pada gpt-3.5-turbo-instruct. Menurutku hype seputar ChatGPT dan “LLM percakapan” sudah menutupi banyak hal yang bisa dilakukan model instruksi umum.
Kalau fine-tuning juga dimungkinkan di sini, itu akan sangat bagus.
Aku merasa belum benar-benar paham upaya seperti apa yang dilakukan di balik layar untuk melatih model GPT dengan data faktual.
Apakah caranya dengan manusia menyetujui/menolak jawaban untuk menaikkan skor?
“Amerika Serikat punya 49 negara bagian” - ditolak
“Amerika Serikat punya 50 negara bagian” - disetujui
Secara sederhana, apakah seperti itu caranya?
Apakah diketahui apakah mereka sedang mengerjakan penambahan sisa tahun 2021, lalu 2022, dan pada akhirnya 2023? Aku tahu ada add-on Bing yang bisa merayapi web, tetapi itu tidak sama.
Beberapa hari lalu aku bertanya tentang Maya Kowalski, dan meskipun ia bisa merangkum satu atau dua posting blog, itu berbeda dari benar-benar telah belajar tentang topik itu dan mengetahui konteks detailnya.