OpenAI merilis API ChatGPT dan Whisper

• Kini fitur ChatGPT dan Speech-To-Text dapat dimanfaatkan di dalam aplikasi sendiri
• Sejak pengumuman ChatGPT pada bulan Desember, melalui optimasi OpenAI berhasil menurunkan biaya sebesar 90%, dan penghematan ini diberikan kepada pengguna API

API ChatGPT

• Menggunakan model gpt-3.5-turbo, sama seperti yang dipakai pada produk ChatGPT saat ini
  • $0.002 per 1k token, 10 kali lebih murah dibanding GPT-3.5 sebelumnya
  • Juga merupakan model terbaik untuk tujuan selain chat, sehingga text-davinci-003 yang ada dapat dengan mudah dialihkan ke gpt-3.5-turbo (disarankan untuk beralih)
• API menerima input teks tidak terstruktur yang terdiri dari token
  • Secara internal dirender sebagai urutan token yang disebut ChatML
• gpt-3.5-turbo akan terus ditingkatkan ke versi terbaru. Saat ini gpt-3.5-turbo-0301 akan didukung hingga 1 Juni
• Versi stabil baru dijadwalkan rilis pada bulan April
• Dedicated Instance juga disediakan secara terpisah (mendukung konteks yang lebih panjang dan cocok untuk pengguna yang menjalankan lebih dari 450 juta token per hari)

API Whisper

• Model Speech-To-Text yang dirilis sebagai open source pada September 2022
• Mendapat penilaian baik dari komunitas pengembang, tetapi sulit dioperasikan sendiri
• Model large-v2 tersedia melalui API dengan harga $0.006/menit
• Dapat digunakan pada endpoint transcriptions / translations
• Mendukung format m4a, mp3, mp4, mpeg, mpga, wav, webm

Perusahaan pengguna awal

• Snap : Menyediakan chatbot berbasis ChatGPT bernama My AI for Snapchat+. Digunakan untuk rekomendasi dan menulis puisi (haiku) untuk teman
• Quizlet : Menerapkan ChatGPT pada Q-Chat, tutor AI adaptif yang mengajukan pertanyaan sesuai riwayat belajar
• Instacart : Diadopsi pada fitur Ask yang memungkinkan pengguna bertanya dan menerima jawaban tentang makanan
• Shopify : Menambahkan fitur asisten belanja di aplikasi Shop
• Speak (Korea) : Aplikasi pembelajaran bahasa yang menggunakan API Whisper.

[frogred8]

Di sumber aslinya tertulis $0.002 per 1k token.

It is priced at $0.002 per 1k tokens

Lalu saya penasaran dengan definisi token, jadi saya cari sedikit lebih lanjut, dan tampaknya ditentukan berdasarkan jumlah karakter input/output.

The number of tokens processed in a given API request depends on the length of both your inputs and outputs. As a rough rule of thumb, 1 token is approximately 4 characters or 0.75 words for English text.

[xguru]

Waduh, ada typo di bagian penting T_T sudah saya perbaiki

[lukaid]

Setiap minggu berita AI baru terus bermunculan.. Rasanya jadi antusias, tapi juga menakutkan.. Namun karena berusaha agar tidak ketinggalan tren, sepertinya rasa lelahnya juga cukup besar.

[functor]

OpenAI benar-benar luar biasa.