Command R+ dari Cohere - LLM yang dapat diskalakan dan dibangun untuk bisnis

• Model bahasa besar (LLM) yang dapat diskalakan dan dioptimalkan untuk pekerjaan berskala besar serta kasus penggunaan nyata di perusahaan
• Command R+ termasuk dalam seri LLM R-series yang menjaga keseimbangan antara efisiensi tinggi dan akurasi yang kuat
• Mendukung perusahaan untuk membawa AI ke lingkungan produksi, melampaui tahap proof of concept

Fitur utama Command R+

• Mengusung context window 128k token dan menawarkan kapabilitas kelas atas berikut:
  • Retrieval-Augmented Generation (RAG) tingkat lanjut dengan sitasi untuk mengurangi halusinasi
  • Dukungan multibahasa untuk 10 bahasa utama guna mendukung operasi bisnis global
  • Penggunaan tool untuk mengotomatisasi proses bisnis yang kompleks
• Lebih meningkatkan performa keseluruhan berdasarkan keunggulan utama dari Command R
• Menunjukkan performa yang lebih baik dibanding model serupa di kategori pasar yang dapat diskalakan, serta kompetitif dengan model yang jauh lebih mahal pada kemampuan inti bisnis utama
• Menawarkan komitmen pada tingkat yang sama terhadap privasi dan keamanan data

Kolaborasi dengan Microsoft Azure

• Mengumumkan kolaborasi baru dengan Microsoft Azure untuk komunitas perusahaan di seluruh dunia
• Berkomitmen membawa model terbaru Cohere ke Azure AI untuk mempercepat adopsi AI di perusahaan
• Menyediakan rangkaian alat AI yang komprehensif agar perusahaan dapat mencapai lebih banyak hal sambil mematuhi standar keamanan dan kepatuhan tertinggi
• Mendorong masa depan di mana teknologi memperkuat kemampuan dan inovasi manusia

Ketersediaan model

• Developer dan perusahaan kini dapat mengakses model terbaru Cohere di Azure mulai hari ini
• Segera tersedia juga di Oracle Cloud Infrastructure(OCI) dan platform cloud tambahan lainnya
• Juga langsung tersedia melalui hosted API milik Cohere

Solusi RAG kelas terbaik di industri

• RAG menjadi fondasi bagi perusahaan untuk mengadopsi LLM dan menyesuaikannya dengan data proprietary mereka sendiri
• Command R+ dioptimalkan untuk RAG tingkat lanjut agar menghadirkan solusi yang siap untuk perusahaan, sangat andal, dan dapat diverifikasi
• Model baru ini menyediakan sitasi inline yang meningkatkan akurasi respons dan mengurangi halusinasi
• Fitur ini membantu perusahaan berkembang dengan AI untuk cepat menemukan informasi paling relevan yang mendukung fungsi bisnis di berbagai sektor

Otomatisasi workflow bisnis kompleks melalui penggunaan tool

• Janji utama model bahasa besar bukan hanya mengumpulkan dan menghasilkan teks, tetapi juga kemampuan untuk berfungsi sebagai mesin penalaran inti
• Model ini dapat mengotomatisasi tugas-tugas sulit yang memerlukan kecerdasan untuk mengambil keputusan dan menyelesaikannya dengan menggunakan tool
• Command R+ hadir dengan kemampuan penggunaan tool yang dapat diakses melalui API dan LangChain, sehingga mampu mengotomatisasi workflow bisnis kompleks dengan mulus
• Pada Command R+ baru, kini didukung Multi-Step Tool Use sehingga model dapat menggabungkan beberapa tool di beberapa tahap untuk menyelesaikan tugas yang sulit

Dukungan multibahasa untuk operasi bisnis global

• Command R+ dirancang untuk melayani sebanyak mungkin orang, organisasi, dan pasar
• Dalam diskusi dengan perusahaan, terlihat adanya permintaan yang sangat besar terhadap kapabilitas multibahasa yang membantu organisasi bekerja lebih lancar lintas wilayah dan budaya
• Command R+ dibangun untuk memberikan performa unggul dalam 10 bahasa utama bisnis global (Inggris, Prancis, Spanyol, Italia, Jerman, Portugis, Jepang, Korea, Arab, Tionghoa)
• Dengan kemampuan multibahasa ini, pengguna dapat menghasilkan respons yang akurat dari sumber data yang sangat luas tanpa bergantung pada bahasa ibu mereka

Harga dan ketersediaan

• Cohere memastikan modelnya tersedia secara universal dengan bekerja sama dengan semua penyedia cloud utama serta mendukung on-premise untuk industri yang diatur ketat dan kasus penggunaan yang sensitif terhadap privasi
• Model Command R+ terbaru kini tersedia di lingkungan demo Cohere, memberikan pengalaman langsung untuk menguji model melalui antarmuka chat yang sederhana

Komitmen terhadap privasi dan keamanan data

• Melalui keluarga produk model Command R, Cohere berupaya melindungi data pelanggan, privasi, dan keselamatan agar pelanggan dapat menggunakan AI dengan tenang
• Cohere selalu membangun produk dengan privasi data sebagai inti, dan memberikan perlindungan tambahan kepada pelanggan melalui jaminan hak cipta terhadap klaim pelanggaran
• Tidak mengakses data pelanggan kecuali jika pelanggan menginginkannya
• Menyediakan opsi deployment LLM privat dan opt-out berbagi data

Opini GN⁺

• Command R+ adalah model terbaru yang dioptimalkan untuk RAG dan dirancang untuk perusahaan, dengan fokus utama pada akurasi dan efisiensi tinggi agar perusahaan dapat melangkah dari tahap proof of concept ke tahap produksi. Yang paling menonjol adalah kapabilitas RAG yang memanfaatkan data proprietary perusahaan serta dukungan 10 bahasa yang dioptimalkan untuk pekerjaan nyata di lingkungan perusahaan.
• Model ini tampak berpotensi kompetitif di pasar model bahasa besar untuk perusahaan, tetapi peningkatan performa model pesaing seperti seri GPT dari OpenAI atau Claude dari Anthropic berlangsung cepat sehingga persaingan dengan mereka diperkirakan akan ketat. Yang akan menjadi kunci adalah pengembangan diferensiasi khas Cohere dan verifikasi performa di domain spesialis.
• Saat mengadopsi model bahasa besar di perusahaan, selain akurasi dan efisiensi, perlu mempertimbangkan secara menyeluruh berbagai faktor seperti privasi data, keamanan, dan bias model. Khususnya, mungkin ada isu regulasi terkait penanganan data sehingga perlu persiapan terhadap hal tersebut. Penekanan Cohere pada upaya perlindungan privasi data adalah hal yang positif, tetapi perusahaan pelanggan juga perlu memberi perhatian besar pada pemanfaatan data mereka sendiri dan pembangunan sistem keamanan model.

[GN⁺]

Komentar Hacker News

• Dukungan untuk model ini ditambahkan ke alat CLI LLM melalui plugin baru.

  • Alat CLI LLM yang dikembangkan oleh Simon Willison adalah utilitas baris perintah untuk mengakses model bahasa besar.
  • Alat ini mendukung API jarak jauh dan model yang dapat dijalankan secara lokal, serta dapat menjalankan prompt dari baris perintah dan membangun mesin pencari gambar.
  • Salah satu fitur menarik dari model API Cohere adalah kemampuannya menjalankan pencarian web dan menggunakan hasilnya untuk menjawab prompt.
  • Plugin tersebut ditambahkan sebagai perintah terpisah, sehingga pengguna dapat mengajukan pertanyaan kepada alat CLI LLM.

• Perbedaan antara model Command R dan Command R+ adalah harganya.

  • Model Command R berbiaya $0.50 per token input dan $1.50 per token output, sedangkan model Command R+ berbiaya $3.00 per token input dan $15.00 per token output.

• Model Command-R dibangun untuk bisnis, tetapi menggunakan lisensi CC-BY-NC.

  • Lisensi ini lebih fleksibel daripada lisensi DBRX, karena DBRX melarang penggunaannya untuk meningkatkan model bahasa besar lainnya.

• Ada yang menunjukkan bahwa pilihan font header di situs web kurang baik, sehingga teks terlihat seperti memiliki noda putih.

• Ada komentar yang bertanya-tanya apakah alat ini bisa digunakan untuk memasukkan dokumen seperti perjanjian pengguna App Store lalu mengajukan pertanyaan tentang dokumen tersebut.

• Disebutkan perlunya istilah yang bisa membedakan antara penggunaan LLM di dalam perusahaan untuk memperoleh jawaban dan penggunaan LLM yang berhadapan langsung dengan pelanggan.