Assistant API (v2) - Fitur baru dan peningkatan pada OpenAI API

• API Assistant di OpenAI API telah mengalami pembaruan dan peningkatan yang signifikan dengan memperkenalkan fitur-fitur baru. Salah satu peningkatan utama adalah hadirnya file_search, alat pencarian yang ditingkatkan dan dapat menyerap hingga 10.000 file per assistant, meningkat 500 kali lipat dari batas sebelumnya. Alat ini menawarkan pemrosesan yang lebih cepat, mendukung kueri paralel, serta menyediakan kemampuan reranking dan penulisan ulang kueri yang lebih baik.

• Selain itu, objek vector_store juga diperkenalkan sehingga pengguna dapat menambahkan file ke vector store, yang kemudian secara otomatis diurai, dipecah menjadi chunk, dan di-embed agar siap untuk pencarian. Vector store ini dapat dibagikan di antara assistant dan thread, sehingga dapat menyederhanakan pengelolaan file dan penagihan.

• Pembaruan penting lainnya mencakup pengendalian jumlah maksimum token yang digunakan dalam run, pengaturan batas jumlah pesan sebelumnya atau terbaru yang digunakan, dan yang akan digunakan dalam run tertentu