Proyek AI Agent Yuanta Securities: Kisah Pengembangan Layanan LLM di Dunia Nyata (Penuh Perjuangan)

1. Pendahuluan: Topik utama industri AI pada 2025 adalah Agent, dan ditekankan bahwa diperlukan sistem yang lebih canggih dengan keluar dari pendekatan chatbot berbasis RAG yang ada.

2. Pengenalan proyek (layanan chatbot AI Yuanta): Dengan mengatasi hambatan masuk yang tinggi seperti persyaratan keamanan keuangan, dikembangkan chatbot yang mencakup fungsi analisis investasi berbasis AI, dan layanan ini terpilih sebagai layanan keuangan inovatif.

3. Perumusan kebutuhan dan pemanfaatan klasifikasi intent: Dengan menganalisis data pertanyaan nyata dari pengguna, kebutuhan layanan disesuaikan, dan dibangun sistem pemantauan berbasis Function Calling untuk perbaikan LLM yang berkelanjutan.

4. Teknik Function Calling: Untuk melengkapi keterbatasan RAG, Function Calling digunakan sebagai cara memproses data real-time, namun tantangan dalam integrasi banyak fungsi dan pemanggilan yang akurat harus diatasi.

5. Rekayasa prompt dan perspektif operasional: Ditekankan bahwa optimalisasi performa LLM melalui desain prompt dan manajemen versi, serta strategi operasional untuk penghematan biaya dan penguatan keamanan, merupakan hal yang esensial.

[moderator]

Telah dipindahkan karena tidak sesuai dengan Show GN.
Silakan unggah dengan merujuk ke cara menggunakan Show.