LG AI Research merilis model open source EXAONE 3.0 7.8B

• EXAONE 3.0 diperkenalkan pada Agustus 2024, dan setelah sebelumnya hanya digunakan secara internal di LG, kini dialihkan menjadi model terbuka
• Dari lini model yang disusun untuk berbagai tujuan, model 7.8B Instruction Tuned dibuka sebagai open source untuk keperluan riset
• Diharapkan dapat berkontribusi pada riset bermakna para peneliti AI di dalam dan luar negeri serta perkembangan ekosistem AI
• Berbasis Decoder-only Transformer Architecture, dengan jumlah parameter 7.8B dan volume data pelatihan 8T

Mencapai tingkat Global Top dalam bahasa Inggris: peringkat 1 rata-rata skor untuk Real-world Use Cases, serta performa unggul juga pada benchmark tunggal

• Performa bahasa Inggris model 7.8B berada di tingkat Global Top dibanding model lain
• Hasil evaluasi pada 4 benchmark mengonfirmasi performa yang lebih unggul dibanding model Global Top
• Peringkat 1 untuk rata-rata skor di Math dan Coding, serta performa tinggi juga pada Reasoning

Performa bahasa Korea yang jauh unggul: peringkat 1 rata-rata skor baik pada real-world use cases maupun benchmark tunggal

• Sebagai model bilingual Inggris/Korea, model ini juga menunjukkan performa luar biasa dalam bahasa Korea
• Dua benchmark digunakan untuk memverifikasi performa dari sisi real-world use cases
• Benchmark tunggal disusun agar selaras dengan benchmark evaluasi berbahasa Inggris seperti KMMLU
• Dikonfirmasi meraih peringkat 1 untuk rata-rata skor baik pada real-world use cases maupun benchmark tunggal

Efisiensi biaya tercapai: biaya dipangkas hingga ke level 6% lewat 3 tahun penelitian dan pengembangan

• Untuk pemanfaatan AI, selain peningkatan performa, penguatan efisiensi biaya juga sangat penting
• Selama 3 tahun, fokus diberikan pada riset dan pengembangan teknologi lightweight AI model serta efisiensi biaya
• Dibanding EXAONE 2.0, model 7.8B menurunkan waktu pemrosesan inferensi sebesar 56% dan biaya sebesar 72%
• Dibanding EXAONE 1.0, biaya berhasil ditekan secara signifikan hingga level 6%

Transparansi etis: area yang masih perlu perbaikan juga diungkap selain hasil unggul

• LG AI Research selalu mempertimbangkan etika AI dalam proses riset dan pengembangan model AI
• Model EXAONE 3.0 7.8B juga dievaluasi dari sisi etika dan keamanan melalui proses Red Teaming
• Evaluasi dilakukan menggunakan dataset internal dan eksternal pihak ketiga
• Unggul dalam mencegah diskriminasi gender dan jawaban ilegal, tetapi masih ada area yang perlu dilengkapi
• Hasil evaluasi dipublikasikan secara transparan demi perkembangan etika AI
• Diharapkan para peneliti akan aktif meneliti etika AI, dan LG AI Research juga berencana melanjutkan risetnya

[xguru]

Semoga semakin banyak berita domestik yang bisa dibagikan di sini ;)