Catatan Mistral AI Now Summit
(koenvangilst.nl)- Mistral bergerak melampaui sekadar perusahaan model menjadi perusahaan stack AI penuh yang menggabungkan komputasi, model, platform, dan konsultasi
- Dengan menonjolkan pusat data 40MW di Paris serta rencana pusat data tambahan, Mistral membedakan diri lewat model terbuka yang dapat dikustomisasi, dimiliki pelanggan, dan dijalankan secara on-premise
- Alih-alih pengumuman model baru, fokus utamanya adalah kemitraan, dengan kolaborasi bersama ASML, BNP Paribas, Amazon Alexa+, serta pengungkapan Vibe for Work sebagai sorotan utama
- Dalam sistem agen, harness menambahkan konteks, persistensi, dan pembelajaran, sementara penalaran diposisikan sebagai inti untuk pemulihan dari kesalahan dan menjaga transparansi
- Model yang kecil dan terspesialisasi serta deployment on-premise adalah strategi yang ditujukan untuk industri yang teregulasi dan perusahaan-perusahaan Eropa, dengan fokus pada ROI nyata alih-alih persaingan AGI
Positioning Mistral
- Mistral bergerak untuk membangun stack AI penuh yang mencakup komputasi, model, platform, dan konsultasi, bukan berhenti sebagai perusahaan model saja
- Mistral memiliki pusat data 40MW di Paris dan juga merencanakan pusat data tambahan, termasuk di Swedia
- Perbedaan utamanya dibanding Anthropic atau OpenAI adalah model yang efisien, terbuka, dan dapat dikustomisasi bisa dimiliki pelanggan serta dijalankan secara on-premise
- Pesan utama acara ini lebih menekankan kemitraan daripada model baru atau inovasi teknis
- Kolaborasi dengan ASML, BNP Paribas, dan Amazon Alexa+ dibahas sebagai contoh penyelesaian masalah nyata dengan AI
- Vibe for Work diperkenalkan sebagai produk yang mirip dengan Claude for Work
Strategi produk dan contoh penerapan
-
Sistem agen dan harness
- Model saja tidak cukup, dan harness berperan menambahkan konteks, persistensi, serta pembelajaran
- Penalaran (reasoning) diperlakukan sebagai elemen kunci yang memungkinkan sistem untuk kembali ke langkah sebelumnya, pulih dari kesalahan, dan tetap transparan
- Praktik terbaik organisasi ditangkap sebagai skills, lalu berkembang seiring proses bekerja bersama agen AI
-
Model kecil dan terspesialisasi
- Mistral menampilkan contoh bahwa model yang kecil, cepat, dan sangat terfokus dapat melampaui model umum berukuran besar dalam efisiensi energi dan kecepatan
- Document AI adalah model untuk OCR, dan digunakan oleh EU Patent Office untuk OCR skala besar
- Voxtral adalah model suara multibahasa, dan digunakan untuk menjalankan Amazon Alexa+ di Eropa
- Robostral digunakan untuk robotika industri bersama ASML
- Dalam aplikasi bergaya agen dengan penggunaan token tinggi, kecepatan dan efisiensi menjadi sama pentingnya dengan performa mentah
-
Kedaulatan dan deployment on-premise
- BNP Paribas menjalankan model Mistral secara on-premise di Belgia untuk keperluan KYC, sehingga data sensitif tetap berada di dalam bank
- Abanca menggunakan orkestrasi agen untuk memproses informasi sensitif dalam skala besar bagi lebih dari 1 juta pelanggan di dalam aplikasinya
- Bagi perusahaan-perusahaan Eropa di industri yang teregulasi, ini bisa menjadi alternatif untuk mengurangi ketergantungan pada hyperscaler AS
-
Penerapan di bidang humaniora
- Tim peneliti Austrian Academy of Sciences melakukan fine-tuning pada Codestral, LLM coding dari Mistral, agar dapat membaca fragmen papirus berusia ribuan tahun
- Pekerjaan ini membantu membuka akses ke koleksi 180.000 dokumen yang ditemukan di gurun Mesir
- Ini diperkenalkan sebagai pekerjaan yang tanpa AI akan memakan waktu lebih dari 2.000 tahun
- Proyek Apollo dari Austrian Academy of Sciences menjadi contoh bahwa AI juga dapat berkontribusi pada bidang humaniora
-
Strategi mitra AI Eropa
- Visi Mistral tampaknya lebih dekat pada menjadi mitra AI full-stack Eropa yang memberikan ROI nyata saat ini, daripada memenangkan perlombaan AGI
- Keberhasilan strategi ini akan bergantung pada apakah lebih banyak perusahaan Eropa mengadopsi pendekatan Mistral
- Kombinasi model terbuka, deployment on-premise, dan kemitraan enterprise bisa menarik bagi banyak organisasi besar di Uni Eropa
- Masa ketergantungan buta pada raksasa teknologi AS mulai berakhir, dan yang penting adalah kini telah muncul pemain AI Eropa yang serius
Ingin terus mengikuti topik teknologi pilihan?
Ikuti channel Telegram. @GeekNewsID
1 komentar
Komentar Hacker News
Saya benar-benar mendukung Mistral dan model kecil yang terspesialisasi untuk tugas tertentu, tetapi Mistral sudah terlalu tertinggal sejak kuartal 3 2025
Untuk bisa bersaing sekarang, mereka harus mampu menjalankan model penalaran yang bagus bahkan pada panjang konteks menengah, tetapi Mistral tampaknya tidak bisa melakukan itu
Saat ini, di kategori model kecil, Gemma4 dan Qwen3.6 adalah yang terbaik, dan model “small” milik Mistral berukuran 120B, dengan parameter sekitar 4 kali lebih banyak, tetapi tetap tidak mampu bersaing dengan baik bahkan melawan model yang ukurannya seperempatnya
Setahun lalu saat Mistral Small 3.1, mereka masih bisa mengikuti, tetapi sekarang nyaris tidak lagi terasa keberadaannya
Jika Mistral serius membidik pasar on-premise dan model kecil yang terspesialisasi untuk tugas tertentu, membuat model yang cukup menarik hingga orang-orang di r/localLlama antusias bisa menjadi indikator pengganti yang cukup baik
Fakta bahwa mereka hampir tidak membicarakan model baru di konferensi juga mengkhawatirkan. Secara pribadi, saya rasa itulah hal yang paling perlu mereka fokuskan
Saya penasaran apa yang menahan mereka. Uang, sumber daya komputasi, kapabilitas, atau data pelatihan, saya tidak tahu
Untuk membuat model yang benar-benar bagus, Anda harus melatihnya dengan data yang cukup meragukan seperti output model frontier, dan saya khawatir Mistral terlalu "Eropa" dan terlalu berorientasi pada pelanggan perusahaan untuk berani mengambil risiko seperti itu
Pada akhirnya mungkin akan berakhir menjadi perusahaan zombie seperti Dailymotion
Misalnya, saya membayangkan model seperti subset Opus yang khusus untuk perangkat lunak, yang dipakai sebagai default di Claude Code
Bisa lebih kecil, lebih murah untuk dideploy dan digunakan, dan mungkin juga lebih cepat
Mistral harus siap pada saat itu, tetapi melihat hasil belakangan ini, secara realistis saya tidak terlalu berharap
Mistral 4 memiliki 6B parameter aktif per token, jadi bahkan jika 4090 bisa memuat 3~3,5 parameter per token, unduhan dan kebutuhan penyimpanan sekitar 240GB sudah mendekati batas untuk sekadar diuji secara lokal
Jika situasinya adalah mengunduh dan mengevaluasi beberapa model, itu makin terasa, dan juga jadi lebih sulit bagi orang lain untuk membuat fine-tuning lanjutan seperti pada model Mistral/Magistral sebelumnya
Saya mendengar presentasi dari seorang pejabat IT pemerintah yang hebat; dia sedang mengevaluasi model dan sangat tidak puas dengan keadaan saat ini
Dia ingin menggunakan Mistral, dan dalam beberapa kasus itu bahkan satu-satunya model berbasis UE yang bisa digunakan, tetapi dia juga tahu performanya benar-benar buruk dan makin tertinggal
Mistral mungkin masih bisa membangun bisnis yang menguntungkan hanya karena menjadi satu-satunya model yang memungkinkan untuk kebutuhan UE meskipun kualitasnya buruk. Menyedihkan, dan tidak enak untuk disaksikan
Saya benar-benar berharap Eropa ikut ambil bagian dalam pengembangan dan riset AI, dan saya juga sangat mendukung Mistral
Tetapi kesenjangan teknologinya sudah menumpuk terlalu jauh. Jika ini tidak bisa diperbaiki, itu akan menjadi satu lagi bukti bahwa Eropa tidak mampu menjalankan perusahaan teknologi besar dengan hasil yang baik
Pada praktiknya, hampir semua lab riset Tiongkok bekerja jauh lebih baik. Bahkan tanpa menyebut DeepSeek, yang membuat hal-hal seperti MiMo 2.5 dan Minimax 2.7 bukanlah Mistral
Model-model Mistral lebih lemah, atau lebih besar dan lebih lambat, atau hanya model tanpa mixture-of-experts (MoE), jadi hasilnya kurang baik
Eropa menembak kakinya sendiri dengan undang-undang ini, yang disusun tergesa-gesa saat histeria publik sedang mencapai puncaknya, dan sekarang tidak ada perusahaan waras yang akan mau membangun sesuatu di sana
Startup AI di AS atau Tiongkok bisa dimulai hanya dengan seorang bocah dan satu komputer, tetapi di Eropa bocah itu membutuhkan dua belas pengacara
Mistral yang kehilangan keberadaannya meski punya start awal, model awal yang sangat menjanjikan, dan investasi yang diterima, bisa jadi merupakan akibat dari upaya mematuhi semua regulasi itu
Saya sangat terkesan dengan laporan teknisnya. Tentu saja, saya paham bahwa ide MoE sendiri sudah ada sebelumnya
Jika mereka terus mendorong keluarga model Mixtral, mungkin sekarang mereka akan punya reputasi seperti lini Qwen. Itu peluang yang terlewatkan
Dibandingkan itu, menurut saya Eropa sebenarnya masih lumayan baik
BNP Paribas menjalankan model Mistral on-premise untuk KYC di Belgia, dan hal pentingnya adalah data sensitif tetap berada di dalam bank
Abanca juga menggunakan orkestrasi agen untuk menangani informasi pelanggan sensitif dalam skala besar, seperti 2 juta pelanggan aplikasinya
Bagi perusahaan Eropa di industri yang diatur, ini adalah alternatif yang lebih baik daripada bergantung pada hyperscaler AS, dan fokus Mistral pada model on-premise serta hosting di Eropa adalah arah yang sangat cerdas
Semua orang melakukan deployment engineering penuh atau customer-specific engineering, karena kalau tidak, mereka hanya akan terlihat seperti perusahaan yang menambahkan margin di atas biaya token
Kalau begitu, perusahaan Neo-SaaS yang akan mengambil uangnya. Selain itu, siapa lagi yang akan membeli AI dari Mistral, dan pilihan apa lagi yang ada
Sebaliknya, mereka tampaknya lebih fokus pada area lain seperti model multibahasa, OCR, dan suara
Hal itu juga terlihat dari halaman pengenalan model mereka, tetapi tampilannya terlalu ramai dan kategori serta nama modelnya terlalu banyak, jadi selalu membingungkan
Semoga keputusan mereka membawa hasil yang baik
Bagi startup Eropa, enterprise B2B selalu terasa seperti tempat untuk pergi mati
Saya menghadiri acaranya, dan skala pesertanya mengesankan; semua pemimpin perusahaan publik utama Eropa hadir
Menarik juga melihat banyaknya partner yang diundang. Mulai dari Microsoft, Accenture, dan EY sampai startup seperti alpic.ai dan lingo.dev
Tampaknya mereka juga memperkuat pergerakan di sisi M&A
Terlepas dari bisnisnya, desain situs webnya benar-benar luar biasa: https://mistral.ai/
Saya menerima email dari Mistral yang mengatakan bahwa beberapa, mungkin sebagian besar, model khusus seperti devstral akan dihentikan secara bertahap sampai Agustus, dan sekarang diminta memakai model umum
Biayanya meningkat secara eksponensial
Tertulis bahwa mereka merekomendasikan migrasi dari Devstral 2(devstral-2512 dan devstral-latest) ke model yang lebih kuat, Mistral Medium 3.5(mistral-medium-3-5, dengan reasoning_effort disetel ke "high"), dan harganya $1.5/$7.5 per 1 juta token input/output
Ini berubah dari sebelumnya $0.4/$2
Bagaimanapun, setelah menerima email itu, saya berharap ini menjadi sinyal bahwa mereka akan merilis model baru yang lebih baik dalam beberapa bulan ke depan
Tidak terlihat punya moat sama sekali. Rasanya seperti perusahaan konsultan software yang punya data center
Lagi pula, tulisan itu mengatakan banyak pelanggan menggunakan model ini secara on-premise, jadi data center itu sendiri juga bukan keunggulan
Apa yang bisa menghentikan startup mana pun yang didukung pemerintah untuk fine-tuning model open source kecil
Saya tidak bilang itu benar, hanya bahwa asumsi seperti itu mungkin saja dibuat
Sebagai orang Eropa, saya setuju 100 kali lipat
Di antara para pemain ini, saya sangat menyukai arah dan transparansi Mistral
Abanca dikatakan menggunakan orkestrasi agen untuk menangani informasi pelanggan sensitif dalam “skala sangat besar”, yaitu 2 juta pelanggan aplikasinya, dan saya tidak yakin apakah standar saya tentang skala sangat besar yang sudah melenceng
Kalau 2 juta pengguna, bukankah datanya cuma beberapa ratus MB? Bahkan kalau data per pengguna banyak, rasanya paling cuma beberapa GB
Dari yang saya pahami dari presentasinya, sepertinya mereka memakai agen dengan tanggung jawab terbatas dan mungkin model yang lebih kecil agar jawabannya cepat, stabil, dan biayanya tidak terlalu besar
Di sisi lain, bisnis seperti itu bisa punya daya tahan yang cukup baik, tetapi biasanya tidak berujung pada profitabilitas setinggi itu