Google mengklaim Gemma 3 adalah model AI paling kuat yang dapat berjalan di satu GPU

 (theverge.com)
2 poin oleh GN⁺ 2025-03-23 | 1 komentar | Bagikan ke WhatsApp
  • Google mengumumkan Gemma 3, versi penerus model AI Gemma yang berbasis teknologi Gemini AI
  • Gemma 3 dirancang agar pengembang dapat menjalankan aplikasi AI di berbagai platform
    • Dapat berjalan dari ponsel pintar hingga workstation
    • Mendukung lebih dari 35 bahasa
    • Dapat menganalisis teks, gambar, dan video pendek
  • Google mengklaim Gemma 3 sebagai "model akselerator tunggal terbaik di dunia"
    • Memberikan performa yang lebih baik pada satu GPU dibanding model dari Facebook Llama, DeepSeek, dan OpenAI
    • Menunjukkan performa yang dioptimalkan pada GPU Nvidia dan perangkat keras AI khusus
    • Vision encoder ditingkatkan
      • Mendukung gambar beresolusi tinggi dan gambar non-persegi
    • Menyertakan ShieldGemma 2 image safety classifier yang baru
      • Memfilter konten seksual eksplisit serta konten berbahaya atau penuh kekerasan
  • Gemma 3 menempati peringkat atas dalam peringkat skor ELO di Chatbot Arena
    • Mencatat performa tinggi pada satu GPU Nvidia H100
  • Kontroversi mengenai definisi "open" atau "open source" untuk model Gemma masih berlanjut
    • Lisensi Google membatasi penggunaan, dan tidak ada perubahan dalam pengumuman kali ini

Bacaan terkait

1 komentar

 
GN⁺ 2025-03-23
Komentar Hacker News
  • Beberapa model AI bisa berdoa. Saat diminta nasihat berdasarkan Alkitab, model itu mengatakan akan mendoakan saya
  • Saya penasaran seberapa kecil sebuah model bisa tetap "cerdas secara umum". Rasanya pasti ada ukuran yang terlalu kecil untuk memuat semua informasi
    • Saya penasaran kapan model kecil yang terspesialisasi di bidang tertentu akan muncul. Misalnya, saat meminta bantuan coding, sepertinya tidak perlu tahu siapa sutradara "Jaws"
    • Mungkin di masa depan akan ada banyak model kecil yang terspesialisasi
    • Atau mungkin kemampuan komputasi akan meningkat sehingga kita bisa menjalankan model dengan fungsi penuh di desktop atau ponsel
  • Llama 3.3 70B mungkin tidak dianggap berjalan di "satu GPU", tetapi berjalan dengan baik di satu Mac
    • Jauh lebih baik daripada Gemma 3 dalam mempertahankan konsep di percakapan panjang
  • Gemma 3 jauh lebih baik untuk menulis dibandingkan versi 2
    • Peningkatan besarnya adalah jendela konteks 32k+ benar-benar bisa digunakan dan tidak berubah menjadi sampah acak
  • Ini hanya bertahan seminggu setelah Mistral merilis 3.1 Small. Kecepatan perkembangan AI memang sangat cepat
  • Mistral Small 3.1 dirilis setelah Gemma 3 dan jauh lebih baik
    • Lebih sedikit penolakan, lebih akurat, tidak terlalu bertele-tele, dan terutama lebih baik untuk coding
  • Secara teknis, DeepSeek R1 dengan quant Unsloth 1.58-bit berjalan di satu GPU dan RAM sistem 128GB
    • Performanya sangat hebat, tetapi sebaiknya jangan terburu-buru
  • Postingan Google minggu lalu: [tautan]
  • Saya penasaran apakah ada orang yang benar-benar memakai GoogleAI
    • Di perusahaan AI yang punya AI CEO, mereka memakai terjemahan bahasa AI, tetapi semua produk GPT yang sebenarnya sangat buruk dan reputasinya juga jelek
    • Siapa yang mau mengirim percakapan pribadinya ke Google lalu diawasi?
  • Saya penasaran apakah itu berjalan di lantai yang dipotong