Google Umumkan Sec-Gemini v1, Model AI Keamanan Siber Eksperimental

• Berfokus pada memperkuat kemampuan para ahli keamanan siber untuk memperkokoh posisi pihak pembela
• Penyerang hanya perlu menemukan satu celah, sedangkan pembela harus siap menghadapi semua ancaman; model ini berupaya mengatasi asimetri keunggulan penyerang tersebut
• Workflow keamanan siber berbasis AI dapat membantu pembela mendapatkan kembali keseimbangan yang lebih menguntungkan

Fitur utama dan performa

• Menggabungkan kemampuan penalaran tingkat lanjut model Gemini dengan pengetahuan dan alat keamanan terbaru
• Menunjukkan performa unggul pada tugas-tugas utama keamanan siber
  • Analisis akar penyebab insiden
  • Analisis ancaman
  • Penilaian dampak kerentanan
• Terintegrasi dengan Google Threat Intelligence (GTI), data OSV, dan informasi keamanan penting lainnya

Hasil benchmark

• Pada benchmark intelijen ancaman CTI-MCQ, mencatat performa setidaknya 11% lebih baik dibanding model lain
• Pada benchmark CTI-RCM (pemetaan akar penyebab), juga mencatat akurasi meningkat lebih dari 10,5%
  • Menganalisis dan mengklasifikasikan akar penyebab kerentanan secara akurat berdasarkan sistem klasifikasi CWE

Contoh analisis ancaman: Salt Typhoon

• Sec-Gemini v1 mengenali Salt Typhoon sebagai pelaku ancaman dan memberikan penjelasan rinci
  • Hal ini dimungkinkan berkat integrasi dengan data Mandiant Threat Intelligence
• Untuk pertanyaan terkait Salt Typhoon, model ini memberikan informasi kerentanan spesifik yang dimanfaatkan pelaku ancaman tersebut
  • Menambahkan konteks pada hasil analisis berdasarkan data OSV dan intelijen Mandiant
  • Dengan ini, analis dapat lebih cepat memahami keterkaitan antara ancaman dan kerentanan serta tingkat risikonya

Pemanfaatan dan distribusi

• Disediakan gratis untuk organisasi, institusi, pakar keamanan, dan NGO terpilih hanya untuk tujuan riset
• Google ingin melampaui batas kemampuan keamanan berbasis AI melalui kolaborasi dengan komunitas keamanan

[GN⁺]

Opini Hacker News

• Model Gemini terasa agak berbeda dibanding Claude, ChatGPT, dan Mistral

  • Rasanya seperti berbicara dengan model yang berfokus pada pekerjaan engineering
  • Ada keseriusan yang tidak mengejar humor atau gaya
  • Mungkin karena interaksi dengan Gemini hanya dilakukan lewat AI Studio
  • Alasan tidak memakai gemini.google.com sederhana: tidak ada fitur ekspor yang praktis
  • Fitur penyimpanan ke Google Drive di AI Studio sangat berguna
  • Akan bagus jika gemini.google.com menyediakan fitur "Simpan sebagai Markdown"

• Saat ditanya tentang kerentanan yang dijelaskan dalam paparan Salt Typhoon, Sec-Gemini v1 memberikan bukan hanya detail kerentanan tetapi juga konteks tentang pelaku ancaman

  • Menjelaskan kerentanan dengan menggunakan data OSV dan data Mandiant
  • Masih skeptis terhadap LLM, tetapi perkembangan OSV adalah hal yang positif

• Mengejutkan bahwa Google tampaknya tidak meninjau jawaban AI dengan hati-hati

  • Dalam pertanyaan tentang CVE-2024-3400 ada penyebutan bahwa perangkat Hitachi rentan, padahal sebenarnya tidak
  • CVE tersebut tidak ada dalam daftar kerentanan milik Hitachi
  • Juga tidak ada penyebutan bahwa fitur "portal" rentan

• Ada pertanyaan apakah ini model yang melakukan pekerjaan keamanan, atau sistem yang mengambil data dan menggunakan tool

  • Dari penjelasan integrasi data, kemungkinan besar yang kedua
  • Perbedaan antara model yang disesuaikan untuk keamanan dan aplikasi LLM keamanan yang dibangun sebelumnya itu penting

• Munculnya model-model khusus terasa menarik

  • Mirip dengan manusia yang telah terlatih

• Selalu ada kekhawatiran soal LLM dan pekerjaan analisis

  • Saat menilai risiko dan dampak kerentanan atau menganalisis malware yang kompleks, semua titik data harus ditinjau secara menyeluruh
  • LLM bisa sangat membantu, tetapi penalarannya tetap harus ditinjau
  • Manusia juga sama, harus menunjukkan dasar dari kesimpulannya

• Pekerjaan keamanan berkecepatan tinggi dengan sistem AI memang diperlukan, tetapi tidak cukup

  • Penyerang juga akan memakai sistem AI, jadi pihak bertahan harus mengikuti
  • Kita harus membangun sistem yang lebih aman

• Ini bisa bagus untuk membantu pekerjaan profesional keamanan siber

  • Namun ada kekhawatiran bahwa ini akan dipakai sebagai alat untuk melempar tanggung jawab

• Mempercayakan sesuatu yang hanya benar secara probabilistik untuk keamanan mungkin adalah ide yang buruk

• Mungkin ada kaitannya dengan akuisisi wiz