Riset, model, dan dataset baru dari Meta FAIR dibagikan

• Ringkasan

  • Meta FAIR merilis hasil riset terbarunya dan memperkenalkan beberapa model, termasuk Meta Motivo untuk pengendalian perilaku agen virtual serta Meta Video Seal untuk watermarking video.
  • Riset-riset ini bertujuan memajukan kecerdasan mesin dan didorong oleh niat untuk mendemokratisasi akses terhadap teknologi yang dapat mengubah secara revolusioner interaksi dengan dunia fisik.
  • Riset yang dirilis berfokus pada peningkatan kemampuan agen, ketangguhan dan keamanan, serta inovasi arsitektur agar model dapat mempelajari informasi baru secara efektif.

• Meta Motivo

  • Meta Motivo adalah model berbasis perilaku pertama yang mengendalikan gerakan agen humanoid virtual, dirancang agar mampu menjalankan tugas-tugas kompleks.
  • Model ini memanfaatkan reinforcement learning tanpa supervisi untuk mempelajari perilaku mirip manusia, dan dapat menyelesaikan beragam tugas kontrol seluruh tubuh tanpa pelatihan tambahan.
  • Model ini menunjukkan ketangguhan tinggi terhadap perubahan lingkungan, dan berpotensi berkontribusi pada pengembangan agen berwujud penuh di metaverse.

• Meta Video Seal

  • Meta Video Seal adalah kerangka kerja komprehensif untuk watermarking video, yang menambahkan watermark agar asal-usul video dapat dilacak.
  • Model ini tahan terhadap penyuntingan video maupun algoritma kompresi, serta mendukung komunitas riset untuk mengintegrasikan kemampuan watermarking.
  • Melalui leaderboard bernama Meta Omni Seal Bench, para peneliti dapat menguji dan menambahkan karya mereka sendiri.

• Flow Matching

  • Flow Matching adalah paradigma generatif untuk berbagai modalitas seperti gambar, video, dan audio, yang meningkatkan performa dan efisiensi.
  • Metode ini memudahkan generalisasi pada data yang kompleks, sehingga komunitas riset dapat memanfaatkannya untuk diterapkan pada proyek generatif mereka sendiri.

• Meta Explore Theory-of-Mind

  • Meta Explore Theory-of-Mind membantu menghasilkan berbagai data penalaran ToM untuk mengevaluasi dan meningkatkan performa large language model.
  • Kerangka kerja ini dapat digunakan untuk mengevaluasi performa LLM, memperkuat skenario berorientasi tujuan, dan mengumpulkan dataset interaksi.

• Meta Large Concept Models

  • Meta Large Concept Models menghadirkan paradigma pelatihan baru untuk language modeling, yang memisahkan representasi bahasa melalui prediksi konsep.
  • Model ini menunjukkan performa yang unggul dibandingkan LLM terbaru pada tugas peringkasan, serta memberikan generalisasi zero-shot yang kuat untuk bahasa yang belum dikenal.

• Meta Dynamic Byte Latent Transformer

  • Dynamic Byte Latent Transformer adalah model tanpa tokenizer yang meningkatkan performa pada sekuens teks langka.
  • Model ini berkontribusi pada peningkatan penalaran di berbagai domain dan unggul dalam pemrosesan sekuens yang jarang muncul.

• Meta Memory Layers

  • Meta Memory Layers mengusulkan cara untuk memperluas memory layer guna meningkatkan factuality.
  • Metode ini memungkinkan perluasan arsitektur memori jarang secara efisien dan meningkatkan performa pada benchmark factuality umum.

• Meta Image Diversity Modeling

  • Mereka juga menjalankan riset untuk pengembangan model pembangkit gambar yang aman, serta merilis alat evaluasi untuk model generasi teks-ke-gambar.
  • Bersama para ahli eksternal, mereka melakukan riset untuk meningkatkan tanggung jawab dalam pemodelan keragaman gambar.

• Meta CLIP 1.2

  • Meta CLIP 1.2 merupakan tonggak penting dalam pengembangan encoder vision-language, yang membantu memetakan makna gambar dan bahasa secara presisi.
  • Mereka juga merilis algoritma data dan metode pelatihan agar peneliti serta pengembang dapat memajukan pemahaman vision-language.

[GN⁺]

Komentar Hacker News

• Berbagai teknologi inovatif sedang dikembangkan di Meta. Secara khusus, teknologi terkait LLM terlihat menarik

  • Termasuk large concept models, dynamic byte latent transformers, dan sparse memory layers
  • Masing-masing teknologi tersebut dikatakan meningkatkan kualitas dan efisiensi
  • Menarik untuk mengetahui peningkatan kualitas/efisiensi saat semua teknologi digabungkan
  • Ada kemungkinan diterapkan pada Llama 4

• Ada kesempatan mendengar presentasi Ross Taylor, mantan karyawan Meta, di pertemuan AI Engineer London

  • Ternyata banyak riset Meta terkait penalaran dan theory of mind yang terlewat

• Sangat menyenangkan mencoba demo pertama

  • Tujuannya adalah membuat model melakukan moonwalk
  • Disertakan contoh kode yang dicoba

• "Meta Explore Theory of Mind" terasa lebih menarik

  • Sebulan lalu ada thread yang membahas konsep terkait

• Melihat kondisi keuangan Meta, menginvestasikan jutaan dolar pada para ahli AI bukanlah beban besar

• Menaruh harapan pada keberhasilan Dynamic Byte Latent Transformers

  • Berharap ini menjadi akhir dari tokenizer
  • Strukturnya hanya terdiri dari dua tingkat hierarki
  • Menambahkan lebih banyak tingkat bisa menjadi arah penelitian

• Setiap kali merapikan teks, selalu menyesal tidak pernah melatih autoencoder penghilang noise tingkat byte

• "Video Seal" dari Meta adalah alat digital yang menekankan keandalan

  • Dijelaskan sebagai alat yang kuat untuk melacak konten bahkan di lingkungan internet

• Penasaran bagaimana menambahkan watermark secara sukarela pada video AI membantu keamanan AI

• Meta berkontribusi agar AI tidak menjadi sesuatu yang eksklusif