Arm mengumumkan AGI CPU - fondasi silikon untuk era cloud AI agentic

• Arm memperkenalkan AGI CPU berbasis platform Neoverse dan langsung menyediakan silikon siap produksi untuk infrastruktur AI otonom
• CPU ini dioptimalkan untuk workload AI paralel di lingkungan rak berkepadatan tinggi, sehingga tetap mempertahankan kinerja single-thread dan bandwidth memori yang tinggi di bawah beban berkelanjutan
• Mitra utama seperti Meta, OpenAI, SK Telecom sudah memulai deployment komersial, dan menerapkannya pada beragam infrastruktur AI seperti manajemen akselerator dan orkestrasi agen
• Arm juga mengungkap 1OU Dual Node Reference Server dan mendorong perluasan ekosistem dengan form factor standar OCP serta tool open source
• Peluncuran ini menandai masuknya Arm secara serius ke pasar silikon data center, sekaligus memosisikannya sebagai fondasi inti arsitektur data center AI-native

---

Arm mengumumkan AGI CPU: fondasi silikon untuk era cloud AI agentic

• Arm AGI CPU adalah produk silikon baru berbasis platform Arm Neoverse, CPU siap produksi yang dirancang untuk menjalankan infrastruktur AI generasi berikutnya
• Untuk pertama kalinya dalam sejarah 35 tahun Arm, perusahaan ini menyediakan produk silikon secara langsung, melampaui IP dan Compute Subsystem (CSS) dengan menawarkan solusi tingkat platform dan prosesor rancangan Arm secara opsional kepada pelanggan
• Langkah ini diambil untuk merespons evolusi cepat infrastruktur AI dan meningkatnya permintaan akan platform Arm yang bisa dideploy dalam skala besar

Kebangkitan infrastruktur AI agentic

• Sistem AI kini memasuki era operasi berkelanjutan dan otonom secara global
  • Sebelumnya, kecepatan interaksi manusia membatasi laju pemrosesan sistem, tetapi dalam AI agentic, agen perangkat lunak berinteraksi dengan banyak model secara real-time dan mengambil keputusan
• Perubahan ini menjadikan CPU sebagai elemen orkestrasi inti infrastruktur modern
  • CPU mengelola akselerator, memori, penyimpanan, penjadwalan workload, perpindahan data, dan mengoordinasikan banyak agen secara bersamaan
• Arm Neoverse sudah digunakan sebagai fondasi platform hyperscale dan AI utama seperti AWS Graviton, Google Axion, Microsoft Azure Cobalt, dan NVIDIA Vera
• Arm AGI CPU dikembangkan untuk menjawab kebutuhan ekspansi infrastruktur AI global tersebut

Arm AGI CPU: dirancang untuk efisiensi agentic pada level rak

• Arm AGI CPU dirancang untuk mempertahankan kinerja tugas tunggal yang tinggi saat menjalankan beban berkelanjutan dalam lingkungan paralel berskala besar
  • Setiap elemen seperti frekuensi operasi, memori, dan arsitektur I/O dioptimalkan untuk mendukung workload AI paralel pada deployment rak berkepadatan tinggi
• Konfigurasi server referensi Arm menggunakan desain 1OU, 2-node, dengan 272 core per blade (2 chip, termasuk memori dan I/O khusus)
  • Rak 36kW berpendingin udara dapat menampung 30 blade (total 8.160 core)
  • Desain 200kW berpendingin cair hasil kolaborasi dengan Supermicro dapat menampung 336 Arm AGI CPU (lebih dari 45.000 core total)
• Konfigurasi ini memberikan lebih dari 2x kinerja per rak dibanding sistem x86 terbaru*
  • Bandwidth memori yang tinggi menjaga efisiensi thread di bawah beban berkelanjutan
  • Kinerja single-thread berbasis core Neoverse V3 ditingkatkan sehingga throughput per thread meningkat

Adopsi awal di ekosistem AI

• Arm AGI CPU mulai memasuki tahap deployment komersial bersama para mitra utama
  • Penerapannya mencakup manajemen akselerator, orkestrasi agen, densitas layanan dan aplikasi, serta perluasan networking dan data plane compute
• Meta bergabung sebagai mitra terdepan dan sedang mendorong optimasi infrastruktur skala gigawatt untuk keluarga aplikasi Meta serta integrasi dengan akselerator MTIA
• Mitra awal mencakup Cerebras, Cloudflare, F5, OpenAI, Positron, Rebellions, SAP, SK Telecom dan lainnya
  • Sistem komersial dapat dipesan melalui ASRockRack, Lenovo, dan Supermicro
• Arm mengungkap Arm AGI CPU 1OU Dual Node Reference Server dalam form factor standar Open Compute Project (OCP) DC-MHS
  • Desain server, firmware, spesifikasi arsitektur sistem, framework debug, serta tool diagnostik dan verifikasi akan dikontribusikan sebagai open source
  • Detail lebih lanjut akan diumumkan di OCP EMEA Summit

Babak baru bagi infrastruktur Arm

• Peluncuran Arm AGI CPU menandai tahap baru strategi data center Arm
  • Mendukung beragam pelanggan mulai dari cloud hyperscale hingga startup AI
• Arm AGI CPU adalah model pertama dalam lini produk silikon data center Arm dan sudah tersedia untuk dipesan
  • Produk lanjutan sedang dikembangkan dengan target kinerja, skalabilitas, dan efisiensi kelas tertinggi
• Bersamaan dengan roadmap Arm Neoverse CSS, Arm mendukung semua pelanggan data center Arm agar tetap mempertahankan arsitektur platform bersama dan kompatibilitas perangkat lunak
• Lebih dari 50 perusahaan besar mendukung ekspansi silikon Arm dan kini memasuki tahap mendefinisikan serta membangun langsung arsitektur data center AI-native

Ringkasan pernyataan mitra

• Cerebras

  • Dalam pembangunan infrastruktur AI berfokus inferensi berskala sangat besar, skalabilitas dan efisiensi Arm AGI CPU memainkan peran penting

• Cloudflare

  • Mengadopsi Arm AGI CPU sebagai infrastruktur komputasi berkinerja tinggi dan hemat daya untuk ekspansi efisien di seluruh jaringan globalnya

• Meta

  • Bekerja sama dengan Arm untuk meningkatkan densitas kinerja data center dan mendukung roadmap sistem AI multi-generasi

• OpenAI

  • Arm AGI CPU diharapkan berkontribusi pada penguatan layer orkestrasi workload AI berskala besar serta peningkatan efisiensi sistem dan bandwidth

• Positron

  • Mengharapkan peningkatan efisiensi performa dan biaya data center lewat kombinasi teknologi akselerasi inferensi dan efisiensi energi Arm AGI CPU

• Rebellions

  • Menyediakan platform yang dioptimalkan untuk workload inferensi skala besar melalui konfigurasi server berkepadatan tinggi yang menggabungkan Arm AGI CPU dan NPU

• SAP

  • Menekankan kematangan workload enterprise berbasis Arm, dan memperluas Arm AGI CPU sebagai fondasi untuk mendukung solusi bisnis AI generasi berikutnya

• SK Telecom

  • Sedang membangun infrastruktur data center inferensi AI skala besar yang mengintegrasikan akselerator AI Rebellions dan Arm AGI CPU, dengan tujuan memperkuat daya saing AIDC

Catatan perhatian dan penafian

• Dokumen ini memuat pernyataan berwawasan ke depan terkait roadmap produk Arm, kinerja, dan rencana deployment mitra
  • Hasil aktual dapat berbeda tergantung faktor seperti konfigurasi sistem dan workload
• Angka kinerja merupakan estimasi internal Arm, berdasarkan perbandingan level rak antara server berbasis Arm AGI CPU dan server x86 kelas setara*
• Semua nama produk dan nama perusahaan adalah merek dagang atau merek dagang terdaftar milik pemiliknya masing-masing

[GN⁺]

Komentar Hacker News

• Nama CPU ini nyaris setara penipuan sekuritas
  Saat ini kalau orang bilang "AGI", kebanyakan akan mengira itu Artificial General Intelligence, tapi Arm menyebutnya "Agentic AI Infrastructure"
  Investor ritel akan membeli saham ARM tanpa paham bedanya, dan Arm tahu itu. Di industri, ini disebut ‘berbohong’

  • Sekarang AGI sudah jatuh jadi sekadar kata pemasaran. Sebentar lagi mungkin akan ada deodoran beraroma AGI
  • Dulu pemasaran 5G juga begini. Bahkan sebelum 5G sungguhan diterapkan, mereka sudah menyebutnya 5G untuk membingungkan konsumen
    Seperti dibahas dalam artikel PBS, pemasaran memang selalu mencampuradukkan istilah seperti ini
  • Kalau orang kaya sebodoh ini, ya mereka pantas kehilangan uangnya
    Orang yang berinvestasi tanpa memeriksa apa pun tidak bisa dilindungi oleh hukum mana pun
  • Justru menurutku penamaan berlebihan seperti ini bagus
    Pemasaran kosong seperti ini malah bisa membuat industri meninggalkan istilah ‘AGI’ dan kembali ke realitas
  • Pemasaran seperti ini benar-benar menjengkelkan
    Mengambil istilah lama lalu membungkusnya dengan makna baru itu trik lama
    “Personal Computer” dari IBM, “Windows” dari Microsoft, dan “Core” dari Intel juga begitu
    (Sebagai catatan, aku investor kecil di ARM)

• Ini pada dasarnya hanya Arm yang memproduksi dan menjual Neoverse CPU sendiri
  Ini bukan AI CPU. Tidak beda dengan Graviton, Epyc, atau Xeon
  Ini sudah terungkap beberapa tahun lalu dalam gugatan Qualcomm vs Arm
  Arm ternyata berencana bukan hanya memberi lisensi, tapi juga menjual CPU langsung, dan meski CEO saat itu menyangkal, pada akhirnya terbukti benar
  Aku juga pernah menulis postingan terkait hal ini

  • Ini mengingatkanku pada saat Intel mempromosikan Pentium sebagai cara mempercepat penelusuran web
  • Awalnya aku juga berpikir sama. Dari isi blognya terlihat jelas ARM ingin bersaing langsung dengan pelanggannya
    Jadi sepertinya nama ini dipasang untuk menumpang tren AI
    Tapi perusahaan perangkat keras akan bisa melihat gertakan seperti ini. Pada akhirnya, kalau tidak kompetitif secara harga, tidak akan laku
  • Yang lebih buruk, bahkan ada SoC yang benar-benar punya AI accelerator (NPU), sementara ini bahkan bukan seperti itu

• Yang menarik, ini adalah produk silikon buatan sendiri pertama Arm dalam 35 tahun sejarahnya

  • Insinyur yang selama puluhan tahun frustrasi melihat perusahaan lain memakai inti ARM secara aneh akhirnya tampaknya mendapat kesempatan untuk menunjukkan kemampuan mereka sendiri
  • ARM membuat chip sendiri itu seperti TSMC menjual CPU buatannya sendiri
    Sekarang ARM akan bersaing langsung dengan para pelanggannya
  • Pada akhirnya, godaan persaingan silikon AI tampaknya terlalu besar
    Titiknya sudah sampai di mana menjual chip langsung lebih menguntungkan daripada pendapatan lisensi
  • Tapi VLSI yang membuat ARM1 pada akhirnya juga merupakan silikon ARM. Jadi ini bukan hal yang sepenuhnya baru
  • Untuk melakukan ini mereka harus merekrut insinyur Design Verification baru, dan itu biaya besar

• AGI adalah singkatan dari Agentic AI Infrastructure
  Kalau tadi kamu membayangkan hal lain, anggap ini sebagai klarifikasi

  • Rasanya seperti ungkapan puitis yang merangkum realitas industri AI saat ini. Pemandangan yang indah tapi pahit
  • Harusnya sekalian dinamai AAII saja dan dipromosikan sebagai “dua kali lebih kuat daripada AI” agar lebih lucu
  • Aku juga bingung penekanan ada di huruf mana dalam AGI
    Mengingat ARM dulu memisahkan profil A, R, M dengan rapi, ini terasa mengecewakan
  • Ini cuma... ada sesuatu di sini. Bukan ‘sesuatu’ dalam arti yang baik
  • Rasanya seperti melompati hiu sambil kehilangan celana. Sengaja atau tidak, tetap mengesankan

• AGI (Agentic AI Infrastructure) katanya akan ditambahkan ke lini produk bersama CSS (Compute Subsystems)
  Aku penasaran siapa yang memberi nama seperti ini

  • Mungkin golongan yang sama dengan orang-orang yang membuat “Generative AI” terdengar seperti “General AI”
    Mode hidup dasar pemasar adalah penipuan
  • Jadi ini bukan Artificial General Intelligence dan Cascading Style Sheets yang bergandengan tangan?

• Ini seperti menamai anak sendiri World President Smith

  • Tapi anehnya, mungkin saja berhasil
    Menurut makalah APA, nama memang bisa memengaruhi perilaku
    Nama keluarga agen propertiku juga ‘House’

• Sekarang semua hal adalah AGI
  Kemarin Agentic, lusa AI
  Sebentar lagi rak supermarket akan penuh dengan kertas toilet AGI Agentic AI Crypto. Di sebelahnya mungkin ada kaleng tuna UML Rational Rose

• Arm sekarang katanya menjual CPU buatannya sendiri secara langsung

• Aku tidak mengerti apa arti “Built for rack-scale agentic efficiency”

  • Jika melewati jargon pemasarannya, ini adalah sistem multicore skala besar yang meningkatkan efisiensi dengan 136 core pada 300W daya
    Menurut penjelasan Arm, workload Agentic di masa depan akan membebani CPU dan GPU sekaligus, jadi efisiensi CPU itu penting
  • Sekarang memang eranya sekadar merangkai kata-kata yang terdengar meyakinkan
  • Pada akhirnya ini cuma konsep kepadatan komputasi Agentic: “konsumsi token × jumlah agen × ruang rack”
  • Ini mengingatkanku pada meme “mongodb is web scale”
  • Mirip pertanyaan “berapa banyak malaikat yang bisa menari di atas ujung jarum?”
    Lihat tautan Wikipedia