Apple M3 Ultra Diluncurkan

 (apple.com)
1 poin oleh GN⁺ 2025-03-06 | 1 komentar | Bagikan ke WhatsApp
  • Apple memperkenalkan chip kelas tertinggi untuk Mac, M3 Ultra, dan semakin mendorong Mac Studio menjadi workstation untuk pekerjaan AI, grafis, dan video berskala besar
  • Spesifikasi utamanya terdiri dari CPU 32-core, GPU hingga 80-core, Neural Engine 32-core, Thunderbolt 5, serta memori terpadu hingga 512GB
  • Dibandingkan Mac Studio generasi sebelumnya, Apple menyebut CPU hingga 1,5x lebih cepat dari M2 Ultra, dan GPU hingga 2x lebih cepat dari M2 Ultra
  • UltraFusion menggabungkan dua die M3 Max dengan lebih dari 10.000 koneksi berkecepatan tinggi sehingga terlihat seperti satu chip bagi software
  • Dengan bandwidth memori lebih dari 800GB/s dan memori hingga 512GB, chip ini ditujukan untuk rendering 3D, efek visual, AI, serta menjalankan LLM dengan lebih dari 600 miliar parameter langsung di perangkat

Peran dan spesifikasi dasar M3 Ultra

  • Apple memperkenalkan M3 Ultra sebagai chip berperforma tertinggi yang pernah dibuatnya
  • Chip ini diposisikan sebagai chip yang menghadirkan CPU dan GPU paling bertenaga di Mac, Neural Engine 32-core, serta memori terpadu terbesar di komputer pribadi
  • Konfigurasi utamanya adalah sebagai berikut
    • Hingga CPU 32-core
    • Hingga GPU 80-core

    • Neural Engine 32-core

    • Thunderbolt 5

      • Hingga memori terpadu 512GB
      • M3 Ultra digunakan sebagai chip yang meningkatkan performa Mac Studio baru

Performa dan workload AI

  • CPU terdiri dari 24 core performa dan 8 core efisiensi, menawarkan performa hingga 1,5x dibanding M2 Ultra dan hingga 1,8x dibanding M1 Ultra
  • GPU merupakan konfigurasi terbesar di antara chip Apple, dengan hingga 80 core grafis dan hingga 2x lebih cepat dibanding M2 Ultra serta hingga 2,6x lebih cepat dibanding M1 Ultra
  • Dasar perbandingan performanya adalah sistem Mac Studio generasi sebelumnya
    • M1 Ultra: CPU 20-core, GPU 64-core, RAM 128GB
    • M2 Ultra: CPU 24-core, GPU 76-core, RAM 192GB
  • Arsitektur grafisnya mencakup dynamic caching, mesh shading berakselerasi hardware, dan ray tracing
  • Untuk pekerjaan AI dan machine learning, akselerator ML pada CPU, GPU, Neural Engine, serta bandwidth memori lebih dari 800GB/s dimanfaatkan bersama
  • Mac Studio dengan M3 Ultra dapat menjalankan model bahasa besar dengan lebih dari 600 miliar parameter langsung di perangkat

Memori terpadu dan pekerjaan berskala besar

  • Arsitektur memori terpadu M3 Ultra mengedepankan bandwidth tinggi dan latensi rendah
  • Memori dimulai dari 96GB dan dapat dikonfigurasi hingga 512GB
  • Apple menyatakan kapasitas ini melampaui memori yang disediakan kartu grafis workstation kelas atas saat ini
  • Konfigurasi ini ditujukan untuk mengurangi bottleneck dalam pekerjaan profesional seperti rendering 3D, efek visual, dan AI yang membutuhkan memori grafis dalam jumlah besar

Thunderbolt 5 dan skalabilitas

  • M3 Ultra memperkenalkan Thunderbolt 5 ke Mac Studio, menyediakan kecepatan transfer data hingga 120Gb/s
  • Bandwidth-nya lebih dari dua kali lebih tinggi dibanding Thunderbolt 4
  • Setiap port Thunderbolt 5 didukung oleh kontroler rancangan sendiri yang ditempatkan langsung pada chip
  • Bandwidth khusus per port ditujukan bagi pengguna profesional yang memakai storage eksternal, docking, hub, dan chassis ekspansi generasi berikutnya
  • Melalui Thunderbolt 5, konfigurasi yang menghubungkan beberapa sistem Mac Studio juga dimungkinkan

Teknologi internal chip

  • UltraFusion menggunakan silicon interposer tertanam untuk menghubungkan dua die M3 Max dengan lebih dari 10.000 sinyal
    • Bandwidth antardie berlatensi rendah mencapai lebih dari 2,5TB/s
    • Bagi software, M3 Ultra terlihat seperti satu chip
  • Media engine memiliki resource 2x M3 Max dan mendukung lebih banyak pemrosesan video secara bersamaan
    • Menyediakan H.264 dan HEVC berbasis hardware, serta empat engine encode/decode ProRes
    • Dapat memutar hingga 24 stream 8K ProRes 422
  • Display engine mendukung hingga 8 Pro Display XDR dan menggerakkan lebih dari 160 juta piksel
  • Secure Enclave bekerja bersama secure boot yang diverifikasi hardware dan teknologi perlindungan dari eksploitasi saat runtime

Efisiensi daya dan target lingkungan

  • Efisiensi daya M3 Ultra membantu Mac Studio baru memenuhi standar efisiensi energi Apple
  • Hal ini juga berdampak pada pengurangan total energi yang dikonsumsi selama masa pakai produk
  • Apple saat ini sudah netral karbon dalam operasi korporat globalnya, dan melalui target Apple 2030 berencana mencapai netral karbon untuk seluruh jejak karbonnya pada akhir 2030

Bacaan terkait

1 komentar

 
GN⁺ 2025-03-06
Opini Hacker News

  • Memori terpadu 512GB benar-benar terasa seperti membuka ranah baru
    Saya sempat bertanya-tanya kapan Apple akan melewati batasan memori, dan sekarang memori terpadu sudah naik sampai 0,5TB. Ini sangat praktis untuk menjalankan model AI besar secara lokal, dan dibandingkan dengan solusi ala NVIDIA, pendekatan mengintegrasikan memori efisiensi tinggi sebesar ini ke dalam satu chip terasa menarik. Namun saya penasaran bagaimana desain yang “menempelkan” dua M3 Max ini akan bekerja dalam hal panas dan konsumsi daya

    • Bandwidth memori tidak bertambah, dan ini masih di level bandwidth yang juga mungkin pada M2 Studio. Tentu saja, dengan membayar 10 ribu dolar, kita bisa mendapatkan memori terpadu 512GB
      Masalahnya adalah apakah pada skala itu model bahasa besar bisa berjalan dengan performa yang layak. Meski memori terpadu mencukupi, jika bandwidth memorinya sama, peningkatan performa pemrosesan AI pada chip baru akan mengalami diminishing returns. Pada akhirnya sepertinya ada rasio optimal tertentu antara bandwidth memori terhadap performa pemrosesan dan ukuran pool memori
    • Saya tidak yakin apakah memori terpadu secara khusus relevan di sini. Misalnya, pada zen4/zen5 Epyc, performa aritmetik sudah cukup sehingga inferensi LLM murni menjadi bottleneck bandwidth memori
      Dual SP5 Epyc tampaknya akan punya bandwidth memori lebih besar daripada produk Apple ini, dan pada kisaran harga Apple, RAM yang dipasang juga bisa kira-kira dua kali lipat. Kemungkinan solusi Apple akan lebih baik dalam efisiensi daya
    • Saya penasaran apakah ini memori on-chip. Kalau 800GB/s, itu terlihat lebih dekat ke bus 512-bit menuju modul DDR5, yaitu 8 channel. Dengan quad channel pun hampir mungkin, tetapi berarti didorong sampai batasnya, dan tetap saja itu konfigurasi yang bagus
      Dari sisi kepraktisan, saya penasaran aplikasi mainstream apa yang akan diuntungkan oleh kombinasi memori sebesar ini dengan performa komputasi yang lumayan tetapi relatif kelas menengah. Pada kisaran harga sistem full-option 14 ribu dolar, mungkin orang akan lebih memilih, misalnya, sekitar dua unit NVIDIA Project DIGITS
    • Saya penasaran apakah menaruh RAM pada chip yang sama dengan chip pemrosesan itu ekonomis
      Saya kira untuk pemrosesan orang ingin menghemat node proses terbaik, sementara untuk RAM ingin memakai proses yang lebih murah

  • Mengejutkan karena ini M3, bukan M4. Pada dasarnya saya penasaran apakah ini pemanfaatan hasil seleksi yield, tetapi rasanya saya pernah membaca di suatu tempat bahwa interposer yang memungkinkan hal ini pada chip M1 sudah tidak ada lagi
    Meski begitu, RAM terpadu 512GB yang bisa diakses NPU benar-benar game changer. Sepertinya Apple mengembangkan chip ini untuk pekerjaan AI internal, dan kini sudah sampai tahap membukanya agar bisa dipakai orang lain juga. Namun hardware ini benar-benar membutuhkan form factor rack 2U. Saat ini sistem operasilah yang menahan hardware ini

    • Jika Apple mendukung Linux secara native, terutama headless, dan memungkinkan M4 Pro dimasukkan ke rack, saya akan langsung menggunakannya di pusat colocation
      CPU-nya hampir tidak punya pesaing dalam hal kecepatan dan bandwidth memori. Masih mengejutkan bahwa perusahaan lain belum mampu membuat chip server Arm yang kompetitif
    • Benar-benar sistem operasinya yang menjadi penghambat. Meski Apple tidak menghidupkan kembali varian OS XServe lama, setidaknya akan bagus jika mereka bekerja sama dengan pengembang Linux atau BSD untuk menghadirkan sistem operasi server yang sesuai dengan stack hardware ini
      Sistem operasi konsumer, secara selera pribadi, lebih baik daripada Windows, tetapi makin banyak elemen yang tidak perlu dan sisa-sisa usang sehingga semakin sulit ditoleransi untuk workload server produksi. Jika ada OS server yang memperlakukan hardware di bawahnya seperti hypervisor, sehingga berbagai komponen dapat ditempelkan atau dibagikan ke VM dan container, nilainya akan sangat besar untuk data center kecil atau lingkungan edge. NPU on-premise dengan RAM sebesar ini akan sangat membantu akselerasi AI lokal yang dibagikan oleh banyak pengguna di LAN
    • Saya suka dan menghormati orang-orang yang menulis artikel “rumor Apple”, tetapi yang satu ini selalu lebih terasa seperti “membaca lima blog desain CPU lalu jadi ahli”
      Dasar spekulasinya adalah bahwa pada foto die M3 Max tidak terlihat interposer, tetapi itu pada dasarnya tidak berarti apa-apa tentang apakah konfigurasi M3 Ultra bisa didukung. Pengumuman hari ini adalah buktinya
    • Apple bisa saja membuat hardware rack 2U dan mendukung Linux, atau menyediakan build Darwin yang berjalan headless. Namun untuk opsi terakhir, kemungkinan tidak akan ada banyak software yang bisa digunakan
      Meski begitu, orang pada akhirnya akan mulai melakukan porting, dan karena sudah ada MacPorts dan Homebrew, keduanya bisa diadaptasi agar berjalan di platform tersebut. Tetapi Apple tampaknya tidak tertarik pada pasar itu, jadi kemungkinan besar ini tidak akan terwujud
    • Karena penasaran soal yield hasil seleksi, saya mencoba merangkum seberapa banyak chip Apple Max dipangkas pada konfigurasi pengiriman
      M1 Max memiliki 24–32 core GPU, M2 Max 30–38, M3 Max 30–40, dan M4 Max 32–40. Jika melihat tanggal pengumuman, M1 Max pada 18 Oktober 2021, M1 Ultra pada 8 Maret 2022, M2 Max pada 17 Januari 2023, M2 Ultra pada 5 Juni 2023, M3 Max pada 30 Oktober 2023, M3 Ultra pada 12 Maret 2025, dan M4 Max pada 30 Oktober 2024. Melihat penundaan tambahan antara pengumuman M3 Max dan Ultra, spekulasi bahwa Apple mengembangkan chip ini untuk pekerjaan AI internal juga terdengar cukup masuk akal

  • Memori maksimum pada model M2 Ultra sebelumnya adalah 192GB, sedangkan Pro atau sebagian model M3 adalah 128GB. Menurut saya, kapasitas sebesar itu pun sudah cukup untuk 99,9% pekerjaan profesional
    Namun sekarang dinaikkan menjadi 512GB, dan harga Mac Studio 512GB juga berada di level gila, yaitu 9499 dolar. Ini hampir pasti pengaruh demam emas AI

    • Semua perusahaan AI di seluruh dunia kemungkinan sedang menilai apakah performa komputasinya cukup untuk menjadikan ini jalur AI yang masuk akal. Jika jawabannya ya, 10 ribu dolar jelas murah
    • LLM mudah sekali memakai banyak RAM, dan sistem-sistem ini jauh, jauh lebih murah daripada konfigurasi GPU dengan kapasitas RAM yang sama. Tentu saja lebih lambat
      Misalnya, model kuantisasi 4-bit Llama-3.1 405B kemungkinan akan muat dengan baik
    • Kuncinya adalah performa. DeepSeek dan Llama 405B tampaknya menunjukkan kebutuhan akan memori yang lebih besar
      Bahkan sekarang, orang-orang bisa merakit sistem Epyc dengan RAM sebesar ini atau lebih banyak dengan biaya jauh lebih murah dan menjalankan DeepSeek sekitar 6 token per detik. Namun tidak semua orang suka merakit dan melakukan tuning, jadi ada pasar bagi orang-orang yang ingin menghindari kerepotan. “Demam emas AI” sering terdengar seperti hal buruk, tetapi belum tentu begitu
    • RAM itu sekaligus juga VRAM, jadi VRAM 0,5TB sama sekali tidak murah. Sebagai perbandingan, Apple justru terbilang cukup murah
    • Pertanyaan besarnya adalah apakah harga 10 ribu dolar itu sudah mencerminkan tarif China Trump, atau harga masih akan naik lagi

  • Saat ini Docker tidak mendukung Metal GPU
    Jika menjalankan LLM lewat Docker pada chip Apple M3 atau M4, Docker hanya mendukung GPU Nvidia dan Radeon, sehingga apa pun kelas chipnya akan berjalan dalam mode CPU. Jika mengembangkan LLM di Docker, lebih baik mempertimbangkan laptop Framework yang memiliki GPU Nvidia atau Radeon. Sebagai sumber, saya sedang mengembangkan framework agen AI yang menjalankan LLM di dalam Docker pada M3 Max: https://kdeps.com

  • Jika Studio sekarang diperbarui ke M3 Ultra, M4 Ultra mungkin bisa langsung masuk ke Mac Pro di WWDC. Timing-nya menarik, dan mungkin juga mereka akan mengubah form factor Mac Pro
    Selain itu, ini kemungkinan produk dengan volume sangat rendah, jadi fakta bahwa ia memakai proses N3B sepertinya tidak fatal. Di sisi lain, chip-chip ini pasti sangat mahal untuk diproduksi, jadi memasangkannya dengan konfigurasi RAM mahal juga cukup masuk akal

    • Menariknya, Apple tampaknya mengonfirmasi di situs web Prancis bahwa M4 tidak memiliki interconnect untuk membuat “Ultra” [0][1]. Berbeda dari dugaan semula, mungkin M4 Ultra tidak akan keluar
      Laporan ini perlu dilihat dengan hati-hati, tetapi katanya berasal langsung dari Apple. Kalau begitu, makin misterius apa yang akan mereka lakukan dengan M2 Mac Pro
      [0] https://www.numerama.com/tech/1919213-m4-max-et-m3-ultra-let...
      [1] Konteks tambahan dari Macrumors: https://www.macrumors.com/2025/03/05/apple-confirms-m4-max-l...
    • Apple mengatakan bahwa tidak setiap generasi akan memiliki varian “Ultra”: https://arstechnica.com/apple/2025/03/apple-announces-m3-ult...
    • Saya memahami bahwa Apple ingin menemukan cara membuat sistem multi-SoC untuk menggantikan chip Ultra
      Dengan cara saat ini, chip Max harus dirancang berpusat pada interconnect. Secara teori, konfigurasi multi-SoC juga bisa diperluas melampaui dua chip ke lini produk yang lebih luas
    • Sejujurnya, saya rasa tahun ini kita sama sekali tidak akan melihat M4 Ultra. Memasukkan M3 Ultra ke Studio tampaknya berarti M4 Ultra terlalu mahal atau kapasitas produksinya tidak mencukupi
      Bagaimanapun, M2 Mac Pro terasa seperti produk di mana Apple bertanya kepada pelanggan, “Bisakah kalian melakukan sesuatu yang menarik dengan slot PCIe ini? Kami tidak terpikir apa-apa selain ekspansi konektivitas.” Kecuali Apple Silicon didesain ulang agar mendukung GPU yang bisa di-upgrade, Mac Pro tampaknya sudah tamat
    • Sepertinya mereka akan mengubah form factor Mac Pro, atau malah menghapusnya sama sekali. Model saat ini terlalu setengah matang desainnya, dan dibandingkan Studio, nilai harganya terang-terangan buruk
      Rasanya seperti produk terakhir untuk menahan pengguna PCIe sampai mereka memindahkan semuanya ke Thunderbolt. Desain yang tadinya untuk menampung beberapa GPU besar dipakai ulang, tetapi karena sekarang tidak mendukung GPU, sebagian besar pendinginan dan catu dayanya tinggal menjadi jejak masa lalu. Selain itu, ekspansi PCIe juga diam-diam diturunkan, dan Apple Silicon tidak memiliki banyak lane PCIe, sehingga slot-slotnya sangat over-subscribed melalui PCIe switch

  • Untuk pekerjaan AI, memori terpadu 512GB benar-benar luar biasa. Dibandingkan jumlah GPU NVIDIA yang dibutuhkan, harganya bahkan terlihat hampir masuk akal

    • Untuk mendapatkan 512GB RAM high-bandwidth yang bisa dialamatkan GPU di server, kemungkinan biayanya akan mencapai enam digit dolar. Jika memorilah yang menjadi batasan, ini jelas server yang tepat
      Maksudnya, NPU dan core GPU harus bisa mengakses RAM itu, dan performanya juga harus masuk akal
    • Jika pada akhirnya harus mengubah seluruh workflow AI untuk memakai API lain, kartu akselerator AMD Instinct sepertinya lebih masuk akal
      Memang mahal, tetapi jauh lebih cepat, dan tidak perlu repot menyesuaikan kode agar berjalan di macOS
    • Mac Studio dengan opsi penuh harganya 14K dolar

  • Jika perlu memori maksimum 512GB untuk menjalankan model AI, dan tidak masalah mencolokkan drive eksternal untuk menyimpan bobot model, ini bisa dibeli dengan harga sedikit di bawah 10 ribu dolar. Ini mesin impian
    NVIDIA Project DIGITS disebut akan hadir “segera” seharga 3 ribu dolar, tetapi Mac dengan spesifikasi 128GB dan 4TB yang sama bisa dibeli sekitar 4700 dolar, benar-benar bisa diterima dalam waktu seminggu, dan bedanya menjalankan macOS. Saya tidak tahu perbedaan performanya. Saya ingin segera melihat seseorang menguji seluruh model DeepSeek di mesin ini, dan mungkin ini bisa menjadi perangkat AI pribadi kecil pertama yang bisa dimiliki sepenuhnya dan dipakai sesuka hati

    • Pada kisaran harga ini, ada juga argumen bahwa orang menginginkan komponen PC yang bisa diganti. Namun Apple biasanya memberikan daya tahan bertahun-tahun untuk PC
      Kalau ini semacam bata AI dari Apple, mestinya akan cukup awet
    • Model DeepSeek R1 lengkap membutuhkan memori lebih dari 512GB. Modelnya saja 720GB
      Di perangkat ini versi terkuantisasi bisa dijalankan, tetapi model lengkapnya tidak bisa
    • Dengan bandwidth 819GB/s, pengalaman memakai model DeepSeek lengkap akan sangat buruk

  • Thunderbolt 5 cukup berguna. Saat memakai laptop yang sangat tipis dan ringan, jika perlu bisa mengakses GPU eksternal atau eGPU lewat TB 5 [1]
    Kini kita bisa mendapatkan sekaligus keunggulan laptop ringan dan keunggulan GPU yang kuat
    [1] Asus mengumumkan eGPU Thunderbolt 5 pertama di dunia:
    https://www.theverge.com/24336135/asus-thunderbolt-5-externa...

    • Masalahnya, karena terikat pada macOS, tidak ada driver untuk GPU NVIDIA, AMD, dan Intel
    • Apple Silicon tidak bekerja dengan eGPU
    • eGPU punya sangat banyak masalah di macOS. Saya memakainya selama beberapa tahun, dan di Silicon mungkin akan lebih buruk
      Sebagai gantinya, mode berbagi layar performa tinggi yang cukup baru dan ditambahkan di Sonoma benar-benar hebat. Jika terhubung ke Mac Studio dari MacBook, kita bisa memilih mode itu dan mengubah pengaturan display ke resolusi dinamis. Dengan begitu “thin client” memakai seluruh layar MacBook 16:10 dalam mode layar penuh, mendapatkan performa 60fps berlatensi rendah bahkan di game sungguhan, audio juga dikirim sehingga bisa ikut rapat, dan layar Mac Studio host dimatikan. Hal-hal ini tidak mungkin dengan VNC; RDP juga jauh lebih baik, tetapi berbagi layar performa tinggi yang baru ini lebih kuat. Saya selalu berpikir laptop tipis dan ringan yang meremote ke mesin bertenaga adalah mobilitas tinggi yang lebih baik daripada bersusah payah menjalankan semuanya secara lokal di laptop. Dengan sedikit pengaturan firewall, ini juga berjalan lewat LTE

  • Mungkin Apple perlu meninjau kembali Xserve
    Apple pasti memiliki semacam tim infrastruktur server, tetapi membangun infrastruktur server sendiri dengan hardware dan software sendiri layak dieksplorasi. Jika ekosistem aplikasi dan server Apple digabung lalu ditawarkan sebagai cloud, atau bisa dibeli langsung, itu bisa menjadi bisnis layanan yang sangat menarik. Terutama sekarang ketika iPad pun memakai chip M, mengingat performa hardwarenya, App Store membutuhkan aplikasi yang lebih baik. Layanan hardware dan software berbasis cloud yang dirancang untuk ekosistem aplikasi cukup menarik
    Di Apple, hardware berkembang lebih cepat daripada software. Di kebanyakan perusahaan teknologi, biasanya hardware tidak mampu mengejar software, tetapi Apple justru sebaliknya

  • Saya penasaran kapan Apple Silicon akan mendukung secara native sistem operasi seperti Linux
    Apple tampaknya enggan merilis dokumen referensi teknis terperinci untuk SoC seri M, sehingga menjalankan Linux secara native di Apple Silicon menjadi sulit

    • Mungkin tidak akan pernah. iPhone maupun iPad juga tidak punya dukungan Linux resmi, jadi sulit berharap Apple akan mengubah sikapnya
    • https://asahilinux.org/
    • Itu juga terasa aneh bagi saya. Karena macOS sudah disertakan bersama hardware, Apple juga tidak kehilangan penjualan macOS
      Jika seseorang membeli hardware Apple untuk menjalankan Linux, seharusnya tidak ada dampak negatif bagi AAPL, tetapi tetap begitu
    • Apakah menjalankan Darwin bukan pilihan? Saya penasaran apa yang ditawarkan Linux lebih banyak dibanding Darwin