OpenAI bekerja sama dengan Broadcom & TSMC untuk mengembangkan chip pertamanya dan mengurangi rencana foundry

• OpenAI mengembangkan chip inferensi AI dan membatalkan rencana jaringan foundry
• Broadcom membantu desain chip OpenAI dan mendukung produksinya di TSMC
• OpenAI menambahkan chip AI AMD untuk mendiversifikasi pasokan chip

Upaya desain chip internal OpenAI dan pemanfaatan kemitraan industri

• OpenAI meninjau berbagai opsi untuk mendiversifikasi pasokan chip dan menekan biaya
• Untuk sementara, perusahaan akan menghentikan rencana foundry yang ambisius dan berfokus pada upaya desain chip internal
• Strategi OpenAI menunjukkan bagaimana perusahaan ini, seperti para pesaing besar seperti Amazon, Meta, Google, dan Microsoft, memanfaatkan kemitraan industri serta pendekatan internal dan eksternal untuk mengamankan pasokan chip dan mengelola biaya
• OpenAI adalah salah satu pembeli chip terbesar, dan keputusannya untuk melakukan sourcing dari berbagai pembuat chip sambil mengembangkan chip kustom dapat membawa dampak luas bagi sektor teknologi
• Broadcom membantu perusahaan seperti Google menyempurnakan desain chip untuk produksi dan memasok komponen desain yang membantu memindahkan informasi dengan cepat di dalam chip
• OpenAI telah mengamankan kapasitas manufaktur dengan TSMC melalui Broadcom untuk memproduksi chip rancangan kustom pertamanya pada 2026
• Saat ini, GPU Nvidia menguasai lebih dari 80% pangsa pasar
• Namun, kekurangan pasokan dan kenaikan biaya mendorong pelanggan besar seperti Microsoft, Meta, dan kini OpenAI untuk mencari alternatif internal maupun eksternal
• Keputusan OpenAI untuk menggunakan chip AMD melalui Azure milik Microsoft menunjukkan bahwa chip baru AMD, MI300X, sedang mencoba merebut sebagian pasar yang didominasi Nvidia
• Pelatihan model AI dan pengoperasian layanan seperti ChatGPT membutuhkan biaya besar
• OpenAI memperkirakan kerugian sebesar $5 miliar tahun ini dengan pendapatan $3,7 miliar
• Biaya komputasi adalah pengeluaran terbesar perusahaan, yang memicu upaya untuk mengoptimalkan utilisasi dan mendiversifikasi pemasok

Opini GN⁺

• Upaya desain chip internal OpenAI dan kerja samanya dengan berbagai pembuat chip menandai perubahan penting dalam industri AI. Ini dapat menciptakan alternatif baru yang menantang dominasi Nvidia dan mempercepat kemajuan teknologi AI
• Namun, kekhawatiran dapat muncul terkait struktur biaya OpenAI. Dalam situasi ketika pengembangan model AI dan pengoperasian layanan memerlukan biaya sangat besar, ada pertanyaan tentang profitabilitas dan keberlanjutan jangka panjang
• Di sisi lain, kemunculan chip AI baru seperti MI300X dari AMD akan mendorong persaingan pasar dan memberi pelanggan lebih banyak pilihan. Ini dapat berkontribusi pada demokratisasi dan komersialisasi teknologi AI
• Dengan persaingan yang makin ketat di pasar chip AI, inovasi teknologi diperkirakan akan semakin cepat, dan permintaan terhadap chip berperforma tinggi serta hemat daya akan meningkat. Seiring itu, persaingan investasi dan perebutan talenta di bidang desain dan manufaktur chip juga diperkirakan akan makin sengit
• Saat perusahaan mengadopsi chip AI, mereka perlu mempertimbangkan secara menyeluruh berbagai faktor seperti performa, biaya, kompatibilitas, dan skalabilitas. Penting untuk memilih chip yang paling sesuai dengan roadmap teknologi jangka panjang dan strategi bisnis

[GN⁺]

Pendapat Hacker News

• OpenAI membatalkan rencana untuk membangun jaringan pabrik "foundries" untuk produksi chip. Alasannya adalah masalah biaya dan waktu

  • Rencana OpenAI adalah mengumpulkan 7 triliun dolar dan membangun 36 pabrik produksi silikon AI
  • Kabarnya para eksekutif TSMC menertawakan rencana tersebut

• OpenAI banyak merekrut insinyur perangkat keras dari Google

  • Jika melihat profil insinyur perangkat keras OpenAI di LinkedIn, terlihat banyak di antaranya adalah mantan karyawan Google
  • Tim TPU Google lebih lemah dibanding sebelumnya, dan ada kemungkinan TPU Google ke depannya akan kalah dari chip OpenAI

• Pengembangan TPU Google dibantu oleh Broadcom

  • Mengingat Broadcom berkontribusi pada pengembangan TPU Google, wajar jika mantan karyawan Google mempertahankan hubungan ini di perusahaan baru juga

• Ada pergerakan untuk menambahkan chip AMD dan NVIDIA guna memenuhi kebutuhan infrastruktur

  • Permintaan meningkat "seperti orang gila", dan ini bisa berujung pada masalah pasokan
  • Perusahaan Fortune 500 tidak memusatkan semua sumber daya di satu tempat, dan merupakan langkah bijak untuk mendiversifikasi sumber pasokan perangkat keras dan perangkat lunak AI

• OpenAI tampaknya sedang membangun pusat datanya sendiri, tetapi artikel tersebut tidak menyebutkannya secara jelas

  • Ada yang penasaran apakah ada produsen chip AI/matriks perkalian Barat selain TSMC
  • NVIDIA, AMD, Google, dan OpenAI semuanya menggunakan TSMC
  • Ada yang bertanya-tanya apakah Samsung memang tidak kompetitif

• Ada yang penasaran berapa lama waktu yang dibutuhkan untuk memproduksi chip baru dan menggunakannya untuk pelatihan/inferensi

• Selain GH Copilot, dampak sosial/budaya dari LLMs masih belum terlihat

  • Ada harapan akan muncul dampak budaya yang produktif, menyebar luas di masyarakat, dan bertahan lama

• OpenAI ingin memperoleh keunggulan kompetitif melalui desain dan manufaktur chipnya sendiri

  • Chip buatan sendiri bisa memberi keuntungan besar dari sisi biaya
  • Mungkin mereka menilai memulai dari desain chip sendiri saja sudah cukup

• Membangun pabrik sendiri dengan biaya 7 triliun dolar adalah rencana yang ambisius sekaligus nekat

  • Tampaknya mereka menghadapi kenyataan dan mengecilkan skala rencana tersebut
  • Semoga kualitasnya tetap terjaga

• Lucu bahwa membuat chip sendiri bersama TSMC dianggap sebagai rencana yang "diperkecil"