Penilaian YC yang Keliru terhadap LLMs untuk Desain Chip

YC salah memahami LLMs untuk desain chip

• Dalam permintaan startup terbarunya, YC mengusulkan pemanfaatan LLMs untuk desain chip. Namun, usulan ini tampaknya salah memahami tantangan utama dalam desain chip. LLMs kadang-kadang dapat menulis kode Verilog, tetapi kinerjanya masih lebih rendah daripada manusia. Secara khusus, LLMs tidak dapat merancang arsitektur chip baru, padahal inilah pendorong utama peningkatan kinerja chip akselerator modern.

High-level synthesis, sekali lagi

• High-level synthesis (HLS) dimulai pada tahun 1998, ketika Forte Design Systems mengembangkan alat bernama Cynthesizer. Alat ini dapat secara otomatis mengonversi SystemC menjadi Verilog. Namun, HLS tidak meraih keberhasilan besar dalam desain chip. Xilinx (sekarang AMD) mendukung HLS dengan tujuan akselerasi FPGA, tetapi kinerja alat HLS tetap terbatas.

Akselerator baru seperti apa yang bisa dibuat LLMs?

• Alat HLS tidak berhasil di chip bernilai tinggi dan diproduksi dalam volume besar. LLMs kemungkinan besar akan menghadapi tantangan yang serupa. Namun, LLMs dapat membantu insinyur tanpa keahlian silikon memanfaatkan akselerasi perangkat keras. Misalnya, pendekatan ini telah berhasil dalam akselerasi FPGA untuk pekerjaan genomik dan CFD.

Hal yang bisa dilakukan LLMs dalam desain chip

• LLMs dapat menurunkan biaya desain chip, tetapi terutama untuk pasar bernilai rendah. Namun, LLMs bisa berguna untuk mengatasi kekurangan tenaga verifikasi dalam desain chip. Insinyur verifikasi dibutuhkan dua kali lebih banyak daripada perancang, tetapi saat ini sulit menemukan insinyur verifikasi yang baik. Jika LLMs dapat membuat verifikasi lebih cepat dan lebih mudah, ini dapat memberikan nilai besar bagi perusahaan semikonduktor.

• Pada akhirnya, LLMs akan membuat desain chip menjadi lebih murah. Namun, hal ini terutama akan menguntungkan perusahaan semikonduktor besar, startup chip tradisional, dan startup perangkat lunak EDA yang menjual alat berbasis LLM. LLMs tidak akan menghasilkan chip yang 100 kali lebih baik atau membantu menyerang pasar yang kekurangan akselerasi perangkat keras.

[GN⁺]

Komentar Hacker News

• Ada pendapat bahwa LLM masih harus menempuh jalan panjang di bidang EDA

  • LLM salah memahami masalah desain sirkuit dan juga membuat kesalahan perhitungan
  • Alat AI membantu memahami sirkuit, tetapi melewatkan beberapa fungsi
  • Diperlukan alat yang terspesialisasi

• LLM dapat berguna pada tahap menghasilkan ide dan pembelajaran

  • Menggunakan LLM di inti sistem yang kompleks dapat menimbulkan masalah keandalan

• Pendapat dari seseorang yang pernah bekerja di tim arsitektur Qualcomm DSP

  • Dalam desain chip, banyak waktu dihabiskan untuk menulis dokumen dan menjawab pertanyaan
  • LLM dapat membantu mempercepat pekerjaan semacam ini

• Upaya di Silogy untuk meningkatkan debugging pengujian dengan menggunakan agen AI

  • Menganalisis kode dan log, lalu menyempurnakan hipotesis dengan mencerminkan umpan balik insinyur

• Ada pendapat bahwa menerapkan LLM pada desain chip bukan hal yang mudah

  • Efektivitas LLM terbatas ketika pasar kecil atau chip sangat penting
  • Desain chip, tidak seperti perangkat lunak, adalah bidang yang tidak mudah diakses para hacker

• Sanggahan terhadap pendapat bahwa penerapan AI pada desain chip itu rumit

  • Ada harapan bahwa performa LLM akan meningkat lebih jauh di masa depan
  • Menyebut contoh perkembangan LLM di bidang seni digital dan musik

• Kritik terhadap cara YC berinvestasi di AI

  • Ada pendapat bahwa menggunakan LLM untuk desain chip tidak layak secara teknis
  • Kritik bahwa tujuan YC lebih pada menghasilkan keuntungan daripada inovasi

• Ada pendapat bahwa LLM belum siap untuk desain ASIC

  • Menunjukkan inefisiensi arsitektur von Neumann dan mengusulkan pendekatan baru
  • Mengusulkan cara untuk mempercepat komputasi dengan solusi yang bersifat umum

• Pendapat dari seseorang dengan pengalaman 30 tahun dalam desain chip

  • Ada upaya untuk mengotomatisasi alur desain dengan menggunakan AI
  • Alat sintesis tingkat tinggi hampir tidak pernah digunakan dalam desain chip nyata