Rebellions, bermimpi menjadi Samsung berikutnya? Analisis perusahaan (Bagian 1)

AI bekerja melalui dua tahap: pelatihan, yaitu memanipulasi parameter dengan data yang diberikan, dan inferensi, yaitu memecahkan masalah berdasarkan parameter yang telah dibentuk. Selama ini AI hanya digunakan di kalangan peneliti, tetapi sejak kemunculan ChatGPT, kini masyarakat umum pun sudah semakin akrab dengan AI.

Kinerja AI ini sangat dipengaruhi oleh perangkat keras seperti GPU dan NPU. Di antara perusahaan pembuat perangkat keras tersebut, NVIDIA menguasai pangsa pasar secara dominan, terutama di sisi pelatihan. Sebaliknya, inferensi memiliki tingkat kesulitan yang lebih rendah dibanding pelatihan, sehingga semakin banyak perusahaan bermunculan untuk menantang NVIDIA. Di tengah situasi ini, Rebellions ikut melayangkan tantangan.

Perusahaan ini, yang sangat menekankan pentingnya talenta, didirikan oleh empat direktur yang memiliki gelar master/doktor di bidang AI. Awalnya mereka merancang chip yang dibutuhkan perusahaan finansial, lalu memperluas cakupannya hingga merancang chip inferensi AI.

Produk yang dibuat perusahaan ini adalah sebagai berikut.

ION yang dikhususkan untuk industri keuangan adalah produk pertama perusahaan ini, dan menjadi mungkin berkat CEO Park Seong-hyeon serta CTO Oh Jin-uk yang berpengalaman dalam desain chip. Chip ini dapat menangani bilangan bulat dan bilangan riil secara bersamaan, memungkinkan manipulasi ISA secara bebas, serta mendukung berbagai algoritma yang berkaitan dengan deep learning. Selain itu, dikatakan memiliki efisiensi daya tinggi (TOPS/Watt) dan dapat membangun server ultra-low-latency (ULL).

ATOM yang dirilis berikutnya adalah chip yang dirancang untuk inferensi AI. Untuk inferensi yang lebih cepat, chip ini menambahkan memori dan fungsi komunikasi antar-core di dalam chip (network on chip, NoC) yang tidak ada pada ION. Berkat ini, performanya pada model BERT di MLPerf unggul jauh dibanding Qualcomm.

Perusahaan ini tidak hanya membuat perangkat keras, tetapi juga compiler untuk chip AI. Compiler tersebut berbasis open source Apache TVM dan juga mencakup fitur yang mempertimbangkan lingkungan cloud.

Tampaknya perusahaan ini menetapkan operator data center skala besar sebagai pelanggan utamanya. Berbeda dengan laptop dan smartphone yang memiliki banyak keterbatasan, data center dapat menampung jenis workload apa pun dan sistemnya juga mudah dikustomisasi. Selain itu, pasar terkait data center dan inferensi AI juga sedang berkembang, sehingga perusahaan ini perlu semakin membidiknya.

Meski belum ada kabar kontrak untuk ION, ATOM telah dipasok secara konsisten ke KT sejak 2023. Selain itu, perusahaan ini juga menerima investasi besar dari Kakao maupun pemerintah, sehingga terasa bahwa ke depan masih akan ada perkembangan yang lebih besar lagi.