Startup AI Ilya Sutskever, SSI, raup investasi $1B (Rp13 triliun)

• Safe Superintelligence (SSI), yang baru didirikan bersama oleh Ilya Sutskever, mantan kepala ilmuwan OpenAI, telah menggalang dana tunai sebesar $1 miliar untuk membantu mengembangkan sistem AI yang aman dan jauh melampaui kemampuan manusia
• SSI saat ini memiliki 10 karyawan, dan berencana menggunakan dana tersebut untuk mengamankan daya komputasi serta merekrut talenta terbaik
  • Akan berfokus membangun tim kecil peneliti dan insinyur tepercaya di Palo Alto, California, dan Tel Aviv, Israel
• Perusahaan tidak membagikan valuasinya, tetapi menurut sumber terkait, nilainya diperkirakan mencapai $5 miliar
  • Pendanaan ini menunjukkan bahwa sebagian investor masih bersedia membuat taruhan besar pada talenta luar biasa yang berfokus pada riset AI fundamental
  • Investor yang ikut serta mencakup perusahaan modal ventura papan atas seperti Andreessen Horowitz, Sequoia Capital, DST Global, dan SV Angel
  • Kemitraan investasi NFDG yang dijalankan Nat Friedman serta CEO SSI Daniel Gross juga ikut berpartisipasi
• Keamanan AI menjadi topik hangat di tengah kekhawatiran bahwa AI dapat bertindak bertentangan dengan kepentingan umat manusia atau bahkan menyebabkan kepunahan manusia
  • Rancangan undang-undang di California mendorong regulasi keselamatan terhadap perusahaan dan memecah belah industri
  • OpenAI dan Google menentang, sementara Anthropic dan xAI milik Elon Musk mendukung
• Sutskever adalah salah satu teknolog paling berpengaruh di bidang AI
  • Pada Juni, ia mendirikan SSI bersama Daniel Gross dan Daniel Levy
  • Sutskever menjadi kepala ilmuwan, Levy kepala saintis, dan Gross menangani daya komputasi serta penggalangan dana

Gunung Baru

• Sutskever mengatakan ia memulai usaha baru ini karena "menemukan gunung yang sedikit berbeda dari yang sebelumnya saya daki"
  • Tahun lalu, sebagai anggota dewan induk nirlaba OpenAI, ia memberikan suara untuk menggulingkan CEO OpenAI Sam Altman dengan alasan "putusnya komunikasi"
  • Beberapa hari kemudian, ia membalikkan keputusan itu dan ikut menandatangani surat bersama hampir seluruh karyawan OpenAI yang menuntut kembalinya Altman dan pengunduran diri dewan
  • Namun, akibat peristiwa itu perannya diperkecil, ia dikeluarkan dari dewan, dan meninggalkan perusahaan pada Mei
• Setelah Sutskever pergi, perusahaan membubarkan tim 'superalignment' yang bertugas memastikan AI selaras dengan nilai-nilai manusia sebagai persiapan menghadapi hari ketika AI melampaui kecerdasan manusia
• Berbeda dari struktur perusahaan OpenAI yang tidak biasa, yang diperkenalkan demi keselamatan AI namun memungkinkan penggulingan Altman, SSI memiliki struktur profit yang umum
• SSI saat ini sangat fokus merekrut orang yang sesuai dengan budaya perusahaan
  • Mereka meluangkan waktu untuk memverifikasi apakah kandidat memiliki "karakter yang baik" dan mencari orang dengan kemampuan luar biasa alih-alih terlalu menekankan kredensial serta pengalaman bidang
  • Gross menambahkan, "Kami bersemangat saat menemukan orang yang tertarik pada pekerjaannya, tetapi tidak tertarik pada situasi sekeliling atau promosi yang berlebihan"
• SSI berencana bekerja sama dengan penyedia cloud dan perusahaan chip untuk memenuhi kebutuhan daya komputasinya, tetapi belum memutuskan akan bekerja sama dengan perusahaan mana
  • Startup AI sering bermitra dengan perusahaan seperti Microsoft atau Nvidia untuk memenuhi kebutuhan infrastrukturnya
• Sutskever merupakan pendukung awal hipotesis scaling, yaitu bahwa kinerja model AI akan meningkat jika diberi daya komputasi dalam jumlah besar
  • Gagasan dan eksekusinya memicu gelombang investasi AI pada chip, pusat data, dan energi, serta meletakkan fondasi bagi AI terobosan seperti ChatGPT
  • Ia mengatakan akan mendekati scaling dengan cara yang berbeda dari tempat kerjanya sebelumnya, tetapi tidak membagikan rinciannya
  • "Semua orang hanya membicarakan hipotesis scaling. Tidak ada yang bertanya apa yang sebenarnya sedang kami scale," katanya

• "Sebagian orang bisa bekerja sangat lama dan menempuh jalan yang sama lebih cepat. Itu bukan gaya kami. Tetapi jika Anda melakukan sesuatu yang berbeda, Anda bisa melakukan sesuatu yang istimewa."

Opini GN⁺

• Investasi ini menunjukkan pentingnya riset AI fundamental dan nilai talenta. Meski banyak startup AI kesulitan menggalang dana besar, SSI menerima investasi dalam jumlah sangat besar berkat pengakuan atas kemampuan para pendirinya
• Isu keamanan AI menjadi semakin penting seiring pesatnya perkembangan AI generatif seperti ChatGPT. Namun, regulasi yang terlalu ketat terhadap pengembangan AI atas nama keselamatan bisa menghambat inovasi, sehingga dibutuhkan pendekatan yang seimbang
• SSI menyatakan akan mengejar strategi scaling yang berbeda dari pendekatan yang ada, tetapi detail konkretnya belum diungkap sehingga perkembangan selanjutnya patut diperhatikan. Pengembangan model AI dengan pendekatan baru pun diharapkan
• Konflik antara Sutskever dan OpenAI memang disayangkan, tetapi tampaknya kini tersedia platform baru yang dapat memanfaatkan bakat dan visinya. Menarik untuk melihat dampak SSI terhadap perkembangan AI ke depan
• Meski masih startup baru, strategi perekrutan talenta SSI cukup menarik. Menempatkan kemampuan dan nilai sebagai prioritas dibanding latar pendidikan atau pengalaman adalah arah yang positif. Namun, di tengah persaingan ketat mendapatkan talenta AI, efektivitas pendekatan ini masih belum pasti

[choijaekyu]

Waduh, pria 100 juta dolar!!!

[xguru]

Baru dua bulan sejak didirikan sudah mendapat pendanaan 1,3 triliun won.. pasar ini benar-benar mengerikan.
OpenAI yang ditinggalkan oleh Ilya Sutskever, mendirikan Safe Superintelligence Inc.

[GN⁺]

Opini Hacker News

• Penasaran bagaimana perusahaan-perusahaan yang didanai di bidang AI akan menghasilkan keuntungan

  • LLM open source sudah ada dan akan terus berkembang
  • OpenAI menghasilkan pendapatan yang cukup besar di bidang AI
  • Tanpa pendanaan setingkat VC, sulit mengharapkan keuntungan 10x atau 100x

• Sebagai CFO, penasaran bagaimana kas sebesar $1B akan dikelola dalam jangka pendek dan menengah

  • Penasaran apakah uang tunainya ditempatkan di money market atau obligasi pemerintah
  • Layanan seperti yang dulu disediakan SV Bank akan dibutuhkan

• Penggalangan dana seperti OpenAI, tetapi SSI tidak akan merilis satu pun produk sampai superinteligensi tercapai

  • Mirip proyek Manhattan versi modern

• Investasi $1,000,000,000 dapat mendistorsi visi aman milik SafeAI

  • Investasi dapat mengubah misi perusahaan menjadi penciptaan keuntungan

• Pendanaan dari a16z bisa menjadi sinyal bahwa bidang ini tidak lagi sepanas dulu

• Banyak orang mengasumsikan bahwa tujuannya adalah LLM yang sangat besar

  • Lima tahun lalu, model transformer bukan topik terbesar di AI
  • Mereka punya rencana 10 tahun dan mencoba menciptakan lompatan besar seperti penemuan model transformer
  • "SSI" bisa berbeda dari GPT

• Sam Bankman-Fried menggalang dana dengan valuasi yang lebih tinggi

  • Ilya mungkin tidak terlalu mengesankan bagi para investor
  • Meski begitu, banyak orang tetap ingin berinvestasi padanya
  • Ia mungkin lebih memilih kelompok investor yang kecil

• Tidak yakin apakah AGI bisa dibangun

  • Hanya memperbesar skala LLM tidaklah cukup
  • VC terus mendanai karena orang-orang berpura-pura bahwa mereka bisa membangun superinteligensi
  • Kemungkinan AGI terwujud dalam 5 tahun ke depan rendah

• Tidak paham mengapa AI "aman" bisa mengumpulkan begitu banyak dana

  • Akan memakan waktu dua kali lebih lama sebelum dirilis secara komersial
  • AI yang "tidak aman" terlihat lebih menguntungkan

• Ini salah satu kasus yang dengan cepat mencapai valuasi lebih dari 1 miliar dolar

  • Diragukan apakah dananya bisa digunakan secara efektif