- Brendan Gregg, pakar terkenal manajemen performa Linux dan kontributor utama BPF, menjelaskan alasan ia bergabung dengan OpenAI
- Ia bergabung dengan OpenAI untuk membantu menyelesaikan masalah biaya dan konsumsi energi pusat data AI yang meningkat tajam, dan pada awalnya berfokus pada optimasi performa ChatGPT
- Ia menilai bahwa rekayasa performa yang ada memiliki keterbatasan, sehingga menargetkan metode rekayasa baru untuk menemukan efek optimasi yang lebih besar dengan lebih cepat
- Ia merasakan langsung meluasnya penggunaan teknologi ini di masyarakat melalui berbagai contoh pengguna sehari-hari—misalnya penata rambut, agen properti, konsultan pajak, peternak lebah—yang memanfaatkan ChatGPT secara luas
- Setelah melalui 26 wawancara, ia membandingkan tingkat rekayasa di berbagai perusahaan AI, dan menilai kepadatan talenta serta lingkungan kolaborasi OpenAI sebagai yang paling mengesankan
- Ia memandang perannya di OpenAI sebagai titik balik hidup karena memberinya kesempatan untuk berkontribusi pada peningkatan efisiensi skala global dan keberlanjutan
Tantangan pusat data AI dan rekayasa performa
- Biaya dan laju pertumbuhan pusat data AI meningkat pada kecepatan yang belum pernah terjadi sebelumnya dalam sejarah, dan hal ini dipandang bukan sekadar isu penghematan biaya, tetapi juga perlindungan lingkungan global
- Ia bergabung untuk membantu menangani masalah ini secara langsung di OpenAI, dengan fokus awal pada peningkatan performa ChatGPT
- Ia mencari pendekatan baru untuk mencapai optimasi yang lebih besar dan perbaikan yang lebih cepat, melampaui batas rekayasa performa yang ada
- Ia menekankan struktur terbuka dengan hampir tanpa hambatan terhadap perubahan, bahkan dalam lingkungan berskala besar
- Hal ini dijelaskan dengan sikap: “coba apa pun, dalam skala besar, dan jalankan sekarang juga”
Penyebaran ChatGPT dalam keseharian dan pemicu pribadi
- Saat masih skeptis terhadap adopsi AI, ia merasakan langsung penggunaan massal ChatGPT lewat percakapan dengan penata rambut Mia
- Mia berbagi berbagai contoh penggunaan, seperti memeriksa informasi tujuan perjalanan temannya lewat ChatGPT untuk menjaga rasa keterhubungan emosional
- Ia menggambarkan fitur memori ChatGPT sebagai pengalaman yang terasa seperti berbicara dengan manusia
- Agen properti, konsultan pajak, hingga peternak lebah juga aktif memanfaatkan ChatGPT dalam pekerjaan mereka
- Contoh: peternak lebah menggunakan ChatGPT untuk menangani pekerjaan administrasi usaha kecil
- Melalui pengalaman ini, ia menyadari bahwa ChatGPT telah menjadi alat sehari-hari, dan semakin yakin akan makna sosial dari kontribusi teknisnya
Alasan memilih OpenAI dan proses wawancara
- Atas rekomendasi berbagai ahli industri, ia menjalani 26 wawancara dengan perusahaan-perusahaan besar teknologi AI, termasuk OpenAI
- Ia menemukan lingkungan cloud berskala besar, perubahan kode yang cepat, dan otonomi insinyur yang mirip dengan pengalamannya di Netflix
- Tantangannya juga luas, mencakup bukan hanya GPU tetapi masalah performa di seluruh stack teknologi
- Di OpenAI sudah bekerja banyak rekan insinyur andal yang telah ia kenal sebelumnya
- Pengalaman berkolaborasi dengan orang-orang seperti Vadim, mantan rekan di Netflix, turut memberi pengaruh positif pada keputusannya bergabung
- Ia juga menyebut bahwa OpenAI telah memiliki tim insinyur performa yang berpengalaman, dan dirinya adalah “orang yang paling baru bergabung” di antara mereka
Mimpi masa kecil tentang ‘Orac’ dan kaitannya dengan AI
- Ia mengenang masa kecilnya ketika terpesona oleh superkomputer Orac dari drama fiksi ilmiah Inggris Blake’s 7, yang membuatnya bermimpi mengembangkan AI
- Saat kuliah, ia pernah mencoba membuat sendiri perangkat lunak pemrosesan bahasa alami, tetapi harus berhenti karena keterbatasan memori
- Saat menggunakan ChatGPT, ia teringat Orac, dan terkesan karena ChatGPT mampu mereproduksi kepribadian Orac dengan sempurna dalam jawabannya
- Setelah itu, ia mempersonalisasi pengaturannya dan menggunakannya dalam mode Orac
- Ia juga menyinggung kabar reboot Blake’s 7
Kondisi saat ini di OpenAI dan rencana ke depan
- Saat ini ia bekerja jarak jauh dari Sydney dan berperan sebagai Member of Technical Staff di tim rekayasa performa ChatGPT
- Proyek awalnya adalah meningkatkan performa melalui kolaborasi lintas organisasi serta menyusun strategi penghematan biaya
- Ia berencana menerapkan teknologi yang sudah lama ia gunakan seperti eBPF, Ftrace, dan PMC sesuai kebutuhan OpenAI
- Ia juga memanfaatkan Codex untuk berbagai tugas di luar coding
- Setelah keluar dari Intel, banyak orang di Linux Plumber’s Conference penasaran dengan langkahnya berikutnya, dan hal itulah yang mendorongnya menulis artikel ini
- Terakhir, ketika ia kembali bertanya kepada penata rambut Mia apakah ia masih menggunakan ChatGPT, ia mendapat jawaban: “Saya memakainya 24 jam sehari.”
- Tulisan ini merupakan catatan pribadi yang ditulis atas inisiatif sendiri, bukan atas permintaan perusahaan
3 komentar
Bahkan jika Anda mengatakan bahwa perusahaan yang menimbun 40% memori dunia sedang menjaga kepentingan publik bumi...
Ini apaan lagi... dari chipset sampai data center, dari sudut pandang OpenAI yang tidak membuat dan memakai sendiri satu pun hal semacam itu, kalau software stack dioptimalkan mereka tinggal scale-up sebesar kapasitas yang tersisa, jadi tujuannya bukan perlindungan lingkungan melainkan memaksimalkan keuntungan (seperti komentar HN, paradoks Jevons)
Postingan ini terlalu bernuansa promosi diri sampai rasanya agak memalukan untuk dibaca
Komentar Hacker News
Ungkapan “bukan sekadar penghematan biaya, tapi menyelamatkan bumi” terdengar agak janggal
Jadi terkesan, jangan-jangan ini sebenarnya cuma soal uang
Punya gairah terhadap pekerjaan itu bagus, tapi tidak perlu sampai terlihat seperti Bunda Teresa
Sebagai referensi, ini mengingatkan pada adegan parodi dari serial TV Silicon Valley
Tujuan perusahaan besar bukan menyelamatkan dunia, melainkan mengejar laba
Kalau efisiensi hardware meningkat, pada akhirnya hanya akan diisi dengan lebih banyak workload
Meski begitu, saya tetap menantikan inovasi baru yang lahir dari area masalah ini
Sebagai penggemar buku Brendan, saya mendukung keputusannya bergabung dengan OpenAI, tapi sulit setuju dengan analisisnya
Jika OpenAI membeli energi sebesar Y dengan X dolar, peningkatan efisiensi pada akhirnya hanya akan berarti produksi token yang lebih banyak
Ini bukan penghematan energi, melainkan lebih dekat ke Paradoks Jevons
Namun biaya energi untuk permintaan seperti “tanya skor basket ke chatbot” mungkin tetap bisa turun
Soal kompensasi memang sempat disebut, tapi uang bukan satu-satunya alasan
Saya ingin langsung membantu menyelesaikan masalah biaya energi di pusat data AI
Selama 20 tahun terakhir saya menulis materi ajar dengan bayaran nyaris setara upah minimum, sambil membantu developer lain,
dan lewat open source saya juga membangun fondasi bagi banyak startup
Saya juga ikut berkontribusi pada penyebaran budaya kerja jarak jauh
Jika efisiensi meningkat, strukturnya justru membuat orang akhirnya membeli lebih banyak GPU
Untuk mengurangi efek samping seperti ini, saya rasa perlu ada regulasi
kata-kata seperti “demi dunia” terdengar hampa
Mengecewakan, tapi itu pilihan Anda dan saya tetap menghormatinya
Tautan terkait
tetapi ada kemungkinan OpenAI akan merahasiakan sebagian demi keunggulan kompetitif
Nada tulisan yang terlalu pamer diri membuatnya sulit dibaca
Bagian “penata rambut Mia terdiam saat saya bilang saya Intel Fellow” terasa memalukan
Seolah dia ingin membuatnya terkesan, lalu saat responsnya datar dia memutuskan pindah kerja
Kalau berhadapan dengan dunia di luar industri teknologi, reaksi seperti itu wajar
Sebaliknya, merek gunting yang disebut penata rambut itu mungkin juga asing bagi kita
Cara rekrutmen di Silicon Valley merangsang citra diri orang
sehingga mereka percaya bahwa dirinya sedang mengubah dunia,
dan akibatnya jadi lebih sulit melihat dampak negatif secara langsung
Mengejutkan melihat seseorang yang dulu merupakan system engineer hebat menulis sesuatu yang begitu tidak membumi
Rasanya politik dan promosi diri lebih diutamakan daripada kebenaran teknis
Mempromosikan diri sendiri atau ide pun pada akhirnya bisa dilihat sebagai perluasan dari engineering
Sebagai penggemar, saya membaca tulisannya, tetapi ungkapan “menyelamatkan dunia” terdengar seperti rasionalisasi diri
Ini terdengar seperti analogi ironis semacam “saya akan menyelamatkan bumi dengan mengekstrak panas sebanyak mungkin dari kebakaran ban”
Bagian tentang merasa terhubung dengan teman yang sedang bepergian jauh lewat obrolan tentang kota itu di ChatGPT terasa menyedihkan
Penggunaan seperti ini tidak memerlukan listrik skala gigawatt
Model lokal kecil sudah cukup
Komunikasi asinkron antarmanusia sudah lama menjadi masalah yang terpecahkan
Tidak semenyedihkan menonton acara perjalanan