Bagaimana cara beralih menjadi engineer machine learning?

xguru · 2024-07-02T11:16:02+09:00

Seorang software engineer yang telah membangun aplikasi intensif data selama lebih dari 10 tahun. Terutama backend (legacy, cloud) (1) Apakah ini langkah yang bagus untuk pivot? (2) Ada yang pernah melakukannya? (3) Jika pekerjaanku tidak melibatkan ML, bagaimana aku bisa melakukannya? Apakah ada praktik engineering ML yang tidak berfokus pada pembangunan model, tetapi lebih pada pengelolaan/deployment/scaling model? Artinya, apakah aku tidak perlu mempelajari semua matematika yang mendasarinya? arnabgho Bekerja sebagai tech lead MLE di Snap dan membantu meletakkan fondasi infrastruktur generative AI Snap Sangat merekomendasikan jalur MLE sebagai jalur karier yang sangat memuaskan Buku "Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications" adalah pengantar yang sangat baik untuk desain sistem machine learning produksi Juga sangat merekomendasikan blog yang ditulis penulisnya (Chip Huyen) sebagai pengantar untuk membangun sistem AI dan ML kelas produksi Membangun aplikasi LLM untuk produksi (termasuk tautan ke ringkasan dan terjemahan) Jawaban untuk pertanyaannya (1) Ya, terutama di titik belok zeitgeist seperti sekarang, melakukan transisi seperti ini adalah langkah yang bijak (2) Ya (3) Lihat sumber daya di atas tentang cara memulai dan menguasai keterampilan engineering ML breckenedge Sekitar 7 bulan lalu terjun ke proyek 3 bulan untuk membuat rekomendasi konten menggunakan ML Memulai dengan library collaborative filtering siap pakai dan berakhir dengan PyTorch, dan ChatGPT sangat membantu Sebenarnya bisa saja terus melanjutkan jalur itu, tetapi manajemen menginginkan hasil yang lebih cepat dan lebih baik, dan saat memulai tanpa pengalaman, 3 bulan adalah waktu yang cukup untuk mulai menemukan ritmenya Sebagian besar ML ternyata adalah membersihkan dan menyiapkan dataset, dan itu tidak terlalu menyenangkan Seorang eksekutif menyarankan mencoba Amazon Personalize; sempat menjadi percobaan yang bagus, tetapi pada akhirnya tidak berhasil. Entah karena masalah data atau model dasarnya Inti masalah saat menggunakan layanan ML black-box adalah kita tidak bisa menganalisis apa yang sebenarnya terjadi Amazon Personalize membuat perubahan pada layer data menjadi sulit, sehingga tidak jelas apakah kita benar-benar makin dekat ke solusi yang lebih baik Seorang ahli ML yang terampil mungkin bisa lebih dekat ke solusi yang lebih baik saat menggunakan Personalize Jadi, jika kamu bisa mencoba ML, sebaiknya lakukan proyek percobaan ML sebelum menjadikannya karier untuk melihat apakah kamu menyukainya nsyptras > Apakah ada engineering ML yang tidak berfokus pada pembangunan model, tetapi lebih pada pengelolaan/deployment/scaling model? Saya beralih ke area ini pada 2018. Namanya MLOps. Sebelumnya saya adalah mobile developer Saat itu transisinya cukup mudah (meski sekarang persaingannya mungkin lebih ketat) Yang saya lakukan: Mengerjakan proyek ML intensif sendirian, lalu sadar bahwa saya menikmati bekerja di seluruh stack ML Saya juga menulis postingan blog tentang proyek ini Lalu melamar ke tim MLOps dan menggunakan proyek itu untuk membuktikan skill/pengalaman Mungkin kamu bisa menghindari matematika, tetapi mempelajari dasarnya akan membuat semuanya jauh lebih mudah Saya rasa tanpa matematika ML dasar, saya akan benar-benar bekerja secara buta ilaksh Sepertinya yang kamu pikirkan adalah "MLOps". MLOps juga penting Cobalah berlatih men-deploy model dengan Python menggunakan HuggingFace dan RunPod Juga cari tutorial tentang pretraining, fine-tuning, dan evaluasi LLM, lalu cek Predibase Menurut saya hal yang paling penting saat ini adalah diffusion transformer Jika kamu bisa menemukan dokumentasi yang menjelaskan cara menjalankan training job untuk ini, itu bisa membantu banyak orang Jika ingin "cheat", cek replicate.com. cog juga bisa berguna untuk self-hosting model ML di luar replicate.com nottorp Saya tidak benar-benar "beralih menjadi engineer ML", tetapi selama 2,5 bulan terakhir saya lumayan belajar cara memakai model publik, serta melatih dan menjalankannya menggunakan tools dan API Hampir tidak menulis kode dan lebih banyak membaca buku Bekerja dengan organisasi kecil (yang tidak mengurungmu dalam satu peran dan hanya memberi pekerjaan yang harus diselesaikan) bisa membantu trybackprop Saya benar-benar menulis posting blog tentang ini untuk dibagikan kepada software engineer berpengalaman yang sedang mempertimbangkan transisi ke ML You Don't Need a Masters/PhD – How These 9 Engineers Broke Into ML Tulisan yang memperkenalkan berbagai kasus engineer yang bertransisi sambil bekerja di Meta, Google, Amazon, dan OpenAI Kamu bisa melihat strategi dan taktik apa yang mereka gunakan Jawaban Jika kamu menikmati ngoprek di waktu pribadi, ini bisa dibilang "bijak". Saya sendiri selama 1 tahun sebelum transisi belajar materi pada malam hari dan akhir pekan, dan untuk pertama kalinya berpikir ingin melakukan ini secara full-time Ya, dan sekarang sudah tahun ke-7 saya bekerja sebagai engineer ML. Saat ini saya adalah pimpinan teknis ML di FAANG. Sebelumnya saya bekerja di bidang infrastruktur dan produk Salah satu nasihat yang saya terima beberapa tahun lalu adalah bergabung dengan tim yang berdekatan dengan pekerjaan ML agar terbiasa melihat seperti apa ML produksi. Kamu juga bisa mulai melatih cara berpikir ML di Kaggle.com Di posting lain di blog saya, kamu bisa menemukan resource untuk mempelajari AI/ML dan matematika yang dibutuhkan untuk pekerjaan ini Linear Algebra 101 for AI/ML – Part 1 (termasuk kuis interaktif, dasar-dasar vektor/matriks, dan pengantar singkat ke PyTorch, framework ML open source yang banyak digunakan di industri). deepGem Coba lihat fast.ai, "Practical Deep Learning for Coders" Meski materinya dari 2022, prinsip yang dipelajari di sini masih sangat relevan dan sangat berguna saat ini Terutama self-attention, transformer, dan arsitektur modern terbaru yang berbasis pada konsep-konsep ini Banyak orang yang menyelesaikan kursus fast.ai lalu beralih karier bukan hanya menjadi engineer ML tetapi juga research scientist Singkatnya, ini bukan kursus yang mudah, jadi kamu perlu meluangkan waktu senggang untuk mengikutinya Jika kamu tertarik pada deployment/scaling, tidak masalah langsung lompat ke kuliah 2 dari part 1. Jeremy adalah pengajar yang hebat Saya bukan berasal dari akademia, jadi menurut saya gaya mengajarnya sangat menyehatkan

(news.ycombinator.com)

38 poin oleh xguru 2024-07-02 | 2 komentar | Bagikan ke WhatsApp

Seorang software engineer yang telah membangun aplikasi intensif data selama lebih dari 10 tahun. Terutama backend (legacy, cloud)
(1) Apakah ini langkah yang bagus untuk pivot? (2) Ada yang pernah melakukannya? (3) Jika pekerjaanku tidak melibatkan ML, bagaimana aku bisa melakukannya?
Apakah ada praktik engineering ML yang tidak berfokus pada pembangunan model, tetapi lebih pada pengelolaan/deployment/scaling model?
- Artinya, apakah aku tidak perlu mempelajari semua matematika yang mendasarinya?

arnabgho

Bekerja sebagai tech lead MLE di Snap dan membantu meletakkan fondasi infrastruktur generative AI Snap
- Sangat merekomendasikan jalur MLE sebagai jalur karier yang sangat memuaskan
Buku "Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications" adalah pengantar yang sangat baik untuk desain sistem machine learning produksi
Juga sangat merekomendasikan blog yang ditulis penulisnya (Chip Huyen) sebagai pengantar untuk membangun sistem AI dan ML kelas produksi
Membangun aplikasi LLM untuk produksi (termasuk tautan ke ringkasan dan terjemahan)
Jawaban untuk pertanyaannya
- (1) Ya, terutama di titik belok zeitgeist seperti sekarang, melakukan transisi seperti ini adalah langkah yang bijak
- (2) Ya
- (3) Lihat sumber daya di atas tentang cara memulai dan menguasai keterampilan engineering ML

breckenedge

Sekitar 7 bulan lalu terjun ke proyek 3 bulan untuk membuat rekomendasi konten menggunakan ML
Memulai dengan library collaborative filtering siap pakai dan berakhir dengan PyTorch, dan ChatGPT sangat membantu
Sebenarnya bisa saja terus melanjutkan jalur itu, tetapi manajemen menginginkan hasil yang lebih cepat dan lebih baik, dan saat memulai tanpa pengalaman, 3 bulan adalah waktu yang cukup untuk mulai menemukan ritmenya
Sebagian besar ML ternyata adalah membersihkan dan menyiapkan dataset, dan itu tidak terlalu menyenangkan
Seorang eksekutif menyarankan mencoba Amazon Personalize; sempat menjadi percobaan yang bagus, tetapi pada akhirnya tidak berhasil. Entah karena masalah data atau model dasarnya
Inti masalah saat menggunakan layanan ML black-box adalah kita tidak bisa menganalisis apa yang sebenarnya terjadi
Amazon Personalize membuat perubahan pada layer data menjadi sulit, sehingga tidak jelas apakah kita benar-benar makin dekat ke solusi yang lebih baik
Seorang ahli ML yang terampil mungkin bisa lebih dekat ke solusi yang lebih baik saat menggunakan Personalize
Jadi, jika kamu bisa mencoba ML, sebaiknya lakukan proyek percobaan ML sebelum menjadikannya karier untuk melihat apakah kamu menyukainya

nsyptras

> Apakah ada engineering ML yang tidak berfokus pada pembangunan model, tetapi lebih pada pengelolaan/deployment/scaling model?
Saya beralih ke area ini pada 2018. Namanya MLOps. Sebelumnya saya adalah mobile developer
Saat itu transisinya cukup mudah (meski sekarang persaingannya mungkin lebih ketat)
Yang saya lakukan:
- Mengerjakan proyek ML intensif sendirian, lalu sadar bahwa saya menikmati bekerja di seluruh stack ML
- Saya juga menulis postingan blog tentang proyek ini
- Lalu melamar ke tim MLOps dan menggunakan proyek itu untuk membuktikan skill/pengalaman
- Mungkin kamu bisa menghindari matematika, tetapi mempelajari dasarnya akan membuat semuanya jauh lebih mudah
- Saya rasa tanpa matematika ML dasar, saya akan benar-benar bekerja secara buta

ilaksh

Sepertinya yang kamu pikirkan adalah "MLOps". MLOps juga penting
Cobalah berlatih men-deploy model dengan Python menggunakan HuggingFace dan RunPod
Juga cari tutorial tentang pretraining, fine-tuning, dan evaluasi LLM, lalu cek Predibase
Menurut saya hal yang paling penting saat ini adalah diffusion transformer
- Jika kamu bisa menemukan dokumentasi yang menjelaskan cara menjalankan training job untuk ini, itu bisa membantu banyak orang
Jika ingin "cheat", cek replicate.com. cog juga bisa berguna untuk self-hosting model ML di luar replicate.com

nottorp

Saya tidak benar-benar "beralih menjadi engineer ML", tetapi selama 2,5 bulan terakhir saya lumayan belajar cara memakai model publik, serta melatih dan menjalankannya menggunakan tools dan API
Hampir tidak menulis kode dan lebih banyak membaca buku
Bekerja dengan organisasi kecil (yang tidak mengurungmu dalam satu peran dan hanya memberi pekerjaan yang harus diselesaikan) bisa membantu

trybackprop

Saya benar-benar menulis posting blog tentang ini untuk dibagikan kepada software engineer berpengalaman yang sedang mempertimbangkan transisi ke ML
- You Don't Need a Masters/PhD – How These 9 Engineers Broke Into ML
- Tulisan yang memperkenalkan berbagai kasus engineer yang bertransisi sambil bekerja di Meta, Google, Amazon, dan OpenAI
- Kamu bisa melihat strategi dan taktik apa yang mereka gunakan
Jawaban
- 1. Jika kamu menikmati ngoprek di waktu pribadi, ini bisa dibilang "bijak". Saya sendiri selama 1 tahun sebelum transisi belajar materi pada malam hari dan akhir pekan, dan untuk pertama kalinya berpikir ingin melakukan ini secara full-time
- 1. Ya, dan sekarang sudah tahun ke-7 saya bekerja sebagai engineer ML. Saat ini saya adalah pimpinan teknis ML di FAANG. Sebelumnya saya bekerja di bidang infrastruktur dan produk
- 1. Salah satu nasihat yang saya terima beberapa tahun lalu adalah bergabung dengan tim yang berdekatan dengan pekerjaan ML agar terbiasa melihat seperti apa ML produksi. Kamu juga bisa mulai melatih cara berpikir ML di Kaggle.com
Di posting lain di blog saya, kamu bisa menemukan resource untuk mempelajari AI/ML dan matematika yang dibutuhkan untuk pekerjaan ini
Linear Algebra 101 for AI/ML – Part 1
(termasuk kuis interaktif, dasar-dasar vektor/matriks, dan pengantar singkat ke PyTorch, framework ML open source yang banyak digunakan di industri).

deepGem

Coba lihat fast.ai, "Practical Deep Learning for Coders"
Meski materinya dari 2022, prinsip yang dipelajari di sini masih sangat relevan dan sangat berguna saat ini
Terutama self-attention, transformer, dan arsitektur modern terbaru yang berbasis pada konsep-konsep ini
Banyak orang yang menyelesaikan kursus fast.ai lalu beralih karier bukan hanya menjadi engineer ML tetapi juga research scientist
Singkatnya, ini bukan kursus yang mudah, jadi kamu perlu meluangkan waktu senggang untuk mengikutinya
Jika kamu tertarik pada deployment/scaling, tidak masalah langsung lompat ke kuliah 2 dari part 1. Jeremy adalah pengajar yang hebat
- Saya bukan berasal dari akademia, jadi menurut saya gaya mengajarnya sangat menyehatkan

2 komentar

rawoon89 2024-07-03

Saya membacanya dengan baik. Terima kasih.

ahwjdekf 2024-07-02

Di Korea, cukup tahu cara memanggil API sampai level itu saja sudah memadai; perusahaan tidak mau mengeluarkan banyak uang untuk berinvestasi, tetapi tetap ingin ikut tren yang sedang panas... suasananya jadi serba tanggung seperti itu.