「Mencoba Belajar Machine Learning Sendiri」
(github.com/teddylee777)1. Tujuan dan struktur dokumen
- Tulisan ini adalah kumpulan materi pembelajaran yang secara sistematis menghimpun kuliah, blog, GitHub, paper, dataset, dan lainnya untuk orang yang ingin belajar machine learning dan deep learning secara mandiri.
- Ini bukan sekadar daftar tautan, melainkan juga menyajikan tingkat kesulitan belajar dan tujuan pemanfaatannya agar pemula tahu urutan belajar yang baik.
- Cakupannya luas, mulai dari Python hingga matematika dan statistik, machine learning, deep learning, LLM, sampai praktik Kaggle.
- Dijalankan sebagai proyek GitHub terbuka tempat berbagai kontributor menambahkan materi.
2. Urutan belajar yang disarankan
- Disarankan untuk terlebih dahulu mempelajari sintaks Python, lalu memproses data dengan NumPy dan Pandas, serta memvisualisasikannya dengan alat seperti Matplotlib.
- Setelah itu, pelajari aljabar linear, diferensiasi, probabilitas, dan statistik untuk memahami prinsip algoritma machine learning.
- Pada tahap berikutnya, pelajari machine learning tradisional menggunakan Scikit-learn dan deep learning berbasis TensorFlow serta PyTorch.
- Terakhir, strukturnya diarahkan untuk meningkatkan kemampuan praktis melalui proyek Kaggle, implementasi paper, dan analisis data nyata.
3. Dasar matematika dan statistik
- Tersedia rangkuman kuliah yang menjelaskan konsep matematika yang diperlukan untuk belajar AI, seperti vektor, matriks, diferensiasi, turunan parsial, logaritma natural, dan kemiripan.
- Di bidang statistik, materi mencakup distribusi probabilitas, distribusi normal, uji hipotesis, p-value, interval kepercayaan, dan teori Bayes.
- Juga mencakup AR, MA, dan ARIMA yang diperlukan untuk analisis deret waktu, serta materi transformasi Fourier dalam pemrosesan sinyal dan empirical mode decomposition.
- Materi pengantar yang membantu memahami rumus kompleks dengan mudah melalui gambar dan kuliah tulisan tangan diprioritaskan untuk direkomendasikan.
4. Machine learning tradisional
- Pertama-tama menjelaskan prinsip dasar bagaimana model belajar, seperti gradient descent, backpropagation error, dan loss function.
- Mencakup algoritma representatif seperti regresi linear, regresi logistik, decision tree, KNN, SVM, PCA, dan analisis klaster.
- Termasuk juga metode untuk mengurangi overfitting seperti regularisasi L1 dan L2, serta Lasso, Ridge, dan ElasticNet.
- Setiap topik menyediakan kuliah konsep bersama materi implementasi Python sehingga teori dan praktik terhubung.
5. Bidang utama deep learning
- Merangkum model-model deep learning utama, mulai dari struktur neural network hingga CNN, RNN, LSTM, GAN, dan reinforcement learning.
- Dalam computer vision, memperkenalkan contoh pemanfaatan object detection, image segmentation, autonomous driving, dan OpenCV.
- Dalam natural language processing, mencakup Word2Vec, BERT, GPT, Transformer, Attention, Seq2Seq, dan lainnya.
- Tidak hanya penggunaan model sederhana, tetapi juga memungkinkan belajar memahami paper, mengimplementasikan kode, dan menyesuaikan hyperparameter.
6. Teknologi AI terbaru dan cara belajar
- Memperkenalkan teknologi yang secara otomatis mencari struktur model dan parameter, seperti AutoML, Bayesian optimization, Hyperband, dan NAS.
- Meta-learning adalah metode untuk cepat mempelajari masalah baru, sedangkan active learning adalah metode untuk belajar dengan hanya memilih data yang diperlukan.
- Federated learning melatih model secara bersama-sama di berbagai perangkat tanpa mengumpulkan data ke server pusat.
- Incremental learning dan continual learning membahas cara terus mempelajari data baru sambil mempertahankan pengetahuan yang sudah ada.
7. LLM, LangChain, dan ChatGPT
- Memperkenalkan AI agent seperti AutoGPT yang secara otomatis membagi tujuan yang diberikan pengguna menjadi beberapa tahap dan menjalankannya.
- Melalui contoh seperti KoChatGPT dan KoAlpaca, pembaca dapat mempelajari fine-tuning LLM bahasa Korea serta teknologi RLHF dan LoRA.
- Materi LangChain membahas cara menghubungkan LLM dengan PDF, situs web, CSV/Excel, dan model Hugging Face.
- Dengan memanfaatkan dokumentasi OpenAI API dan Cookbook, pembaca dapat mengembangkan layanan tanya jawab, peringkasan dokumen, dan analisis data.
8. Pembelajaran praktik Kaggle dan Dacon
- Menyediakan materi bertahap mulai dari cara memulai Kaggle, penggunaan dataset, API, prosedur mengikuti kompetisi, hingga solusi pemenang.
- Pembaca dapat berlatih masalah klasifikasi dan regresi seperti Titanic, harga rumah, risiko kredit, dan permintaan sepeda.
- Kompetisi dan tutorial per bidang seperti deteksi gambar, natural language processing, deret waktu, dan suara juga dipisahkan.
- Intinya adalah membangun pengalaman dalam preprocessing data, validasi model, dan peningkatan performa pada masalah yang mirip dengan praktik nyata.
9. Beragam bentuk materi pembelajaran
- Kuliah disusun terutama dari konten gratis atau terbuka seperti Coursera, Stanford, T Academy, dan YouTube.
- Blog menjelaskan lebih dalam topik seperti matematika, statistik, paper, dan natural language processing.
- Repositori GitHub mencakup Jupyter Notebook yang dapat dijalankan, kode contoh, model pretrained, dan dataset.
- Wikidocs dan ebook cocok untuk mempelajari Python, deep learning, algorithmic trading, dan lainnya secara berurutan seperti membaca buku.
10. Open data dan alat pengembangan
- Memperkenalkan berbagai sumber data seperti AI Hub, portal data publik, Seoul Open Data Plaza, dan Papers with Code.
- Merangkum library berdasarkan tujuan, dengan fokus pada TensorFlow, PyTorch, dan Scikit-learn.
- Termasuk PublicDataReader untuk mengambil data publik sebagai DataFrame, serta dataset medis, vision, dan bahasa Korea.
- Juga ada materi tentang lingkungan pengembangan berbasis Docker dan pembangunan server GPU, sehingga membantu menyusun lingkungan proyek nyata.
11. Komunitas dan informasi karier
- Melalui komunitas berdasarkan teknologi seperti TensorFlow Korea, PyTorch KR, dan Kaggle Korea, pembaca dapat bertanya dan bertukar informasi.
- Melalui wawancara dengan data scientist dan machine learning engineer aktif, diperkenalkan pengalaman tentang pekerjaan, pencarian kerja, gaji, dan studi pascasarjana.
- Pembaca juga dapat melihat kemungkinan masuk dari latar belakang non-teknis serta perbedaan peran antara data scientist dan ML engineer.
- Ini menunjukkan bahwa selain belajar teknologi, portofolio, kompetisi, dan aktivitas komunitas juga penting untuk persiapan karier.
Evaluasi inti
| Perspektif | Isi |
|---|---|
| Sifat materi | Kumpulan tautan dan materi praktik komprehensif untuk belajar mandiri machine learning dan AI |
| Keunggulan utama | Cakupannya luas dari dasar hingga LLM terbaru, dengan banyak materi gratis |
| Pembaca yang cocok | Pemula AI, developer, analis data, peserta persiapan Kaggle |
| Cara memanfaatkan | Daripada melihat semua materi secara berurutan, pilih jalur belajar sesuai bidang tujuan |
| Catatan perhatian | Sebagian materi sudah lama, jadi perlu memeriksa versi library dan apakah teknologinya masih terbaru |
2 komentar
Oh~~ saya suka yang seperti ini~!
Wah, terima kasih atas materi yang luar biasa!