Pengantar Pembelajaran Statistik dengan Python
(statlearning.com)- Di tengah skala pengumpulan data yang makin besar, An Introduction to Statistical Learning membahas pembelajaran statistik sebagai alat pengantar praktis untuk memahami data
- Ditujukan bagi pembaca yang ingin mempelajari alat analisis data modern, dengan fokus pada penjelasan yang luas dan tidak terlalu teknis ketimbang matematika yang rumit
- Edisi berbasis R berlanjut dari edisi pertama pada 2013 ke edisi kedua pada 2021, sementara Python edition(ISLP) terbit pada 2023
- Setiap edisi menghubungkan konsep di tiap bab dengan kode R atau Python melalui lab praktik di akhir bab
- Tersedia tautan unduhan PDF dan pembelian, sehingga pemula dapat memilih materi yang dibutuhkan dari edisi R pertama, edisi R kedua, atau edisi Python
Fokus buku pengantar pembelajaran statistik
- An Introduction to Statistical Learning berangkat dari kondisi ketika skala dan cakupan pengumpulan data terus membesar di hampir semua bidang
- Pembelajaran statistik diperlakukan sebagai kumpulan alat yang dibutuhkan orang yang ingin memahami data
- Dengan membahas topik inti secara luas sambil menurunkan tingkat kesulitan teknis, buku ini mudah diakses oleh pembaca yang ingin menggunakan alat analisis data modern
Edisi, praktik, dan materi
- Edisinya dibagi dengan fokus pada R dan Python
- ISLR edisi pertama terbit pada 2013 sebagai edisi berbasis R
- ISLR edisi kedua terbit pada 2021
- ISLP terbit pada 2023 sebagai edisi Python
- ISLR telah diterjemahkan ke bahasa Mandarin, Italia, Jepang, Korea, Mongolia, Rusia, dan Vietnam
- Di akhir setiap bab terdapat lab yang menunjukkan konsep bab tersebut dengan R atau Python
- Topik yang dibahas dalam bab-babnya adalah sebagai berikut
- Apa itu pembelajaran statistik
- Regresi
- Klasifikasi
- Metode resampling
- Pemilihan model linear dan regularisasi
- Metode di luar linearitas
- Metode berbasis pohon
- Support vector machine
- Deep learning
- Analisis survival
- Pembelajaran tak terawasi
- Pengujian berganda
- Materi PDF tersedia melalui tautan berikut
1 komentar
Pendapat Hacker News
Sedikit keluar dari topik, tetapi rasio antara jumlah upvote dan jumlah komentar menarik
Tulisan terkait ChatGPT biasanya mendapat ratusan komentar, tetapi di sini sejauh ini hanya ada 7 komentar untuk 100 upvote
Bukunya terlihat bagus, dan melihat para penulisnya hampir pasti bagus, jadi saya berniat membelinya. Namun rasio ini terasa seperti menunjukkan kondisi terkini ‘ML/AI/data science’. Saya jadi berpikir sinis bahwa banyak orang yang tertarik pada hype AI belum banyak menyentuh konsep-konsep dasarnya, dan tidak memahami secara mendalam matematika/statistika di baliknya
Tambahan, saya sendiri juga tidak menulis komentar yang bermakna tentang topik tautan ini
https://github.com/melling/ISLR
Ada juga kursus edX yang dibuat oleh para penulisnya: https://www.edx.org/course/statistical-learning
Buku seperti ini sangat penting untuk memulai machine learning/AI, dan buku ini khususnya sangat bagus. Saya juga mulai belajar machine learning dari buku ini
Ada overheating besar-besaran di AI dan sepertinya akan menjadi seperti gelembung dotcom. Berbeda dari crypto, AI sudah punya kegunaan nyata, dan ini tetap berlaku bahkan tanpa menghitung produk LLM. Namun ada juga banyak hype dan ekspektasi bercampur harapan, jadi ketika gelembungnya pecah banyak orang akan terluka. Meski begitu, dalam jangka pendek akan terus ada orang yang benar-benar menghasilkan uang, dan para pendorong hype yang saya kenal juga sangat memahami hal ini
Namun AI akan tetap ada, dan setelah gelembung pecah pun pemanfaatan AI yang nyata akan tetap ada di sekitar kita
Saya memahami perasaan itu, tetapi untuk banyak penggunaan machine learning, memanggil ChatGPT API sering kali merupakan pendekatan 100 kali lebih baik daripada membuat model sendiri, sehingga mungkin benar-benar tidak perlu memahami matematikanya
Misalnya saya sedang membuat aplikasi perhitungan nutrisi AI dan memakai pemanggilan fungsi ChatGPT. Jika menambahkan field seperti emoji makanan, makanan apa pun akan otomatis diklasifikasikan ke emoji yang sesuai. Untuk melakukan hal seperti ini, Anda sama sekali tidak perlu tahu gradient descent atau sifat-sifat dasarnya
Ini sudah terjadi sejak beberapa tahun lalu, dan di sebagian besar lingkungan kerja dampaknya buruk. Saya tidak iri pada data scientist praktisi yang harus mengelola ekspektasi
Di HN hampir semuanya hanya hype dan tidak banyak sains. Keyakinannya kuat, tetapi dasarnya lemah. Orang suka mengutip paper, tetapi hanya membaca abstraknya dan melewatkan nuansa penting. Ini makin terjadi terutama di bidang yang berisiko ditolak jika menyajikan keterbatasan, dan reviewer bisa saja menyalin-tempel bagian itu lalu mengakhirinya dengan ucapan terima kasih
Dunia akademik sedikit lebih baik, tetapi secara umum ada banyak peneliti yang kurang memiliki dasar matematika. Bahkan di universitas atau lab papan atas, saya pernah mengenal atau bertemu orang yang tidak tahu perbedaan antara likelihood dan probabilitas. Ada juga yang tidak memahami densitas probabilitas, bahkan di antara orang-orang yang mengerjakan diffusion model. Namun peneliti yang paling menonjol umumnya memiliki kemampuan ini. Sebagai gantinya, mereka tidak menerbitkan paper secepat itu, dan pekerjaan mereka juga mungkin kurang populer
Saat ini banyak riset condong ke penyetelan parameter dan pengerahan sumber daya komputasi. Saya mengakui bahwa tuning memang diperlukan, tetapi kita harus jujur bahwa itu bukan inovasi tingkat tinggi, dan sulit membuktikan bahwa sesuatu lebih baik ketika model/arsitektur lain tidak dituning pada tingkat yang sama. Tren seperti ini menjadi penghalang bagi jenis riset lain, jadi saya cukup sering menyuarakannya
Singkatnya, itu cukup akurat. Di machine learning/AI, terutama di HN, ada sangat banyak noise
Sebagai tambahan, saya merekomendasikan Statistical Rethinking karya Richard McElreath (https://xcelab.net/rm/statistical-rethinking/). Bacanya lebih menyenangkan daripada ISLR dan juga memperkenalkan statistika Bayesian (kuliahnya juga ada di YouTube). Saya juga merekomendasikan Regression and Other Stories karya Gelman (https://avehtari.github.io/ROS-Examples/)
Buku ini adalah versi pembaruan dari buku ajar yang sangat populer yang aslinya memakai R. Profesor Hastie dan Tibshirani adalah pendidik terkemuka di bidang statistical learning
Di Stanford Online juga ada kuliah video yang mengikuti catatan ini. Sangat direkomendasikan jika ingin mempelajari sisi teoretis machine learning klasik
Seluruh buku bisa diunduh secara legal di sini [pdf]: https://hastie.su.domains/ISLP/ISLP_website.pdf
ISL adalah buku ajar pengantar terbaik untuk metode machine learning klasik. Berorientasi teori, tetapi cukup mudah diakses oleh kelompok mahasiswa yang luas dengan pengetahuan dasar statistika, aljabar linear, dan coding
Contoh-contohnya yang hanya ada dalam R terasa merepotkan saat mengajar dengan Python. Semoga sekarang diubah menjadi seri Jupyter notebook dan didistribusikan melalui tempat seperti Colab
Sebagian orang mungkin menyebutnya machine learning “klasik”, tetapi bagi saya metode dengan sedikit parameter seperti itu dalam banyak kasus sangat berguna dan jauh lebih mudah diinterpretasikan daripada RNN
Saya sempat mencoba membandingkan dua versi lab zero
Saya hanya menelusuri praktikum Python selama beberapa menit, tetapi dibandingkan praktikum R yang saya ingat, itu terlihat jauh lebih rumit dan panjang
Saya tahu di HN orang sering mengeluh bahwa R sulit dan membingungkan, tetapi menurut saya R adalah bahasa yang lebih mudah bagi pemula atau orang yang condong ke statistik untuk mulai mengerjakan pekerjaan statistik
Ini tidak mengherankan jika melihat sasaran pengguna yang dimaksudkan oleh masing-masing bahasa. Menurut saya sebaiknya menerima keduanya, dan memakai yang lebih cocok untuk tugas yang sedang dikerjakan
Secara pribadi, saya lebih menyukai Pattern Recognition and Machine Learning karya Bishop atau Probabilistic Machine Learning: An Introduction karya Murphy
Karena itu, menurut saya penerjemahan ISLA punya arti besar. Jika seorang mahasiswa sudah cukup mempelajari machine learning/pemodelan statistik, memindahkan model matematis ke model komputasi seharusnya cukup mudah, jadi kode tidak selalu diperlukan. Sejak awal, bisa melakukan hal itu justru bisa dianggap sebagai tanda memahami model-model ini
Saya juga ingin menambahkan Elements of Statistical Learning dari para penulis ISL(R/P). Saya sudah membaca ISL, ESL, dan Bishop; Murphy sempat saya mulai tetapi tidak selesai. Tidak ada alasan khusus, hanya saja saya menjadi sibuk lalu terlewat. Saya sangat merekomendasikan buku mana pun dari daftar ini
Saya penasaran apakah Bishop tetap layak direkomendasikan untuk kasus seperti ini, atau apakah terlalu teoretis
Nonparametric Statistics for the Behavioral Sciences, Second Edition karya Sidney Siegel dan N. John Castellan, Jr., ISBN 0-07-057357-3, McGraw-Hill, New York, 1988 juga layak dipertimbangkan
“Nonparametric” berarti tidak membuat asumsi distribusi probabilitas berdasarkan parameter. Dengan kata lain, bisa disebut bebas-distribusi
Sebagai contoh, kita bisa melihat skema resampling. Asumsinya sangat sedikit, benar-benar sederhana, cukup cerdik, berguna secara umum, dan terutama sangat cocok untuk komputasi. Resampling juga bisa dipakai untuk mendapatkan lebih banyak informasi dari data pengujian “A-B”
Jika harus dipilah secara agak dipaksakan, bisa dibilang ISLR lebih berfokus pada prediksi daripada inferensi atau pengujian hipotesis
Saya sangat menyukai seri YouTube yang hadir bersama versi sebelumnya dari buku ini: https://www.youtube.com/watch?v=5N9V07EIfIg&list=PLOg0ngHtcq...
Bisa ditonton tanpa bukunya, dan bagian coding bisa dilewati. Ada wawasan yang tidak ada di buku, serta perpaduan luar biasa antara kompetensi teknis yang sangat tinggi dan kemampuan menjelaskan konsep secara padat
Bagi saya ini agak bertele-tele. Andaikan Landau masih hidup dan menulis ulang buku seperti ini, mungkin hasilnya akan jauh lebih pendek. Bisakah LLM membuatnya seperti itu?