Memahami Deep Learning

Ringkasan isi buku

• Buku berjudul "Understanding Deep Learning" karya Simon J.D. Prince dijadwalkan terbit di MIT Press pada 5 Desember 2023.
• Buku ini membahas berbagai topik untuk membantu pemahaman tentang deep learning, dan dijelaskan agar dapat dipahami bahkan oleh software engineer pemula.
• Isi utama buku ini mencakup supervised learning, neural network, loss function, pelatihan model, pengukuran kinerja, regularisasi, convolutional network, residual network, transformer, graph neural network, unsupervised learning, generative adversarial network, normalizing flow, variational autoencoder, diffusion model, deep reinforcement learning, cara kerja deep learning, serta deep learning dan etika.

Materi untuk pengajar

• Buku jawaban untuk pengajar disediakan melalui MIT Press bagi yang dapat menunjukkan kredensial.
• Salinan untuk keperluan pengajaran dapat diminta melalui MIT Press.
• Materi gambar untuk setiap bab tersedia dalam format PDF, SVG, dan PowerPoint.

Materi untuk mahasiswa

• Jawaban untuk pertanyaan terpilih dan notebook Python disediakan, yang membantu mahasiswa memahami deep learning dengan lebih baik melalui praktik langsung.
• Notebook membahas berbagai topik seperti latar belakang matematika, supervised learning, shallow neural network, deep neural network, loss function, pelatihan model, gradien dan inisialisasi, pengukuran kinerja, regularisasi, convolutional network, residual network, transformer, graph neural network, generative adversarial network, normalizing flow, variational autoencoder, diffusion model, deep reinforcement learning, cara kerja deep learning, serta deep learning dan etika.

Pendapat GN⁺

• Buku ini memberikan pemahaman yang komprehensif tentang deep learning, serta mencakup baik penjelasan teoretis maupun contoh penerapan nyata sehingga bermanfaat bagi pembelajar.
• Dengan menyediakan materi yang memungkinkan software engineer pemula mempelajari secara sistematis mulai dari konsep dasar deep learning hingga topik lanjutan, buku ini memberi kesempatan untuk menumbuhkan minat dan pengetahuan di bidang ini.
• Yang paling penting, buku ini menyertakan notebook Python untuk praktik dan materi bagi pengajar, sehingga pembaca dapat memperoleh pengalaman menerapkan pengetahuan teoretis pada pemecahan masalah nyata.

[GN⁺]

Komentar Hacker News

• • Komentar secara umum terbagi menjadi dua kubu: 1) pengetahuan seperti ini tidak diperlukan untuk membangun sistem AI, 2) pengetahuan dasar ini perlu agar bisa memahami apa yang sebenarnya terjadi.
  • Kedua sudut pandang itu benar. Bidang ini sedang terbagi menjadi engineer ML dan ilmuwan ML (atau peneliti).
  • Akan lebih baik jika tim memiliki kedua tipe tersebut. Para ilmuwan bisa lebih lambat, sementara para engineer akan terus melaju dengan mencoba berbagai API dan model open source. Namun saat menemui hambatan atau perlu menyesuaikan algoritme, banyak engineer bisa mengalami kesulitan. Untuk itu dibutuhkan pola pikir R&D yang tidak akrab bagi banyak engineer.
  • Di sinilah pentingnya ilmuwan AI menjadi menonjol.
• • Jika mulai belajar AI dari sekarang, apakah masih mungkin menjadi hampir seperti seorang ahli?
  • Kekhawatiran tentang memulai perjalanan yang terasa memerlukan gelar master atau doktor.
• • Ada yang bertanya-tanya apakah mempelajari bidang ini sekarang hanya bermakna untuk tujuan historis, atau masih relevan untuk pekerjaan di masa depan.
  • Mereka membayangkan OpenAI akan menguasai semua hal terkait AI, dan mempertanyakan apakah cara berpikir itu benar.
• • Buku ini mengesankan. Saya suka bab tentang 'efek irasional deep learning'. Adakah buku lain yang juga layak diperhatikan?
• • Sudah puluhan tahun bekerja di berbagai platform machine learning di perusahaan teknologi terkenal. Semua yang pernah dikerjakan cepat menjadi usang. Mulai dari algoritme ML hingga platform komputasi, semuanya berubah-ubah. Hanya segelintir perusahaan elite yang menangani seluruh inovasi ML, sehingga bagi banyak orang mempelajari materi seperti ini terasa kontradiktif.
• • Sulit menilai buku seperti ini... (hanya dari daftar isi?)
  • Siapa penulisnya?
  • Apakah ada publikasi lain dengan penilaian tinggi?
  • Apakah ada ulasan bagus dari orang-orang yang memahami bidang ini?
  • Apakah ada ulasan bagus dari para mahasiswa yang belum tahu apa-apa?
• • Mungkin ini pertanyaan bodoh, tapi: bagaimana cara membeli buku fisiknya?
• • Gambar PDF tentang 'mengapa deep learning bekerja' tampaknya menunjuk ke 'deep learning dan etika', dan sebaliknya juga demikian.
• • Ini pekerjaan yang luar biasa, dan menyediakannya secara gratis benar-benar menakjubkan!!
• • Tidak ada bab tentang RNN, tetapi menarik bahwa ada bab tentang transformer, mengingat bacaan terakhir saya adalah 'Deep Learning' karya Ian Goodfellow dari 2016.