Seni Komputasi Berkinerja Tinggi

Dasar-dasar Komputasi Ilmiah

• Buku yang membahas pengetahuan latar umum tentang komputasi ilmiah, mencakup arsitektur komputer, arsitektur komputer paralel, aritmetika komputer, aljabar linear, ODE/PDE, dan lainnya.
• Juga mencakup bagaimana semuanya digabungkan dalam komputasi berskala besar.

Sains dan Rekayasa untuk Pemrograman Paralel

• Sebagian besar komputasi ilmiah melibatkan pemrograman paralel dalam satu bentuk atau lainnya.
• Pengantar terbaik untuk versi modern MPI dan OpenMP, serta mencakup bagian singkat tentang PETSc, Kokkos, Sycl, dan Co-array Fortran.
• Menonjol karena cakupan MPI dan OpenMP dalam C, Fortran, C++, dan (untuk MPI) Python.

Pengantar Pemrograman Ilmiah

• Pemrograman ilmiah dan rekayasa terutama dilakukan dalam C/C++ dan Fortran.
• Buku yang mengajarkan C++17 modern (kini lebih disukai daripada C) dan Fortran2008.
• Dapat dibaca sebagai pengantar dari nol untuk pemrograman ilmiah atau sebagai "C++ untuk programmer C".
• Mencakup beragam proyek pemrograman berdurasi panjang.

Kerajinan Kayu HPC

• Ekosistem komputasi ilmiah mencakup lebih dari sekadar bahasa pemrograman dan sistem pemrograman paralel.
• Diperlukan pemahaman tentang compiler, build system, manajemen source code, dan lainnya, dan buku ini tidak berupaya menjadi kompendium atas semua itu, melainkan menyediakan serangkaian pengantar yang condong ke alur kerja ilmiah.

Tentang Victor

• Victor Eijkhout adalah ilmuwan riset di Texas Advanced Computing Center.
• Materi ajar ini dibuat sambil mengajar berbagai mata kuliah di kampus University of Texas at Austin.
• Jika Anda merasa ia telah melakukan upaya melampaui kewajibannya dengan membuka buku-buku ini untuk umum, membelikannya kopi juga merupakan cara yang baik.

Pendapat GN⁺

• Seri materi ajar HPC karya Victor Eijkhout memberikan pengetahuan yang komprehensif, mulai dari dasar-dasar komputasi ilmiah hingga pemrograman paralel dan penerapan nyata pemrograman ilmiah.
• Seri ini dapat menjadi sumber yang esensial bagi software engineer pemula untuk memasuki dunia high-performance computing (HPC).
• Di masa ketika teknologi komputasi semakin penting dalam bidang sains dan rekayasa, materi ajar seperti ini akan menjadi sumber yang sangat bermanfaat dan menarik bagi para profesional di bidang tersebut.

[GN⁺]

Komentar Hacker News

• Cerita dari sisi perangkat keras dan pusat data

  • Seorang pengguna yang bekerja di sisi perangkat lunak/layanan di AWS mengatakan bahwa setelah mendengar cerita dari staf pusat data, ia menyadari bahwa peningkatan daya komputasi di pusat data pada dasarnya adalah masalah termodinamika, bukan masalah komputasi itu sendiri.
  • Node menjadi sangat rapat sehingga memasok daya dan membuang panas menjadi masalah yang sangat sulit, dan bahkan jika ketidakefisienan ditemukan, itu tidak bisa diselesaikan dengan pembaruan perangkat lunak.
  • Ia mengatakan situasi ini terjadi sekitar 10 tahun lalu, dan menilai menakjubkan bahwa Amazon, yang berawal sebagai toko buku internet, kini berada di garis depan dalam memecahkan masalah termodinamika.

• Jarak HPC dari perangkat keras

  • Ada komentar menarik tentang seberapa jauh HPC telah diabstraksikan dari perangkat keras.
  • Buku-buku berfokus pada pemrograman SPMD, algoritme, struktur data, paralelisme tugas, sinkronisasi, dan sebagainya, tetapi hampir tidak membahas detail arsitektur komputer seperti sistem memori superkomputer, interkoneksi bandwidth tinggi (CXL), dan arsitektur GPU.
  • Ia menyatakan rasa ingin tahu apakah abstraksi dan alat saat ini sudah cukup baik sehingga detail-detail itu tak perlu dikhawatirkan, atau apakah praktisi HPC tetap harus banyak melakukan penyesuaian "kotak hitam" untuk mengeluarkan performa.

• Pujian untuk kumpulan materi Victor

  • Seorang pengguna mengagumi kumpulan materi yang dibuat Victor, dan menyebut bahwa meski tidak mengenalnya secara pribadi, ia pernah menempuh program doktoral di UT Austin pada 1990-an sambil menggunakan sumber daya TACC.
  • Saat itu programmer harus memparalelkan kode mereka sendiri dan perlu memahami perangkat keras. Hal itu karena bidang ini masih berada pada tahap awal, dan pemecahan masalah dilakukan dengan membaca materi seperti Cray ring binder dan bahan dari Gropp.

• Ketertarikan pada sisi pengelolaan perangkat keras HPC

  • Seorang pengguna menyatakan minat pada cara mendeteksi dan mendiagnosis masalah di HPC, mengambil tindakan seperti reboot/instal ulang/perbaikan, lalu mengoptimalkannya untuk memberikan tingkat layanan terbaik.
  • Ia menyebut sulit menemukan informasi tentang dampak topologi yang berbeda pada masalah seperti ini, kendala lainnya, serta situasi ketika beberapa tujuan harus dioptimalkan sekaligus, misalnya ketersediaan node dibanding throughput keseluruhan.

• Permintaan pendapat tentang cara mengajar C++

  • Seorang programmer Python berpengalaman menanyakan pendapat orang-orang tentang cara mengajar C++, sambil bertanya-tanya apakah ada kekurangan tertentu.
  • Pengguna tersebut ingin meningkatkan keterampilan C++-nya dan menyebut tiga buku itu tampak berada pada tingkat yang cocok untuk dirinya.

• Kekaguman atas penyediaan buku ajar gratis oleh penulis

  • Seorang pengguna mengagumi bahwa penulis telah membuat satu set buku komprehensif yang mencakup C++ dan alat Unix, lalu membagikannya secara gratis.
  • Ia menyebut isinya bermanfaat bagi semua programmer, bahkan yang tidak khusus bergerak di komputasi berkinerja tinggi.

• Kilas balik tentang kelas komputasi ilmiah

  • Seorang pengguna yang mengambil kelas komputasi ilmiah pada 2013 mengenang bahwa bidang tersebut sangat luas sehingga banyak topik hanya dibahas secara singkat.
  • Ia menyebut akan sangat membantu jika ada mata kuliah satu semester khusus tentang komputasi paralel, dan menilai buku-buku ini akan sangat bernilai sebagai bagian dari mata kuliah semacam itu.

• Pengalaman terkait tawaran menjadi TA untuk program pascasarjana HPC

  • Seorang pengguna menyebut bahwa 10 tahun lalu ia pernah ditawari peran TA untuk program pascasarjana HPC, tetapi menolaknya.
  • Ia mengatakan bahwa jika buku ini sudah ada saat itu, ia akan mengambil kesempatan tersebut, sambil memuji pencapaian penulis.

• Pujian untuk UT Austin

  • Disebutkan bahwa UT Austin adalah institusi yang sangat unggul dalam HPC dan metode komputasi.

• Konten yang baik untuk programmer

  • Disebutkan bahwa isi buku ini bermanfaat bagi semua programmer, khususnya pendekatan kontras dalam mengajarkan C++17 dan Fortran2008 di jilid ketiga.