Fungsi adalah vektor
(thenumb.at)- Jika fungsi diperlakukan seperti vektor berdimensi tak hingga, persoalan seperti pemrosesan citra/geometri, curve fitting, dan machine learning dapat dijelaskan dengan bahasa aljabar linear
- Ruang fungsi real memenuhi aksioma ruang vektor karena nilai antar-fungsi bisa dijumlahkan dan output-nya bisa diskalakan dengan skalar, sementara polinomial dapat direpresentasikan dengan basis seperti (1,x,x^2,\dots)
- Diferensiasi menjadi operator linear karena mempertahankan kombinasi linear, dan pada basis polinomial dapat dipandang seperti matriks tak hingga yang bekerja pada vektor koefisien
- Jika inner product didefinisikan dengan integral, maka pada ruang fungsi kita juga bisa membahas panjang, ortogonalitas, dan basis ortonormal, serta operator self-adjoint terhubung dengan teorema spektral
- Sudut pandang mendiagonalisasi Laplacian menyatukan penjelasan tentang perubahan basis dan kompresi pada Fourier series, kompresi citra 2D, spherical harmonics, dan pemrosesan geometri berbasis mesh Laplacian
Cara memandang fungsi sebagai vektor
- Vektor biasanya dimulai dari daftar bilangan real, tetapi dalam ruang vektor, objek lain seperti daftar bilangan kompleks, siklus graf, atau bujur sangkar ajaib juga bisa termasuk
- Vektor berdimensi (N) adalah daftar sepanjang (N), dan bisa ditafsirkan sebagai pemetaan dari indeks ke nilai
- Pada domain yang tak hingga terhitung seperti bilangan asli, fungsi dapat dinyatakan sebagai daftar yang panjangnya tak hingga
- Contoh: (\mathbf{v}_i=i) dapat merepresentasikan (f(x)=x) untuk (x\in\mathbb{N})
- Pada domain tak hingga tak terhitung seperti bilangan real, kita tidak bisa memberi indeks bilangan bulat pada setiap elemen, sehingga representasi berbentuk daftar menjadi tidak mungkin
- Dalam kasus ini, vektor menjadi semakin mirip dengan fungsi sembarang
- Analisis fungsional membahas definisi presisi untuk merepresentasikan fungsi sebagai vektor berdimensi tak hingga
- Tujuannya bukan membuktikan hasil berdimensi tak hingga secara ketat, melainkan membangun intuisi lewat analogi dengan aljabar linear berdimensi hingga
Bagaimana ruang fungsi menjadi ruang vektor
- Dalam ruang fungsi real, field skalarnya adalah (\mathbb{R}), himpunan vektornya adalah fungsi (\mathbb{R}\to\mathbb{R}), dan vektor nol adalah fungsi yang mengembalikan 0 untuk semua input
- Penjumlahan fungsi menjumlahkan nilai dua fungsi pada input yang sama
- ((f+g)[x]=f[x]+g[x])
- Ini adalah generalisasi dari penjumlahan elemen-per-elemen pada vektor jika dilihat dari sudut pandang indeks fungsi
- Perkalian skalar menskalakan hasil fungsi
- ((\alpha f)[x]=\alpha f[x])
- Ini sesuai dengan operasi vektor yang menskalakan nilai pada setiap indeks
- Dengan definisi ini, kita bisa membuktikan sifat komutatif dan asosiatif penjumlahan, keberadaan vektor nol, invers aditif, serta identitas, asosiativitas, dan distributivitas perkalian skalar
- Basis standar untuk fungsi dapat dipikirkan sebagai fungsi basis (\mathbf{e}_\alpha), yang bernilai 1 hanya pada indeks (\alpha) dan 0 di tempat lain
- Pada himpunan semua bilangan real ada tak terhitung banyaknya fungsi basis, sehingga sulit ditulis sebagai penjumlahan sederhana, tetapi ini memberi intuisi bahwa hanya (\mathbf{e}_x) yang tersisa pada input tertentu (x)
Operator linear dan diferensiasi
- Matriks mengodekan transformasi linear yang mempertahankan kombinasi linear, dan vektor kolomnya dapat ditafsirkan sebagai pendefinisi basis baru
- Jika fungsi juga dilihat sebagai vektor, kita bisa membayangkan objek berdimensi tak hingga yang setara dengan matriks, yang ditulis sebagai operator linear (\mathcal{L})
- Dalam praktiknya, operator berdimensi tak hingga tak terhitung tidak bisa seluruhnya ditulis sebagai matriks
- Meski begitu, struktur bahwa setiap “kolom” merepresentasikan fungsi basis baru tetap berguna
- Diferensiasi memenuhi linearitas
- (\frac{\partial}{\partial x}(\alpha f[x]+\beta g[x])=\alpha\frac{\partial f}{\partial x}+\beta\frac{\partial g}{\partial x})
- Pada ruang polinomial (\mathcal{P}), (1,x,x^2,x^3,\dots) menjadi basis tak hingga terhitung
- (p[x]=a+bx+cx^2+dx^3+\cdots) dapat ditulis sebagai vektor koefisien ([a,b,c,d,\dots]^T)
- Diferensiasi dapat direpresentasikan sebagai matriks tak hingga yang mengubah vektor koefisien menjadi ([b,2c,3d,\dots]^T)
- Fungsi analitik dapat direpresentasikan dengan Taylor series di sekitar 0, sehingga bisa dinyatakan sebagai kombinasi linear dari basis polinomial
- Taylor expansion setara dengan perubahan basis ke basis pangkat
Diagonalisasi dan fungsi eigen
- Dalam dimensi hingga, matriks (\mathbf{A}) dapat didiagonalisasi jika memiliki cukup banyak eigenvektor yang saling bebas linear dan eigenvalue real
- (\mathbf{A}=\mathbf{U\Lambda U^{-1}})
- Prosesnya adalah berpindah ke basis eigen, menskalakan dengan eigenvalue, lalu kembali ke basis standar
- Dalam ruang fungsi, untuk operator linear (\mathcal{L}), kita juga bisa memikirkan fungsi eigen yang memenuhi (\mathcal{L}f=\psi f)
- Fungsi eigen dari operator diferensiasi berbentuk (p_0e^{\psi x})
- Dari syarat koefisien (p_i=\frac{\psi^i}{i!}p_0), muncul deret fungsi eksponensial
- Tetapi diferensiasi tidak bisa didiagonalisasi dengan basis fungsi eksponensial pada seluruh ruang fungsi analitik real
- Jika diasumsikan (f[x]=x) bisa direpresentasikan sebagai kombinasi linear fungsi-fungsi eksponensial, maka muncul kontradiksi dari persamaan setelah diturunkan dua kali
- Masalah serupa juga muncul pada fungsi tak konstan yang turunan ke-(n)-nya menjadi 0, atau pada fungsi periodik seperti sine dan cosine
- Dengan memperluas ke ruang fungsi kompleks, lebih banyak operator dapat didiagonalisasi
- Diferensiasi dapat didiagonalisasi pada ruang fungsi (\mathbb{C}\to\mathbb{C}) dengan Laplace transform
- Laplace transform berguna untuk menyelesaikan persamaan diferensial, tetapi inverse transform-nya tidak mudah sehingga tidak dibahas lebih lanjut
Inner product fungsi dan teorema spektral
- Inner product Euclidean menunjukkan seberapa besar satu vektor terukur ke arah vektor lain, dan inner product dengan dirinya sendiri memberi kuadrat panjangnya
- Dalam ruang fungsi, penjumlahan hingga diganti dengan padanan kontinu, yaitu integral, untuk mendefinisikan inner product
- Fungsi real: (\langle f,g\rangle=\int_a^b f[x]g[x],dx)
- Fungsi kompleks: (\langle f,g\rangle=\int_a^b f[x]\overline{g[x]},dx)
- Tidak semua fungsi dapat diintegralkan, sehingga ruang inner product dibatasi pada fungsi yang square-integrable di interval ([a,b])
- ([a,b]) juga bisa berupa ([-\infty,\infty])
- Inner product fungsi kompleks harus memenuhi simetri konjugat, linearitas pada argumen pertama, dan definit positif
- Untuk menangani definit positif secara ketat, digunakan kelas ekivalensi fungsi yang bernilai 0 “hampir di semua tempat”
- Teorema spektral juga dapat digeneralisasi ke ruang fungsi, dan operator self-adjoint memiliki eigenvalue real serta basis eigen ortonormal
- Dalam dimensi hingga, matriks simetris memiliki basis eigen ortonormal, dan kebalikannya juga benar
- Dalam dimensi tak hingga, syarat dan pembuktian yang ketat lebih rumit
Diagonalisasi Laplacian
- Pada fungsi satu dimensi, Laplacian adalah turunan kedua
- (\Delta f=\frac{\partial^2 f}{\partial x^2})
- Dengan dua kali integration by parts, kita dapat memeriksa bahwa Laplacian memiliki sifat yang mendekati self-adjoint
- Suku batas ((f^\prime[x]g[x]-f[x]g^\prime[x])|_a^b) harus bernilai 0
- Untuk itu, domain dibatasi pada fungsi periodik dengan periode (b-a)
- Untuk menyederhanakan, interval diambil sebagai ([0,1])
- Fungsi eigen periodik Laplacian adalah (e^{2\pi \xi i x}), dengan (\xi) bilangan bulat
- Menurut rumus Euler, sudut pandang sine/cosine dan eksponensial kompleks saling bersesuaian
- Eigenvalue-nya adalah (-(2\pi\xi)^2)
- Fungsi-fungsi eigen ini saling ortogonal di ([0,1]) dan normanya 1
- Saat (\xi_1-\xi_2) adalah bilangan bulat tak nol, inner product-nya bernilai 0
- Inner product fungsi dengan dirinya sendiri bernilai 1
- Berpindah ke basis eigen ortonormal Laplacian sama dengan menghitung koefisien Fourier
- (\hat{f}[\xi]=\int_0^1 f[x]e^{-2\pi\xi i x},dx)
- Inverse transform-nya adalah (f[x]=\sum_{\xi=-\infty}^{\infty}\hat{f}[\xi]e^{2\pi\xi i x})
- Walau Laplacian secara keseluruhan memetakan fungsi real ke fungsi real, representasi antara dapat bernilai kompleks
Fourier series dan aplikasi pemrosesan sinyal
- Fourier transform adalah perubahan basis ke basis eigen Laplacian
- (\hat{f}[\xi]) mengukur seberapa besar fungsi (f) direpresentasikan oleh gelombang dengan frekuensi bulat (\xi)
- Representasi ini memindahkan fungsi ke domain frekuensi
- Karena basisnya ortonormal, Fourier series mudah diinversi kembali dengan menggabungkan koefisien dan gelombang
- Dengan membuang koefisien Fourier di atas ambang tertentu, kita bisa membuat rekonstruksi fungsi yang lebih halus
- Teknik ini disebut low-pass filter
- Karena fungsi bisa direkonstruksi secara aproksimatif hanya dari beberapa koefisien Fourier, pendekatan ini berguna untuk kompresi secara komputasional
Kompresi citra dan spherical harmonics
- Di mana pun Laplacian dapat didefinisikan, Fourier transform yang sesuai juga bisa dicari
- Dalam 2D, Laplacian adalah jumlah dari turunan parsial kedua
- (\Delta f[x,y]=\frac{\partial^2 f}{\partial x^2}+\frac{\partial^2 f}{\partial y^2})
- Di ([0,1]\times[0,1]), fungsi eigennya berbentuk (e^{2\pi i(nx+my)}), dengan (n,m) bilangan bulat
- Seperti fungsi 1D diuraikan menjadi kumpulan gelombang 1D, citra 2D diuraikan menjadi kumpulan gelombang 2D
- Salah satu variasi dari 2D Fourier transform menjadi inti dari banyak algoritme kompresi citra, termasuk JPEG
- Pada bola satuan, Laplacian juga bisa didefinisikan, dan basis eigen ortonormalnya adalah spherical harmonics
- (Y_\ell^m[\theta,\phi]=N_\ell^mP_\ell^m[\cos[\theta]]e^{im\phi})
- (\ell\ge0), (m\in[-\ell,\ell])
- Di game engine, ini sering dipakai untuk mengompresi diffuse environment map dan global illumination probe
- spherical harmonics juga bisa dilihat sebagai orbital elektron, dan mekanika kuantum banyak membahas fungsi eigen dari operator linear
Pemrosesan geometri dan eksplorasi lanjutan
- Cara merepresentasikan fungsi sebagai vektor menjadi dasar bukan hanya untuk kompresi citra, tetapi juga untuk algoritme pemrosesan geometri modern
- discrete differential geometry menggunakan sudut pandang ini saat membangun algoritme pemrosesan geometri 3D
- Dalam computer graphics, fungsi di atas mesh dapat merepresentasikan tekstur, unwrapping, displacement, atau parameter simulasi
- Dengan mengaitkan nilai ke setiap vertex pada mesh, fungsi bisa dienkodekan sebagai vektor
- Mesh Laplacian adalah matriks berdimensi hingga, sehingga fungsi eigennya dapat dicari dengan aljabar linear numerik
- Ia bekerja seperti fungsi yang menggeneralisasi sine dan cosine pada domain kontinu ke domain baru
- Basis eigen mesh berguna untuk transformasi dan kompresi fungsi pada mesh
- Jika posisi vertex ditafsirkan sebagai fungsi, geometry itu sendiri juga bisa dihaluskan atau dipertajam
- Topik lanjutan yang bisa dieksplorasi mencakup geometry, simulation, light transport, machine learning, dan splines
- Geometry: Distances, Parallel Transport, Flattening, Non-manifold Meshes, Polygonal Meshes
- Simulation: Finite Element Method, Monte Carlo PDEs, Minimal Surfaces, Fluid Cohomology
- Light Transport: Radiosity, Operator Formulation, Low-Rank Approximation, Inverse Rendering
- Machine Learning: DiffusionNet, MeshCNN, Kinematics, Fourier Features, Inverse Geometry
- Splines: C2 Interpolation, Quadratic Approximation, Simplification
1 komentar
Pendapat Hacker News
Saking bagusnya tulisan ini, saya sampai ingin memberi upvote dua kali; ini adalah pengantar terbaik untuk konsep dasar analisis fungsional yang pernah saya lihat sejauh ini
Untuk tinjauan yang bagus dan lebih mendalam secara matematis, ada juga https://arxiv.org/abs/1904.02539
Aplikasi hebat yang tidak disebutkan situs web itu adalah operator Koopman. Dalam teori kendali, sistem nyata seperti drone otonom, mobil, dan lengan robot kebanyakan dijelaskan oleh dinamika nonlinier yang sulit ditangani, sementara operator Koopman memberikan hampiran linier yang berguna secara global untuk sistem nonlinier
Dengan kata lain, sistem nonlinier dapat diperlakukan seperti sistem linier dengan akurasi yang cukup tinggi, sehingga dari sudut pandang komputasi, kendali dan estimasi menjadi jauh lebih sederhana. Linearisasi semacam ini juga bisa dipelajari dari data
Materi teori Koopman dari Steve Brunton https://youtube.com/playlist?list=PLMrJAkhIeNNSVXUvppZTYNHKQ..., https://arxiv.org/abs/2102.12086 bagus, dan ada juga aplikasi seperti kendali robot lunak https://arxiv.org/abs/1902.02827
Saat itu saya lelah mencari dana riset, lalu kembali membaca buku kaku sendirian, sampai akhirnya muak dengan dunia akademik dan pergi
Para pendidik YouTube yang bagus sedang menciptakan peluang masa depan yang luar biasa, dan pada akhirnya semua orang akan merasakan manfaatnya. Teori kendali menunjukkan titik-titik hubungan di antara berbagai bidang, sehingga bisa menjadi kesenangan besar bagi orang yang suka melihat pola dan struktur di mana-mana. Seingat saya, Steve baru-baru ini juga mengunggah video teori kendali untuk model sosial
Kesadaran bahwa fungsi dapat diperlakukan sebagai elemen dari ruang vektor abstrak berdimensi tak hingga merupakan titik balik dalam sejarah matematika, dan ini mengarah pada munculnya subbidang bernama analisis fungsional
Arti penting pergeseran perspektif ini adalah bahwa intuisi geometris yang diperoleh dari studi ruang berdimensi hingga seperti ruang Euklides 3 dimensi dapat diterapkan pada persoalan sulit terkait fungsi, misalnya keberadaan solusi persamaan diferensial tertentu
Sejarah perubahan ini berawal dari akhir abad ke-19 dan awal abad ke-20, dan sangat menarik. Pada masa itu, pekerjaan fondasi aksiomatis matematika sedang membentuk arus yang menyistematisasi objek matematika dengan menangkap strukturnya dalam daftar aksioma yang ringkas
Misalnya, konsep ruang vektor abstrak juga lahir dengan cara ini, dan akhirnya mencakup bukan hanya ruang Euklides, tetapi juga ruang fungsi berdimensi tak hingga
Salah satu materi yang sudah menunjukkan pergeseran perspektif ini, setidaknya dalam bentuk awalnya, adalah memoir Vito Volterra tahun 1889 https://projecteuclid.org/journals/acta-mathematica/volume-1...
Disertasi doktor Maurice Fréchet tahun 1906 https://zenodo.org/record/1428464/files/article.pdf dapat dipandang sebagai karya paling berpengaruh yang mengkristalkan paradigma baru ini dan menyajikannya dalam bentuk modern, sehingga menjadi rujukan utama pada paruh pertama abad ke-20
Tentu saja itu hanya dua dari banyak karya pada masa itu; melihat perkembangan selanjutnya, buku Stefan Banach tahun 1932 juga sulit diabaikan http://kielich.amu.edu.pl/Stefan_Banach/pdf/teoria-operacji-...
Jadi menurut saya intinya adalah bahwa ruang-ruang vektor ini sebenarnya bersifat topologis
Saya selalu sangat menyukai sudut pandang ini. Saya sedang menikmati membaca kuliah persamaan diferensial dan persamaan integro-diferensial yang disampaikan Vito Volterra di Madrid, dan ia pada saat yang sama juga berkontribusi pada terbentuknya analisis fungsional
Di sini, fungsional adalah konsep yang bersesuaian dengan vektor dual. Volterra terus memanfaatkan metode analogi dari konstruksi dengan variabel hingga menuju variabel tak hingga, bahkan tak terhitung
Sampai-sampai ada bagian ketika ia sendiri tampak malu karena mungkin terlalu sering mengulang ide yang sama. Jika Anda mengajar, ini layak dilihat bersama-sama
https://searchworks.stanford.edu/view/526111
Saya belum pernah melihat fungsi indeks semacam ini digunakan sebagai basis transfinit untuk ruang vektor. Fungsi itu tampak lebih seperti jumlah transfinit aneh yang terdiri dari entri-entri yang sebagian besar nol, bukan seperti titik limit dari deret hingga fungsi-fungsi basis
Rasanya juga tidak mungkin transformasi Fourier bisa dilakukan untuk semua fungsi. Sepertinya mudah membantah dengan metode diagonalisasi bahwa tidak ada hasil yang berguna
Bahkan ruang Hilbert pun biasanya hanya diindeks dengan bilangan bulat. Basis seperti itu sama sekali tidak memberi syarat kontinuitas atau keterdiferensialan
Semua analisis fungsional yang pernah saya lihat menggunakan semacam syarat kontinuitas dan basis terhitung. Di luar itu, ini memang sudut pandang yang sangat berguna untuk melihat fungsi, dan cukup dekat dengan titik awal untuk memahami formalismenya mekanika kuantum
Ini juga masalah umum dalam mekanika kuantum yang diajarkan di tingkat pengantar. Namun tulisan ini juga tampaknya, seperti kuliah pengantar mekanika kuantum, berfokus memotivasi konsep analisis fungsional, dan meski tidak ketat secara matematis, tetap berguna untuk penjelasan
Semua fungsi dalam subruang ini memiliki transformasi Fourier
Tulisan ini, mungkin dengan alasan yang baik, sepenuhnya mengabaikan pilihan yang biasanya cukup sulit dalam analisis fungsional: “ruang vektor apa yang akan digunakan”
Ruang vektor yang mendefinisikan fungsi secara titik demi titik seperti di sini hampir selalu merupakan pilihan yang paling tidak berguna. Namun jika tujuannya adalah mengajarkan gambaran besar topik ini, itu sendiri cukup bernilai
Mengenai pernyataan “rasanya tidak mungkin transformasi Fourier bisa dilakukan untuk semua fungsi”, dalam ruang seperti itu bahkan sulit mendapatkan konsep jarak yang berguna
Ini bersinggungan dengan definisi fungsi yang sebenarnya. Fungsi adalah pemetaan antarhimpunan di mana setiap elemen dari himpunan pertama menuju tepat satu elemen dari himpunan kedua
Masalah dengan cara memakai vektor adalah bahwa vektor tidak seumum himpunan, sehingga ada fungsi yang tidak bisa direpresentasikan sebagai vektor
Misalnya, vektor tidak bisa menangani nilai yang tidak terdefinisi atau elemen yang bukan angka
Menurut definisinya, semua nilai dalam himpunan asal harus dipetakan ke sesuatu di himpunan target, jadi tidak ada nilai tak terdefinisi dalam arti itu
Alasan ruang fungsi tidak selalu bisa dipandang sebagai ruang vektor adalah karena bisa saja tidak ada konsep penjumlahan fungsi atau perkalian skalar, dan kalaupun ada, mungkin tidak cocok dengan struktur penjumlahan yang dipenuhi fungsi-fungsi tersebut
Ini benar hanya ketika kodomain memiliki struktur yang diperlukan untuk operasi vektor. Fungsi lebih umum daripada vektor
Kelihatannya benar-benar bagus, dan saya ingin membacanya lebih rinci nanti. Kemungkinan besar ini materi yang dibahas dalam kebanyakan program gelar fisika umum
Meski begitu, seperti film atau buku yang bagus, konsepnya sendiri menarik sehingga layak ditinjau lebih dari sekali
Dari sudut pandang programmer, sebagian teknik ini tampak cukup seperti hacking. Awalnya dimulai dengan indeks bilangan bulat yang sangat masuk akal, lalu menyadari bahwa indeks bisa digeneralisasi, dan memasukkan jauh lebih banyak informasi ke dalam indeks daripada niat semula
Yang benar-benar menakjubkan adalah ide-ide yang tampak bodoh dan seperti penyalahgunaan ini pada akhirnya selalu mengarah ke sesuatu yang berwawasan dan berguna. Agak seperti sihir
Saya ingin memperkenalkan library Funsor yang saya buat bersama Eli Bingham untuk digunakan di bahasa pemrograman probabilistik Pyro dan NumPyro
Kami mengambil sudut pandang “fungsi adalah tensor”, dan mencoba membuat library mirip NumPy untuk fungsi, terutama fungsi densitas log dari distribusi probabilitas
Makalah: "Functional Tensors for Probabilistic Programming" (2019) https://arxiv.org/abs/1910.10775
Kode: https://github.com/pyro-ppl/funsor
Menurut saya tulisan ini memberi intuisi yang buruk karena arahnya terbalik. Yang membuat fungsi membentuk ruang vektor bukanlah inputnya, melainkan outputnya
Fungsi dari suatu himpunan X ke medan F bisa membentuk ruang vektor, sekalipun X tidak memiliki urutan
Dalam batas yang masih bisa saya ikuti, ini sudut pandang yang sangat menarik, tetapi sayangnya saya tidak bisa mengikuti banyak bagiannya
Saya penasaran apakah logika formal seperti ini membantu menurunkan fungsi yang menjelaskan vektor
Dalam analisis big data, misalnya pelatihan jaringan saraf, inefisiensi dan bottleneck terbesar tampaknya tetap bermuara pada cara menemukan fungsi yang mendekati keluaran semacam vektor yang diharapkan
Baik caranya regresi simbolik maupun banyak lapisan transformasi, sama saja. Jika kita bisa beroperasi hanya pada vektor sebagai fungsi tanpa harus mengekstrak atau mengompresi relasi antara input dan output, itu akan terasa seperti “sihir”
Pada dasarnya inilah ide dasar kompresi MP3 dan JPEG. Tentu saja ini menukar ruang dengan waktu, jadi untuk mendapatkan aproksimasi vektor asli, kita harus lebih dulu menerapkan transformasi Fourier invers
Tulisan ini membahas ruang vektor abstrak, sifat-sifatnya seperti penjumlahan vektor dan perkalian skalar, dan khususnya mengatakan bahwa fungsi memenuhi definisi itu sehingga membentuk ruang vektor fungsi, yaitu ruang fungsi
Misalnya, jika ada dua fungsi f, g dan skalar b, kita dapat memperlakukannya seperti berikut
f + g = g + f
b(f + g) = bf + bg
Selain itu, ada (-f) sehingga f + (-f) = 0, di mana 0 adalah fungsi nol, dan fungsi nol ini juga harus ada dalam ruang fungsi