2 poin oleh GN⁺ 2023-07-31 | 1 komentar | Bagikan ke WhatsApp
  • Jika fungsi diperlakukan seperti vektor berdimensi tak hingga, persoalan seperti pemrosesan citra/geometri, curve fitting, dan machine learning dapat dijelaskan dengan bahasa aljabar linear
  • Ruang fungsi real memenuhi aksioma ruang vektor karena nilai antar-fungsi bisa dijumlahkan dan output-nya bisa diskalakan dengan skalar, sementara polinomial dapat direpresentasikan dengan basis seperti (1,x,x^2,\dots)
  • Diferensiasi menjadi operator linear karena mempertahankan kombinasi linear, dan pada basis polinomial dapat dipandang seperti matriks tak hingga yang bekerja pada vektor koefisien
  • Jika inner product didefinisikan dengan integral, maka pada ruang fungsi kita juga bisa membahas panjang, ortogonalitas, dan basis ortonormal, serta operator self-adjoint terhubung dengan teorema spektral
  • Sudut pandang mendiagonalisasi Laplacian menyatukan penjelasan tentang perubahan basis dan kompresi pada Fourier series, kompresi citra 2D, spherical harmonics, dan pemrosesan geometri berbasis mesh Laplacian

Cara memandang fungsi sebagai vektor

  • Vektor biasanya dimulai dari daftar bilangan real, tetapi dalam ruang vektor, objek lain seperti daftar bilangan kompleks, siklus graf, atau bujur sangkar ajaib juga bisa termasuk
  • Vektor berdimensi (N) adalah daftar sepanjang (N), dan bisa ditafsirkan sebagai pemetaan dari indeks ke nilai
  • Pada domain yang tak hingga terhitung seperti bilangan asli, fungsi dapat dinyatakan sebagai daftar yang panjangnya tak hingga
    • Contoh: (\mathbf{v}_i=i) dapat merepresentasikan (f(x)=x) untuk (x\in\mathbb{N})
  • Pada domain tak hingga tak terhitung seperti bilangan real, kita tidak bisa memberi indeks bilangan bulat pada setiap elemen, sehingga representasi berbentuk daftar menjadi tidak mungkin
    • Dalam kasus ini, vektor menjadi semakin mirip dengan fungsi sembarang
    • Analisis fungsional membahas definisi presisi untuk merepresentasikan fungsi sebagai vektor berdimensi tak hingga
  • Tujuannya bukan membuktikan hasil berdimensi tak hingga secara ketat, melainkan membangun intuisi lewat analogi dengan aljabar linear berdimensi hingga

Bagaimana ruang fungsi menjadi ruang vektor

  • Dalam ruang fungsi real, field skalarnya adalah (\mathbb{R}), himpunan vektornya adalah fungsi (\mathbb{R}\to\mathbb{R}), dan vektor nol adalah fungsi yang mengembalikan 0 untuk semua input
  • Penjumlahan fungsi menjumlahkan nilai dua fungsi pada input yang sama
    • ((f+g)[x]=f[x]+g[x])
    • Ini adalah generalisasi dari penjumlahan elemen-per-elemen pada vektor jika dilihat dari sudut pandang indeks fungsi
  • Perkalian skalar menskalakan hasil fungsi
    • ((\alpha f)[x]=\alpha f[x])
    • Ini sesuai dengan operasi vektor yang menskalakan nilai pada setiap indeks
  • Dengan definisi ini, kita bisa membuktikan sifat komutatif dan asosiatif penjumlahan, keberadaan vektor nol, invers aditif, serta identitas, asosiativitas, dan distributivitas perkalian skalar
  • Basis standar untuk fungsi dapat dipikirkan sebagai fungsi basis (\mathbf{e}_\alpha), yang bernilai 1 hanya pada indeks (\alpha) dan 0 di tempat lain
    • Pada himpunan semua bilangan real ada tak terhitung banyaknya fungsi basis, sehingga sulit ditulis sebagai penjumlahan sederhana, tetapi ini memberi intuisi bahwa hanya (\mathbf{e}_x) yang tersisa pada input tertentu (x)

Operator linear dan diferensiasi

  • Matriks mengodekan transformasi linear yang mempertahankan kombinasi linear, dan vektor kolomnya dapat ditafsirkan sebagai pendefinisi basis baru
  • Jika fungsi juga dilihat sebagai vektor, kita bisa membayangkan objek berdimensi tak hingga yang setara dengan matriks, yang ditulis sebagai operator linear (\mathcal{L})
    • Dalam praktiknya, operator berdimensi tak hingga tak terhitung tidak bisa seluruhnya ditulis sebagai matriks
    • Meski begitu, struktur bahwa setiap “kolom” merepresentasikan fungsi basis baru tetap berguna
  • Diferensiasi memenuhi linearitas
    • (\frac{\partial}{\partial x}(\alpha f[x]+\beta g[x])=\alpha\frac{\partial f}{\partial x}+\beta\frac{\partial g}{\partial x})
  • Pada ruang polinomial (\mathcal{P}), (1,x,x^2,x^3,\dots) menjadi basis tak hingga terhitung
    • (p[x]=a+bx+cx^2+dx^3+\cdots) dapat ditulis sebagai vektor koefisien ([a,b,c,d,\dots]^T)
    • Diferensiasi dapat direpresentasikan sebagai matriks tak hingga yang mengubah vektor koefisien menjadi ([b,2c,3d,\dots]^T)
  • Fungsi analitik dapat direpresentasikan dengan Taylor series di sekitar 0, sehingga bisa dinyatakan sebagai kombinasi linear dari basis polinomial
    • Taylor expansion setara dengan perubahan basis ke basis pangkat

Diagonalisasi dan fungsi eigen

  • Dalam dimensi hingga, matriks (\mathbf{A}) dapat didiagonalisasi jika memiliki cukup banyak eigenvektor yang saling bebas linear dan eigenvalue real
    • (\mathbf{A}=\mathbf{U\Lambda U^{-1}})
    • Prosesnya adalah berpindah ke basis eigen, menskalakan dengan eigenvalue, lalu kembali ke basis standar
  • Dalam ruang fungsi, untuk operator linear (\mathcal{L}), kita juga bisa memikirkan fungsi eigen yang memenuhi (\mathcal{L}f=\psi f)
  • Fungsi eigen dari operator diferensiasi berbentuk (p_0e^{\psi x})
    • Dari syarat koefisien (p_i=\frac{\psi^i}{i!}p_0), muncul deret fungsi eksponensial
  • Tetapi diferensiasi tidak bisa didiagonalisasi dengan basis fungsi eksponensial pada seluruh ruang fungsi analitik real
    • Jika diasumsikan (f[x]=x) bisa direpresentasikan sebagai kombinasi linear fungsi-fungsi eksponensial, maka muncul kontradiksi dari persamaan setelah diturunkan dua kali
    • Masalah serupa juga muncul pada fungsi tak konstan yang turunan ke-(n)-nya menjadi 0, atau pada fungsi periodik seperti sine dan cosine
  • Dengan memperluas ke ruang fungsi kompleks, lebih banyak operator dapat didiagonalisasi
    • Diferensiasi dapat didiagonalisasi pada ruang fungsi (\mathbb{C}\to\mathbb{C}) dengan Laplace transform
    • Laplace transform berguna untuk menyelesaikan persamaan diferensial, tetapi inverse transform-nya tidak mudah sehingga tidak dibahas lebih lanjut

Inner product fungsi dan teorema spektral

  • Inner product Euclidean menunjukkan seberapa besar satu vektor terukur ke arah vektor lain, dan inner product dengan dirinya sendiri memberi kuadrat panjangnya
  • Dalam ruang fungsi, penjumlahan hingga diganti dengan padanan kontinu, yaitu integral, untuk mendefinisikan inner product
    • Fungsi real: (\langle f,g\rangle=\int_a^b f[x]g[x],dx)
    • Fungsi kompleks: (\langle f,g\rangle=\int_a^b f[x]\overline{g[x]},dx)
  • Tidak semua fungsi dapat diintegralkan, sehingga ruang inner product dibatasi pada fungsi yang square-integrable di interval ([a,b])
    • ([a,b]) juga bisa berupa ([-\infty,\infty])
  • Inner product fungsi kompleks harus memenuhi simetri konjugat, linearitas pada argumen pertama, dan definit positif
    • Untuk menangani definit positif secara ketat, digunakan kelas ekivalensi fungsi yang bernilai 0 “hampir di semua tempat”
  • Teorema spektral juga dapat digeneralisasi ke ruang fungsi, dan operator self-adjoint memiliki eigenvalue real serta basis eigen ortonormal
    • Dalam dimensi hingga, matriks simetris memiliki basis eigen ortonormal, dan kebalikannya juga benar
    • Dalam dimensi tak hingga, syarat dan pembuktian yang ketat lebih rumit

Diagonalisasi Laplacian

  • Pada fungsi satu dimensi, Laplacian adalah turunan kedua
    • (\Delta f=\frac{\partial^2 f}{\partial x^2})
  • Dengan dua kali integration by parts, kita dapat memeriksa bahwa Laplacian memiliki sifat yang mendekati self-adjoint
    • Suku batas ((f^\prime[x]g[x]-f[x]g^\prime[x])|_a^b) harus bernilai 0
    • Untuk itu, domain dibatasi pada fungsi periodik dengan periode (b-a)
    • Untuk menyederhanakan, interval diambil sebagai ([0,1])
  • Fungsi eigen periodik Laplacian adalah (e^{2\pi \xi i x}), dengan (\xi) bilangan bulat
    • Menurut rumus Euler, sudut pandang sine/cosine dan eksponensial kompleks saling bersesuaian
    • Eigenvalue-nya adalah (-(2\pi\xi)^2)
  • Fungsi-fungsi eigen ini saling ortogonal di ([0,1]) dan normanya 1
    • Saat (\xi_1-\xi_2) adalah bilangan bulat tak nol, inner product-nya bernilai 0
    • Inner product fungsi dengan dirinya sendiri bernilai 1
  • Berpindah ke basis eigen ortonormal Laplacian sama dengan menghitung koefisien Fourier
    • (\hat{f}[\xi]=\int_0^1 f[x]e^{-2\pi\xi i x},dx)
    • Inverse transform-nya adalah (f[x]=\sum_{\xi=-\infty}^{\infty}\hat{f}[\xi]e^{2\pi\xi i x})
    • Walau Laplacian secara keseluruhan memetakan fungsi real ke fungsi real, representasi antara dapat bernilai kompleks

Fourier series dan aplikasi pemrosesan sinyal

  • Fourier transform adalah perubahan basis ke basis eigen Laplacian
  • (\hat{f}[\xi]) mengukur seberapa besar fungsi (f) direpresentasikan oleh gelombang dengan frekuensi bulat (\xi)
    • Representasi ini memindahkan fungsi ke domain frekuensi
  • Karena basisnya ortonormal, Fourier series mudah diinversi kembali dengan menggabungkan koefisien dan gelombang
  • Dengan membuang koefisien Fourier di atas ambang tertentu, kita bisa membuat rekonstruksi fungsi yang lebih halus
    • Teknik ini disebut low-pass filter
  • Karena fungsi bisa direkonstruksi secara aproksimatif hanya dari beberapa koefisien Fourier, pendekatan ini berguna untuk kompresi secara komputasional

Kompresi citra dan spherical harmonics

  • Di mana pun Laplacian dapat didefinisikan, Fourier transform yang sesuai juga bisa dicari
  • Dalam 2D, Laplacian adalah jumlah dari turunan parsial kedua
    • (\Delta f[x,y]=\frac{\partial^2 f}{\partial x^2}+\frac{\partial^2 f}{\partial y^2})
  • Di ([0,1]\times[0,1]), fungsi eigennya berbentuk (e^{2\pi i(nx+my)}), dengan (n,m) bilangan bulat
    • Seperti fungsi 1D diuraikan menjadi kumpulan gelombang 1D, citra 2D diuraikan menjadi kumpulan gelombang 2D
  • Salah satu variasi dari 2D Fourier transform menjadi inti dari banyak algoritme kompresi citra, termasuk JPEG
  • Pada bola satuan, Laplacian juga bisa didefinisikan, dan basis eigen ortonormalnya adalah spherical harmonics
    • (Y_\ell^m[\theta,\phi]=N_\ell^mP_\ell^m[\cos[\theta]]e^{im\phi})
    • (\ell\ge0), (m\in[-\ell,\ell])
    • Di game engine, ini sering dipakai untuk mengompresi diffuse environment map dan global illumination probe
    • spherical harmonics juga bisa dilihat sebagai orbital elektron, dan mekanika kuantum banyak membahas fungsi eigen dari operator linear

Pemrosesan geometri dan eksplorasi lanjutan

1 komentar

 
GN⁺ 2023-07-31
Pendapat Hacker News
  • Saking bagusnya tulisan ini, saya sampai ingin memberi upvote dua kali; ini adalah pengantar terbaik untuk konsep dasar analisis fungsional yang pernah saya lihat sejauh ini
    Untuk tinjauan yang bagus dan lebih mendalam secara matematis, ada juga https://arxiv.org/abs/1904.02539
    Aplikasi hebat yang tidak disebutkan situs web itu adalah operator Koopman. Dalam teori kendali, sistem nyata seperti drone otonom, mobil, dan lengan robot kebanyakan dijelaskan oleh dinamika nonlinier yang sulit ditangani, sementara operator Koopman memberikan hampiran linier yang berguna secara global untuk sistem nonlinier
    Dengan kata lain, sistem nonlinier dapat diperlakukan seperti sistem linier dengan akurasi yang cukup tinggi, sehingga dari sudut pandang komputasi, kendali dan estimasi menjadi jauh lebih sederhana. Linearisasi semacam ini juga bisa dipelajari dari data
    Materi teori Koopman dari Steve Brunton https://youtube.com/playlist?list=PLMrJAkhIeNNSVXUvppZTYNHKQ..., https://arxiv.org/abs/2102.12086 bagus, dan ada juga aplikasi seperti kendali robot lunak https://arxiv.org/abs/1902.02827

    • Yang pertama terlintas adalah betapa miripnya secara konseptual dengan transformasi Fourier. Ini benar-benar menarik, jadi saya berencana menggali lebih jauh
    • Saya benar-benar berterima kasih atas konten Steve Brunton. Andai saya bisa melihat materi seperti ini 10 tahun lalu saat program magister, mungkin semangatnya terhadap bidang ini dan kualitas penjelasannya akan membuat saya lanjut sampai doktor
      Saat itu saya lelah mencari dana riset, lalu kembali membaca buku kaku sendirian, sampai akhirnya muak dengan dunia akademik dan pergi
      Para pendidik YouTube yang bagus sedang menciptakan peluang masa depan yang luar biasa, dan pada akhirnya semua orang akan merasakan manfaatnya. Teori kendali menunjukkan titik-titik hubungan di antara berbagai bidang, sehingga bisa menjadi kesenangan besar bagi orang yang suka melihat pola dan struktur di mana-mana. Seingat saya, Steve baru-baru ini juga mengunggah video teori kendali untuk model sosial
  • Kesadaran bahwa fungsi dapat diperlakukan sebagai elemen dari ruang vektor abstrak berdimensi tak hingga merupakan titik balik dalam sejarah matematika, dan ini mengarah pada munculnya subbidang bernama analisis fungsional
    Arti penting pergeseran perspektif ini adalah bahwa intuisi geometris yang diperoleh dari studi ruang berdimensi hingga seperti ruang Euklides 3 dimensi dapat diterapkan pada persoalan sulit terkait fungsi, misalnya keberadaan solusi persamaan diferensial tertentu
    Sejarah perubahan ini berawal dari akhir abad ke-19 dan awal abad ke-20, dan sangat menarik. Pada masa itu, pekerjaan fondasi aksiomatis matematika sedang membentuk arus yang menyistematisasi objek matematika dengan menangkap strukturnya dalam daftar aksioma yang ringkas
    Misalnya, konsep ruang vektor abstrak juga lahir dengan cara ini, dan akhirnya mencakup bukan hanya ruang Euklides, tetapi juga ruang fungsi berdimensi tak hingga
    Salah satu materi yang sudah menunjukkan pergeseran perspektif ini, setidaknya dalam bentuk awalnya, adalah memoir Vito Volterra tahun 1889 https://projecteuclid.org/journals/acta-mathematica/volume-1...
    Disertasi doktor Maurice Fréchet tahun 1906 https://zenodo.org/record/1428464/files/article.pdf dapat dipandang sebagai karya paling berpengaruh yang mengkristalkan paradigma baru ini dan menyajikannya dalam bentuk modern, sehingga menjadi rujukan utama pada paruh pertama abad ke-20
    Tentu saja itu hanya dua dari banyak karya pada masa itu; melihat perkembangan selanjutnya, buku Stefan Banach tahun 1932 juga sulit diabaikan http://kielich.amu.edu.pl/Stefan_Banach/pdf/teoria-operacji-...

    • Untuk melakukan analisis fungsional, menurut saya tidak harus berupa ruang vektor; yang benar-benar dibutuhkan adalah hasil kali dalam. Namun, saya mengakui bahwa karena hasil kali dalam harus linier, pada akhirnya ia memang harus berada di dalam ruang vektor
    • Bukan berarti bagian ruang vektornya tidak keren, tetapi alasan bidang ini disebut analisis fungsional adalah karena ia dapat menangani berbagai bentuk limit, semikontinuitas, penyempurnaan ruang menjadi lengkap, dan seterusnya, serta semua itu memiliki sifat-sifat yang baik
      Jadi menurut saya intinya adalah bahwa ruang-ruang vektor ini sebenarnya bersifat topologis
  • Saya selalu sangat menyukai sudut pandang ini. Saya sedang menikmati membaca kuliah persamaan diferensial dan persamaan integro-diferensial yang disampaikan Vito Volterra di Madrid, dan ia pada saat yang sama juga berkontribusi pada terbentuknya analisis fungsional
    Di sini, fungsional adalah konsep yang bersesuaian dengan vektor dual. Volterra terus memanfaatkan metode analogi dari konstruksi dengan variabel hingga menuju variabel tak hingga, bahkan tak terhitung
    Sampai-sampai ada bagian ketika ia sendiri tampak malu karena mungkin terlalu sering mengulang ide yang sama. Jika Anda mengajar, ini layak dilihat bersama-sama
    https://searchworks.stanford.edu/view/526111

    • Givental juga memakai sudut pandang ini dalam catatan kuliah persamaan diferensial-nya. Ini bisa membantu mahasiswa yang merasakan keterputusan antara independensi linier fungsi dan independensi linier vektor
  • Saya belum pernah melihat fungsi indeks semacam ini digunakan sebagai basis transfinit untuk ruang vektor. Fungsi itu tampak lebih seperti jumlah transfinit aneh yang terdiri dari entri-entri yang sebagian besar nol, bukan seperti titik limit dari deret hingga fungsi-fungsi basis
    Rasanya juga tidak mungkin transformasi Fourier bisa dilakukan untuk semua fungsi. Sepertinya mudah membantah dengan metode diagonalisasi bahwa tidak ada hasil yang berguna
    Bahkan ruang Hilbert pun biasanya hanya diindeks dengan bilangan bulat. Basis seperti itu sama sekali tidak memberi syarat kontinuitas atau keterdiferensialan
    Semua analisis fungsional yang pernah saya lihat menggunakan semacam syarat kontinuitas dan basis terhitung. Di luar itu, ini memang sudut pandang yang sangat berguna untuk melihat fungsi, dan cukup dekat dengan titik awal untuk memahami formalismenya mekanika kuantum

    • Inilah bagian yang paling mengganggu saya dari tulisan ini. Berguna untuk intuisi, tetapi "..." yang ditempel setelah penjumlahan tidak punya makna matematis
      Ini juga masalah umum dalam mekanika kuantum yang diajarkan di tingkat pengantar. Namun tulisan ini juga tampaknya, seperti kuliah pengantar mekanika kuantum, berfokus memotivasi konsep analisis fungsional, dan meski tidak ketat secara matematis, tetap berguna untuk penjelasan
    • Tulisan ini lebih mirip ringkasan buku yang terdiri dari beberapa bab. Pada suatu titik, ruangnya dibatasi menjadi subruang fungsi periodik, dan basisnya diubah dari delta Dirac menjadi fungsi-fungsi sinus dengan frekuensi 2pi*k/(b-a), dengan k bilangan asli
      Semua fungsi dalam subruang ini memiliki transformasi Fourier
    • Agar menjadi basis, setiap elemen harus dapat dinyatakan sebagai kombinasi linear hingga. Tentu saja, dalam pilihan basis jenis lain, ada juga konsep yang mengizinkan kombinasi linear terhitung
      Tulisan ini, mungkin dengan alasan yang baik, sepenuhnya mengabaikan pilihan yang biasanya cukup sulit dalam analisis fungsional: “ruang vektor apa yang akan digunakan”
      Ruang vektor yang mendefinisikan fungsi secara titik demi titik seperti di sini hampir selalu merupakan pilihan yang paling tidak berguna. Namun jika tujuannya adalah mengajarkan gambaran besar topik ini, itu sendiri cukup bernilai
      Mengenai pernyataan “rasanya tidak mungkin transformasi Fourier bisa dilakukan untuk semua fungsi”, dalam ruang seperti itu bahkan sulit mendapatkan konsep jarak yang berguna
    • Trik aneh yang dibenci matematikawan: cara membuat basis untuk ruang vektor fungsi real tanpa aksioma pilihan
  • Ini bersinggungan dengan definisi fungsi yang sebenarnya. Fungsi adalah pemetaan antarhimpunan di mana setiap elemen dari himpunan pertama menuju tepat satu elemen dari himpunan kedua
    Masalah dengan cara memakai vektor adalah bahwa vektor tidak seumum himpunan, sehingga ada fungsi yang tidak bisa direpresentasikan sebagai vektor
    Misalnya, vektor tidak bisa menangani nilai yang tidak terdefinisi atau elemen yang bukan angka

    • Fungsi juga tidak bisa menangani nilai yang tidak terdefinisi. Fungsi f adalah pemetaan dari satu himpunan ke himpunan lain, dan setiap elemen dari himpunan asal harus dipasangkan dengan tepat satu elemen dari himpunan target
      Menurut definisinya, semua nilai dalam himpunan asal harus dipetakan ke sesuatu di himpunan target, jadi tidak ada nilai tak terdefinisi dalam arti itu
      Alasan ruang fungsi tidak selalu bisa dipandang sebagai ruang vektor adalah karena bisa saja tidak ada konsep penjumlahan fungsi atau perkalian skalar, dan kalaupun ada, mungkin tidak cocok dengan struktur penjumlahan yang dipenuhi fungsi-fungsi tersebut
    • Itu bukan definisi fungsi, melainkan lebih dekat ke fungsi bijektif. Contoh sederhana yang tidak bijektif tetapi bisa menuju dua nilai berbeda adalah sqrt(x)
  • Ini benar hanya ketika kodomain memiliki struktur yang diperlukan untuk operasi vektor. Fungsi lebih umum daripada vektor

    • Benar. Secara spesifik, kodomain harus berupa grup Abelian. Selain itu, itu saja belum cukup; medan skalar juga harus bekerja pada kodomain itu dengan sifat-sifat yang sesuai
  • Kelihatannya benar-benar bagus, dan saya ingin membacanya lebih rinci nanti. Kemungkinan besar ini materi yang dibahas dalam kebanyakan program gelar fisika umum
    Meski begitu, seperti film atau buku yang bagus, konsepnya sendiri menarik sehingga layak ditinjau lebih dari sekali
    Dari sudut pandang programmer, sebagian teknik ini tampak cukup seperti hacking. Awalnya dimulai dengan indeks bilangan bulat yang sangat masuk akal, lalu menyadari bahwa indeks bisa digeneralisasi, dan memasukkan jauh lebih banyak informasi ke dalam indeks daripada niat semula
    Yang benar-benar menakjubkan adalah ide-ide yang tampak bodoh dan seperti penyalahgunaan ini pada akhirnya selalu mengarah ke sesuatu yang berwawasan dan berguna. Agak seperti sihir

  • Saya ingin memperkenalkan library Funsor yang saya buat bersama Eli Bingham untuk digunakan di bahasa pemrograman probabilistik Pyro dan NumPyro
    Kami mengambil sudut pandang “fungsi adalah tensor”, dan mencoba membuat library mirip NumPy untuk fungsi, terutama fungsi densitas log dari distribusi probabilitas
    Makalah: "Functional Tensors for Probabilistic Programming" (2019) https://arxiv.org/abs/1910.10775
    Kode: https://github.com/pyro-ppl/funsor

  • Menurut saya tulisan ini memberi intuisi yang buruk karena arahnya terbalik. Yang membuat fungsi membentuk ruang vektor bukanlah inputnya, melainkan outputnya
    Fungsi dari suatu himpunan X ke medan F bisa membentuk ruang vektor, sekalipun X tidak memiliki urutan

    • Bukan input maupun output, melainkan korespondensi yang memetakan input ke output, yaitu fungsi itu sendiri
  • Dalam batas yang masih bisa saya ikuti, ini sudut pandang yang sangat menarik, tetapi sayangnya saya tidak bisa mengikuti banyak bagiannya
    Saya penasaran apakah logika formal seperti ini membantu menurunkan fungsi yang menjelaskan vektor
    Dalam analisis big data, misalnya pelatihan jaringan saraf, inefisiensi dan bottleneck terbesar tampaknya tetap bermuara pada cara menemukan fungsi yang mendekati keluaran semacam vektor yang diharapkan
    Baik caranya regresi simbolik maupun banyak lapisan transformasi, sama saja. Jika kita bisa beroperasi hanya pada vektor sebagai fungsi tanpa harus mengekstrak atau mengompresi relasi antara input dan output, itu akan terasa seperti “sihir”

    • Bisa. Kita dapat menerapkan transformasi Fourier pada vektor, membuang sebagian suku dengan kontribusi rendah, yaitu frekuensi-frekuensi, lalu hanya menyimpan koefisien yang tersisa
      Pada dasarnya inilah ide dasar kompresi MP3 dan JPEG. Tentu saja ini menukar ruang dengan waktu, jadi untuk mendapatkan aproksimasi vektor asli, kita harus lebih dulu menerapkan transformasi Fourier invers
    • Mungkin Anda membayangkan vektor yang dimaksud di sini sebagai kumpulan nilai konkret seperti [x y z] di R^3
      Tulisan ini membahas ruang vektor abstrak, sifat-sifatnya seperti penjumlahan vektor dan perkalian skalar, dan khususnya mengatakan bahwa fungsi memenuhi definisi itu sehingga membentuk ruang vektor fungsi, yaitu ruang fungsi
      Misalnya, jika ada dua fungsi f, g dan skalar b, kita dapat memperlakukannya seperti berikut
      f + g = g + f
      b(f + g) = bf + bg
      Selain itu, ada (-f) sehingga f + (-f) = 0, di mana 0 adalah fungsi nol, dan fungsi nol ini juga harus ada dalam ruang fungsi