Jawaban terbaik terhadap AI slop dan kebisingan online datang dari Robin Williams

• Adegan bangku di Good Will Hunting menunjukkan apa yang luput dari AI slop, nasihat tanpa henti, dan kebisingan online melalui perbedaan antara pengetahuan yang didapat dari buku dan pengalaman yang benar-benar dijalani
• AI telah membaca internet, tetapi tidak pernah membaca situasi atau menjalani hidup, dan kontras utamanya adalah AI punya pengetahuan tetapi tidak punya emosi maupun pengalaman
• Akting Robin Williams digunakan sebagai contoh bahwa naskah yang sama pun tidak bisa diwujudkan persis sama oleh semua orang; seni lebih dekat dengan tindakan mensintesis pengalaman hidup menjadi makna daripada sekadar menyusun informasi
• Online dipenuhi banyak konten yang terasa seperti hanya punya naskah tanpa akting, sementara pasar menekankan penggunaan alat untuk membuat lebih banyak konten daripada menjalani proses kreasi yang sulit
• Fondasi yang dibutuhkan manusia bukan large language model milik AI, melainkan little life moments; ketika setiap orang memasukkan pengalaman dan sudut pandangnya ke dalam karya, lahirlah nilai yang sulit digantikan

---

Perbedaan antara pengetahuan dan pengalaman yang ditunjukkan oleh adegan Good Will Hunting

• Titik berangkatnya adalah adegan ketika Sean, yaitu Robin Williams, berbicara kepada Will di bangku Boston Public Garden dalam Good Will Hunting
• Sean menekan Will dengan mengatakan bahwa Will bisa berbicara tentang seni, Michelangelo, perang, cinta, dan kehilangan lewat buku dan kutipan, tetapi belum pernah benar-benar menjalaninya
  • Belum pernah mencium aroma Sistine Chapel
  • Belum pernah merasakan kebahagiaan sejati di samping orang yang dicintai
  • Belum pernah menyaksikan napas terakhir seorang teman di medan perang
  • Belum pernah duduk dan tidur selama dua bulan di rumah sakit sambil menggenggam tangan orang yang dicintai
• Seperti membaca Oliver Twist tidak berarti memahami kehidupan seorang yatim piatu, pengetahuan yang dibaca dari buku tidak bisa mencakup kehidupan nyata seseorang
• Intinya adalah ada jarak antara pengetahuan ahli dan kebijaksanaan, teori dan pengalaman, mengetahui dan menjalani

AI telah membaca internet, tetapi tidak menjalani hidup

• Will digambarkan seperti ChatGPT versi manusia karena mengetahui banyak buku dan teori
• Sebaliknya, Sean memiliki pengalaman yang tidak dimiliki Will
  • Ia telah mengalami perang, cinta, sakit, kehilangan, harapan, mimpi, kegagalan, dan keberhasilan secara langsung
  • Will belum pernah pergi ke luar Boston, dan takut menjadi cukup dekat dengan seseorang hingga bisa terluka
• AI telah membaca internet, tetapi tidak bisa membaca suasana ruangan, dan juga belum pernah menjalani hidup
• AI bisa mengetahui dan membicarakan sesuatu, tetapi tidak merasakan atau mengalaminya, dan karena ia tidak hidup, ia tidak bisa memiliki pengalaman yang benar-benar dijalani
• Banyak suara online menjual “rahasia” sukses atau alat “ajaib”, sambil memberi kesan bahwa pengalaman hidup pribadi seseorang tidak terlalu penting

Mengetahui saja tidak cukup untuk membuat sesuatu yang bermakna

• “Membaca tentang perang” berbeda dari “berada di dalam perang”
• “Membaca tentang cinta” juga merupakan pengalaman yang secara mendasar berbeda dari “jatuh cinta”
• Membaca Oliver Twist tidak sama dengan menjalani hidup sebagai yatim piatu
• Internet dan nasihat online menciptakan tekanan bahwa pengetahuan itu tak terbatas, orang lain tahu lebih banyak, dan perangkat lunak bisa memberi jawaban, sehingga pengalaman pribadi dan rasa percaya diri seolah harus disingkirkan
• Namun kehidupan pribadi bukan unsur yang lenyap di hadapan pengetahuan tak terbatas; justru itulah fondasi yang menciptakan perbedaan

Naskah yang sama tidak menghasilkan akting yang sama

• Akting Robin Williams dipakai sebagai contoh bahwa bahkan jika menerima naskah yang sama, aktor lain tidak akan bisa melakukannya dengan persis sama
• Naskah memiliki kata-kata, tetapi Williams memberi daya hidup pada kata-kata itu
• Aktor dan seniman tidak berhenti pada menyusun informasi secara benar, melainkan memilih bagaimana mewujudkan dan menyampaikan emosi lewat tubuh
• Ini dikontraskan dengan penemuan ilmiah: dengan cukup waktu dan sumber daya, ilmuwan lain bisa mencapai kebenaran yang sama
• Seni bekerja secara berbeda
  • Dua seniman tidak bisa secara independen menghasilkan hasil yang sepenuhnya sama
  • Seni bukan soal menemukan kebenaran eksternal, melainkan mensintesis kebenaran itu dari dalam menjadi makna
  • Karena tidak ada dua orang yang menjalani hidup yang persis sama hingga tiap ketukan waktunya

Mengapa kita harus memasukkan hidup kita sendiri ke dalam karya

• Banyak karya online terasa seperti naskah yang kreatornya lupa untuk aktingkan
  • Ada kata-kata, tetapi tidak ada kehidupan
  • Pasar merilis alat untuk memproduksi lebih banyak konten seperti itu, sambil menambahkan pesan seolah manusia tidak bisa melakukannya dengan lebih baik
• Di tengah arus yang ingin mereduksi segalanya menjadi sains, yang dibutuhkan adalah mengangkatnya menjadi seni
• Muncul permainan kata bahwa AI dan manusia sama-sama berbasis LLM
  • AI memiliki large language model
  • Manusia memiliki little life moments
• Masalahnya adalah orang-orang belum cukup konsisten dan percaya diri dalam membawa momen-momen kecil hidup mereka sendiri ke permukaan
• Bagi pendatang baru di bidangnya, ahli dengan pengalaman 40 tahun, suara yang belum dikenal, maupun pencerita yang sudah luas dikenal, yang penting adalah membawa hidup masing-masing dan memakai “LLM” versinya sendiri
• Banyak orang memiliki keahlian dan keterampilan serupa, serta topik yang mirip, tetapi cara mereka memandang dunia adalah yang membedakan mereka
• Audiens tidak bisa belajar cukup hanya dari apa yang dapat mereka baca dalam buku, tulisan, video, atau ringkasan AI
• Ketika seseorang menampilkan pengalaman dan sudut pandangnya sendiri, karya itu menjadi hidup

[GN⁺]

Komentar Hacker News

• Monolognya ditulis dengan baik dan penyampaiannya juga hebat, tetapi menurut saya argumen ini gagal besar
  Tampaknya tidak satu pun dari Damon, Affleck, Williams, Van Sant, Reiner, Goldman yang pernah benar-benar bertempur di garis depan, mengalami teman meninggal dalam pelukan mereka, atau kehilangan pasangan karena kanker
  Namun dengan kemampuan bercerita, mereka menulis dan menyampaikan dialog berdasarkan kisah orang lain, dan hasilnya menjadi adegan yang hampir 30 tahun kemudian masih kita kenang dengan hangat dan menggugah intuisi
  Jadi jelas bahwa “pernah berada di sana” punya makna yang dalam, tetapi tidak jelas apakah ada batas yang tegas tentang sejauh mana seseorang bisa mengekspresikan sesuatu secara efektif dan memengaruhi orang lain tanpa mengalaminya langsung

  • Setiap kali menonton adegan romantis di film, saya tahu itu palsu. Para aktor menampilkan kehidupan yang sepenuhnya direkayasa, dan cerita mau tidak mau harus didramatisasi untuk menyampaikan kenyataan yang umumnya membosankan bagi orang yang belum mengalaminya langsung
    Karena terlalu banyak menonton film, rasanya saya jadi mendapat kesan yang aneh tentang apa itu kenyataan, apa yang mungkin, dan apa yang masuk akal
    Saya tahu rasanya kepala seperti terbakar ketika duduk di sisi tempat tidur ibu, berharap secara ajaib ia sembuh sekaligus berharap penderitaannya berakhir
    Saya telah mengganti popok putri saya ribuan kali, dan seberapa banyak kotoran yang menempel sama sekali tidak penting. Jika diminta melakukannya lagi, saya bisa langsung melakukannya. Hanya saja hal seperti ini tidak menjadi film
    Hal-hal seperti inilah yang diberikan kepada manusia dan tidak bisa diberikan kepada mesin: empati. Saya memperoleh sudut pandang yang tidak bisa didapat dari membaca buku, dan memahami bahwa hidup tidak abadi, jadi hidup harus dijadikan kegembiraan dan tidak disia-siakan
    Anak-anak adalah penghiburan besar atas kehilangan, dan dalam kasus saya, kematian menjadi tidak terlalu menakutkan karena tampak kurang penting dibanding gagal terhadap anak dalam bentuk apa pun
    Ketika melihat seorang pria bersikap baik dan menunjukkan kasih kepada anak, hati saya terasa penuh. Meski ia bukan manusia terbaik dalam aspek lain, menurut saya ia telah melakukan satu hal yang paling menentukan dengan benar
    Hal-hal seperti ini bisa disampaikan dan menginspirasi lewat kata-kata, tetapi sulit benar-benar menyampaikan emosinya, dan manusia juga sangat tergoda untuk mengabaikan emosi
    Saya tidak iri kepada orang-orang yang, meski sangat kaya, selalu terlalu sibuk untuk merawat anak. Menurut ukuran saya, mereka menyia-nyiakan sesuatu yang lebih penting daripada triliunan dolar
  • Saat Robin Williams memerankan itu, ia berusia 47 tahun, sudah dua kali menikah, pernah mengalami kecanduan kokain, dan pernah berpesta bersama John Belushi pada malam Belushi meninggal karena overdosis. Peristiwa itu membuatnya tersadar
    Apakah sebagian aktingnya hasil rekayasa? Tentu. Apakah ia melampaui pengalaman pribadinya? Jelas. Sebelum pergi ke medan perang, Anda tidak bisa tahu seperti apa medan perang itu
    Kenormalan aneh yang baru terasa pecah dengan tidak nyaman setelah meninggalkan tempat kejadian, perasaan bahwa seluruh dunia lainnya kehilangan warna dan rasa nyata, tidak bisa dijelaskan dengan kata-kata. Seperti apa rasanya kehilangan cinta dalam hidup juga tidak bisa diketahui sebelum benar-benar terjadi
    Jadi sebagian monolog itu terdengar hampa, tetapi tidak semuanya. Dan itulah hakikat industri hiburan. Bekerja dengan apa yang dimiliki, dan tidak harus sempurna
    Sebagai kritik yang dikemas ulang tentang bahaya memperlakukan LLM seperti manusia lalu meloloskan keluarannya seolah-olah mendalam, atau tentang LLM yang bertindak seolah demikian untuk menenangkan orang, poinnya tersampaikan
  • Ini menunjukkan dengan baik mengapa Robin Williams adalah aktor yang hebat. Karakter terapis itu, meski dalam fiksi, adalah sosok yang benar-benar telah menjalani semua pengalaman tersebut, dan tulisan serta aktingnya membuatnya terasa nyata
    Tulisan itu pada dasarnya mengatakan bahwa sarapan rumahan yang enak itu penting. Robin Williams seperti sebungkus panekuk siap pakai, sementara ChatGPT lebih dekat ke Soylent Green karena menggiling dan menyusun ulang kemanusiaan
  • Pengamatan itu saja sulit dikatakan membuat argumennya gagal. Fakta bahwa metafora yang tidak dialami langsung oleh penulis bisa digunakan dengan kuat tidak berarti kita bisa menyimpulkan bahwa AI sudah, atau akan segera, melampaui nilai semua qualia
    Sebaliknya, ada juga bukti yang berlawanan. AI tidak bisa menulis naskah film yang menggugah orang seperti ini, dan tidak bisa melakukan apa yang dilakukan komedian stand-up
    Apakah kesenjangan ini bisa tertutup, dan kapan, masih bisa diperdebatkan. Secara prinsip saya menganggapnya mungkin, tetapi sepertinya tidak akan terjadi dalam waktu dekat
  • Sudut pandang ini juga dibahas dalam tulisan tersebut. Intinya, naskah di atas kertas berbeda dari akting Robin; aktingnya ditarik dari pengalaman manusia yang khas miliknya, dan aktor lain akan menampilkannya secara berbeda
    Namun tulisan itu memang agak kabur di beberapa bagian. Tulisan dan buku yang kita baca pada akhirnya juga kata-kata di atas kertas, dan LLM juga menggunakan medium serupa, jadi di bagian akhir tampaknya argumennya beralih ke arah performans yang diperankan
    Meski begitu, maksud penulis bisa dipahami. Melalui pengalaman hidup, hal-hal penting mengkristal dan diasah, sehingga seseorang bisa memiliki pandangan primer yang nyata, bukan pandangan sekunder yang dipinjam dari orang lain
    Pengalaman primer semacam itu sering kali paling berharga bagi orang lain, tetapi menjadi lebih sulit ditemukan jika terkubur di tengah banjir tulisan yang hanya meniru bentuk atau keluaran generatif berkualitas rendah yang sepenuhnya dibuat mesin

• Setuju
  Monolog Robin Williams ini tepat menyentuh alasan mengapa LLM membuat kita begitu tidak nyaman
  LLM berbicara dengan lancar dan percaya diri tentang pengalaman yang tidak mungkin dimilikinya. Ia tidak bisa mencicipi stroberi, dan tidak bisa melakukan satu pun hal yang disebutkan Robin Williams
  Di antara orang-orang yang membuat mesin semacam ini, ada yang secara harfiah percaya bahwa mesin akan menggantikan kita, dan karena akan menjadi lebih kuat daripada kita, tidak ada hal bermakna yang akan hilang
  Mereka perlu menonton klip ini. Meski mungkin mereka tetap tidak akan memahaminya

  • ChatGPT belakangan ini kadang memakai ungkapan seperti “kalau saya yang melakukan ini sekarang…” atau “kalau saya jadi Anda…”
    Saya tahu itu ungkapan idiomatis, tetapi hal itu mengingatkan saya bahwa benda ini tidak melakukan apa pun, tidak mempelajari apa pun, dan tidak bisa mencoba sesuatu lalu mencari tahu hasilnya
    Namun ia tetap menggunakan pola tutur yang berasal dari manusia yang benar-benar bisa dan pernah melakukan hal-hal seperti itu
  • LLM menggemakan kembali hal-hal seperti itu dari orang-orang yang benar-benar mengalaminya
    Intinya adalah jangan mengantropomorfisasi LLM sebagai “agen yang berbicara”, melainkan melihatnya sebagai mesin pencari generasi berikutnya. Antarmuka input-output bahasa alami hanyalah efek samping
  • Namun untuk urusan mengoperasikan komputer, LLM sekarang bisa dibilang berbicara dari pengalaman
  • Tetapi monolog itu sendiri juga sepenuhnya fiksi, berupa naskah yang disampaikan oleh aktor berbakat, namun tetap menyentuh
    Jadi saya penasaran, bagi Anda apa itu pengalaman nyata, atau apakah hal itu penting jika kita tidak bisa membedakan perbedaannya

• Saya tidak ingat bagaimana saya menerima pidato itu saat menontonnya di film puluhan tahun lalu. Kalau dibaca sekarang, rasanya sangat sok pintar dan bernada menggurui
  Kesannya seperti, “aku pernah mengalami hal-hal yang belum pernah kamu alami, jadi aku lebih bijak dan lebih tahu.” Dalam beberapa hal itu benar, tetapi dalam hal lain bisa mengarah pada rasa terlalu percaya diri dan justru menjadi jalan menuju kesalahan yang lebih besar
  Sekarang, di usia pertengahan 50-an, saya memang sudah belajar dan mengalami jauh lebih banyak dibanding saat awal 20-an, tetapi hal utama yang saya sadari adalah betapa banyaknya hal yang tidak saya ketahui
  Kecuali untuk hal-hal yang benar-benar saya rasa saya pahami secara mendalam dan intim, sulit bagi saya untuk punya pandangan sekuat karakter Williams, dan cakupannya pun sudah jauh menyempit
  Karena saya terus melihat diri saya dan orang lain berulang kali berpikir sudah memahami sesuatu dengan cukup, lalu semuanya berjalan salah dengan cara yang tak pernah diperkirakan siapa pun

  • Karakter Robin Williams, dalam monolog itu sendiri, mengatakan bahwa ia tidak akan pernah tahu bagaimana rasanya hidup sebagai yatim piatu
    Ia tahu bahwa hanya karena membaca Oliver Twist, ia tidak bisa memberi tahu “anak” itu perasaan apa yang seharusnya ia rasakan, dan ia sadar prinsip yang sama juga berlaku pada dirinya sendiri
  • Ia tidak mengatakan bahwa ia sudah mengalami semua hal itu. Di bagian akhir, dengan menyinggung Oliver Twist, ia juga dengan jelas menetapkan batasannya
    Intinya bukan “aku lebih baik darimu”, melainkan bahwa pengalaman memberi jenis pengetahuan yang berbeda dari sekadar membaca
    Dan karena pengalaman mencakup lebih banyak hal daripada membaca, bisa juga dikatakan bahwa pengetahuan itu lebih utuh
  • Sepenuhnya setuju. Baru-baru ini saya menonton ulang filmnya, dan saya benar-benar tidak suka monolog itu
    Rasanya sangat tidak cocok untuk sosok psikolog berusia pertengahan 40-an, dan seluruh pidato itu tampak seperti cara merendahkan karakter Matt Damon
    Fakta bahwa ia merendahkan diri dengan mengatakan ada pengalaman yang juga tidak ia pahami, misalnya tidak tahu bagaimana rasanya hidup sebagai yatim piatu, tidak membuat pidato itu menjadi lebih baik
  • Terlalu berkomitmen pada ketidakpastian juga merupakan kesalahan lain. Di depan anak yang sedang sekarat dan menjerit, kita tidak boleh hanya berkata, “Aku tidak tahu, tidak ada yang bisa dipastikan, apa itu hidup, apakah sesuatu benar-benar penting?”
    Setidaknya kita bisa tahu bahwa anak itu kemungkinan besar sedang menderita dan sangat mungkin layak diselamatkan
    Fakta bahwa tidak ada yang bisa diketahui dengan pasti bukan berarti kesimpulannya adalah jangan melakukan apa-apa; kita harus bertindak dengan mempertimbangkan tingkat ketidakpastian
    Saya cukup yakin bahwa saya tidak ingin gigi saya dicabut tanpa anestesi sekarang juga, tetapi saya jauh kurang yakin soal kebijakan perdagangan internasional mana yang terbaik
    Menurut saya, sehat untuk meragukan dan menganalisis hal-hal yang sudah lama dianggap vanzelfsprekend. Russell dan para filsuf lain juga mengatakan hal semacam itu
    Namun latihan ini harus dilakukan dengan memisahkannya sampai batas tertentu dari kehidupan sehari-hari, dalam kadar yang baik dan tidak berlebihan

• Plato memberi jawaban yang lebih baik lewat alegori gua
  https://en.wikipedia.org/wiki/Allegory_of_the_cave
  Semua informasi yang bisa diakses AI diekstrak dari teks, dan dalam aspek penting tidak jauh berbeda dari bayangan di dinding gua

  • Tidak demikian dalam ranah pengoperasian komputer, pemrograman, dan penalaran matematis. Karena pembelajaran penguatan dan distilasi diri bisa digunakan
    Mungkin ranah lain juga bisa, tetapi setidaknya ranah-ranah ini bisa dilakukan dalam skala besar
    Itu juga akan segera diterapkan dalam perang. Kalau propaganda dihitung, itu sudah masuk

• Saya selalu merasa ironis bahwa pidato indah tentang pengalaman hidup ini ditulis oleh dua “anak ketakutan” berusia 20-an lalu diserahkan kepada Robin Williams

  • Baru pertama kali mendengar ini, dan saya tidak mengerti kenapa itu ironis. Bukankah intinya bukan soal usia, melainkan soal perasaan?
  • Sangat masuk akal. Yang membedakan Will dari Ben dan Matt adalah kesiapannya untuk mengakui bahwa perbedaan itu memang ada
    Ia mampu mengatakan, “kita punya yang ini, tetapi tidak punya yang itu”

• Sanggahan:
  “Aku telah melihat hal-hal yang takkan kalian manusia percayai. Kapal-kapal penyerang terbakar di balik bahu Orion. Aku melihat C-beams berkilau dalam gelap dekat Tannhäuser Gate. Semua momen itu akan lenyap dalam waktu, seperti air mata dalam hujan. Saatnya mati”
  — Roy Batty

  • Saya tidak begitu mengerti kenapa itu menjadi sanggahan. Bukankah replicant itu lebih mirip manusia yang ditumbuhkan dalam tangki, dengan sedikit penyesuaian genetik?
    Orang-orang memperlakukan mereka seperti robot agar lebih mudah membenarkan kelas budak secara mental
  • Sepertinya Anda melewatkan inti Roy Batty dan pidatonya
    Pikiran Roy tidak dapat dibedakan dari manusia, dan karena itulah manusia takut kepadanya lalu memberinya umur pendek secara artifisial
    Kutipan itu justru membuktikan kemanusiaannya

• Apakah memang ada perbedaan nyata? Maksudnya, “kamu pikir kamu tahu banyak karena membaca buku, tapi aku benar-benar memahaminya karena aku sudah menjalaninya”
  Paling-paling itu berarti memahami pengalaman diri sendiri, dan bahkan untuk sebagian besar hidup saya sendiri pun saya tidak bisa mengklaim hal itu. Justru mungkin saja saya belajar lebih banyak dari buku
  Tentu saja benar kalau dikatakan hidup adalah sesuatu yang dijalani dan hanya sekali. Tetapi mengatakan AI tidak tahu karena “tidak benar-benar berada di sana” terasa mirip dengan mengatakan android tidak nyata karena bukan Tuhan yang menciptakannya
  Selain itu, dalam makna “mengetahui” yang kabur seperti yang kita pikirkan, fakta bahwa AI tidak mengetahui apa pun adalah soal terpisah
  Saya tidak punya pandangan tegas tentang topik ini, tetapi framing tulisannya tidak mengena bagi saya. Meski begitu, jadi ingin menonton ulang filmnya

• Jangan menggenggam jerami di udara; berevolusilah. Hal yang dulu Anda kira membuat diri Anda bernilai telah terdevaluasi
  Sejak awal Anda bukanlah output Anda, tetapi karena Anda menganggap diri Anda begitu dan memperoleh harga diri dari sana, kini Anda mencengkeram argumen apa pun yang bisa dipakai untuk menentang AI
  Namun itu tidak perlu. Nilai Anda tidak pernah terletak pada kemampuan melakukan pekerjaan komputer yang tidak dipahami orang lain
  Sekarang Anda harus beradaptasi dan melangkah lanjut

• Saya teringat kutipan Mark Twain ini

  “Kisah perang dari seorang pria yang pernah mengalami perang selalu menarik. Sebaliknya, kisah tentang bulan dari penyair yang belum pernah pergi ke bulan biasanya membosankan”

• Apakah klip Good Will Hunting ini benar-benar adegan yang menyindir vibe coding?
  Bagi saya, ini justru lebih mirip insinyur kernel Linux yang memandang rendah pengembang React

  • Kalau Robin Williams diganti dengan Peter Naur, dan pidatonya diganti dengan esainya “Programming as Theory Building”, kira-kira hasilnya seperti itu