- Pentingnya penulisan ilmiah yang ditulis langsung oleh manusia terus ditekankan bahkan di era LLM
- Menulis bukan sekadar menyampaikan hasil penelitian, tetapi juga alat untuk memurnikan pemikiran dan menemukan ide baru
- Teks yang ditulis LLM kurang dalam hal akuntabilitas dan autentisitas, serta memiliki risiko besar menghasilkan informasi palsu (halusinasi)
- LLM efektif digunakan sebagai alat untuk meningkatkan keterbacaan, memperbaiki tata bahasa, dan memunculkan ide, tetapi jika seluruh proses menulis diserahkan kepadanya, kita bisa kehilangan kesempatan untuk berpikir kritis dan berpikir kreatif
- Pengalaman membentuk narasi penelitian yang kreatif dan kesempatan untuk berefleksi adalah proses penting yang khas dimiliki manusia
Nilai penulisan ilmiah yang dihasilkan manusia di era LLM
- Penulisan ilmiah adalah inti dari metode penelitian sekaligus praktik umum untuk mengomunikasikan hasil riset
- Menulis bukan sekadar pelaporan hasil, melainkan proses menata pikiran secara terstruktur dan disengaja serta merumuskan pesan utama
- Ada juga hasil penelitian yang menunjukkan bahwa menulis tangan berdampak positif pada konektivitas otak serta pembelajaran dan ingatan
Perlunya penulisan ilmiah yang berpusat pada manusia
- Diajukan pandangan bahwa pentingnya penulisan ilmiah yang ditulis langsung oleh manusia harus terus diakui
- Dengan LLM, seluruh makalah atau laporan penelaahan bisa ditulis dengan cepat, tetapi LLM tidak bisa menjadi penulis (karena kurangnya akuntabilitas)
- Jika menulis adalah berpikir, maka makalah yang ditulis LLM bermasalah karena itu sama saja dengan membaca 'pikiran' model, bukan peneliti
Keterbatasan dan hal-hal yang perlu diperhatikan dalam penggunaan LLM
- LLM saat ini dapat menghasilkan informasi yang salah, yang disebut sebagai halusinasi
- Karena kutipan atau referensi yang dihasilkan LLM bisa bersifat fiktif, semua isi harus diverifikasi dengan teliti, dan dalam praktiknya justru bisa memakan lebih banyak waktu
- Beberapa masalah LLM mungkin dapat diperbaiki dengan model yang hanya dilatih pada basis data ilmiah, tetapi efisiensi nyatanya masih belum pasti
Cara memanfaatkan LLM secara positif
- LLM dapat digunakan secara berguna untuk meningkatkan keterbacaan, memperbaiki tata bahasa, mencari dan merangkum berbagai makalah, serta brainstorming ide
- LLM juga dapat membantu pemikiran kreatif, seperti mengatasi writer's block, menawarkan berbagai cara penjelasan, dan menemukan hubungan baru antar topik
Nilai kreativitas dan refleksi yang khas manusia
- Namun, mendelegasikan seluruh proses menulis kepada LLM akan berakibat pada hilangnya kesempatan untuk berefleksi atas bidang penelitian dan membangun narasi kreatif
- Proses menyusun ulang isi penelitian menjadi cerita yang menarik dan meyakinkan adalah kemampuan manusia yang esensial, melampaui sekadar penulisan makalah akademik
1 komentar
Pendapat Hacker News
Saya rasa membaca itu sendiri adalah berpikir. Dan karena membaca dan menulis adalah proses berpikir, berbahaya jika kita membiasakan menyerahkannya pada model AI. Terutama pada masa pembentukan diri siswa, mereka harus belajar sendiri cara berpikir melalui membaca dan menulis—perlu latihan terus-menerus seperti refleksi, mencatat, dan sebagainya. Ini mirip penggunaan kalkulator: setelah punya dasar yang cukup, memanfaatkan kalkulator elektronik itu tidak masalah, tetapi yang paling penting adalah pengalaman menghitung dengan kepala sendiri atau mengerjakannya dengan tangan. Alasannya adalah agar terbentuk kebiasaan memeriksa salah input atau memverifikasi hasil perhitungan. Saya khawatir ketika anak-anak yang kemampuan berpikirnya belum mapan mulai menyerahkan pekerjaan kepada LLM
Saya ingin memberi contoh kisah penemuan tulisan di Mesir kuno (dikutip dari Plato, Phaedrus). Thoth menekankan manfaat tulisan kepada Thamus, tetapi Thamus memperingatkan bahwa ketergantungan pada tulisan akan melemahkan daya ingat. Perdebatan seperti ini rupanya sudah berulang selama lebih dari 2.000 tahun. Saya pun merasa Thamus mungkin benar, tetapi kenyataannya sekarang kita semua menjalani hidup dengan memanfaatkan baca-tulis
Tindakan benar-benar menulis sesuatu di atas kertas itu sendiri memicu pemikiran yang lebih mendalam. Khususnya di bidang engineering, penghayatan seperti ini penting. Karena itu banyak perusahaan teknologi mengembangkan budaya dokumentasi seperti RFC. Ini sangat membantu baik bagi penulisnya sendiri maupun bagi peninjau
Membaca adalah tindakan mengikuti pikiran orang lain, sedangkan menulis adalah proses menjelajahi pikiran saya sendiri secara langsung. Itulah mengapa menulis terasa menyakitkan bagi banyak orang, dan sekaligus menjadi alasan mengapa itu perlu. Dan mengajar juga penting. Menyaring pikiran hingga menjadi jelas adalah pekerjaan yang sangat berharga sekaligus sulit
Saya melihat pengaruh LLM terhadap berpikir persis seperti kalkulator. Ia membuat kita melewati beberapa tahap berpikir tertentu, tetapi sebagai gantinya membuka kemungkinan jenis berpikir lain yang baru. Menurut saya, pikiran saya justru bertambah karena LLM. Karena LLM mengurangi pekerjaan berulang, saya bisa mencurahkan lebih banyak waktu dan energi untuk cepat mengekstrak "sinyal" dari informasi, atau menggabungkan ide dari berbagai bidang. Saya bisa saja membuat kesalahan, tetapi tanpa LLM saya mungkin akan membuat kesalahan serupa, hanya lebih lambat. Bahkan, di bidang yang bukan keahlian saya, mungkin saya akan menyerah melakukan riset sama sekali atau berpikir sangat sempit. Melarang LLM tidak otomatis memperdalam pemikiran. Sama seperti melarang kalkulator tidak akan membuat semua orang jadi pandai matematika; ketika kalkulator diizinkan, orang yang suka matematika justru bisa melangkah jauh lebih jauh
Anak-anak ini akan hidup di masa depan ketika AI sudah maju. Dunia berubah cepat, jadi saya percaya anak-anak juga akan menyadarinya sendiri. Namun ada juga kenyataan bahwa kelimpahan digital yang dulu diimpikan generasi internet makin berubah menjadi mimpi buruk berupa banjir konten berlebih dan perang informasi
Saya ingin mengutip Paul Graham: "Menulis adalah berpikir. Untuk menulis dengan baik, Anda harus berpikir dengan jelas, dan berpikir dengan jelas adalah hal yang sangat sulit. Ada bentuk pemikiran khusus yang hanya bisa dilakukan dengan benar-benar menulis. Jika Anda hanya berpikir tanpa pernah menulis, Anda cuma salah mengira bahwa Anda sedang berpikir. Jika dunia terbelah menjadi 'mereka yang menulis' dan 'mereka yang tidak menulis', hasilnya akan jauh lebih berbahaya daripada yang terlihat. Dunia itu akan segera terbelah menjadi 'mereka yang berpikir' dan 'mereka yang tidak berpikir'"
https://www.paulgraham.com/writes.html
Berpikir dan menulis terhubung erat. Berpikir dan menggunakan ChatGPT tidak demikian
Tautan ke 'Your Brain on ChatGPT' dari MIT Media Lab: https://share.google/RYjkIU1y4zdsAUDZt
Saya heran bagaimana LLM benar-benar bisa "menulis" makalah ilmiah. Misalnya, ketika diberi hasil western blot, data tikus dengan modifikasi gen tertentu, atau data single-cell sequencing, makalah itu kemudian harus mengungkap protein baru dan menjelaskan jalur apa yang berubah setelah gen tikus diedit. Bahan seperti apa yang harus diberikan ke LLM, dan bagaimana LLM bisa tahu bahwa penemuan ini bermakna? Menurut saya LLM pada dasarnya hanya memparafrasekan sesuai instruksi saya. Bagian sulit dari menulis yang sebenarnya adalah 'memutuskan bagaimana menyusun cerita'
Saat masuk sekolah pascasarjana, kita belajar format standar penulisan makalah di masing-masing bidang. Jika LLM telah mempelajari cukup banyak makalah di bidang tersebut, ia bisa secara otomatis menempatkan informasi yang diberikan pengguna ke bagian yang tepat. Sebagian besar waktu dalam penulisan makalah habis untuk mengurus sitasi dan menyesuaikan format, jadi justru lebih baik jika pekerjaan yang bergaya dan repetitif seperti ini ditangani LLM. Bagi ilmuwan, ketelitian dan kejelasan itu penting, tetapi pekerjaan administratif soal gaya lebih ingin saya serahkan ke otomatisasi
LLM yang telah mempelajari seluruh repositori makalah seperti arXiv bahkan mungkin bisa memahami makalah terkait lebih baik daripada manusia
LLM juga bisa terlebih dahulu menyusun rencana atau outline, jadi itu pun merupakan salah satu bentuk menulis
Bahkan berbicara pun adalah berpikir. Itu sebabnya kebebasan berbicara menjadi Amandemen Pertama. Jika seseorang membatasi hak saya untuk berbicara, ia juga mengendalikan pikiran saya.
Menulis itu seperti kekuatan super berupa 'Pensieve' dari 'Harry Potter'. Ia memungkinkan kita mengeluarkan ide dari kepala, meninjaunya di berbagai lapisan analisis, serta menyimpan dan menata ingatan dengan mudah
Gagasan kebebasan berbicara seperti yang kita pahami sekarang sebenarnya relatif baru mapan pada 1910–1920-an. Sebelumnya, makna 'free speech' sangat berbeda dari sekarang; ada podcast yang sangat bagus (Radiolab dan lain-lain) yang membahas hal ini
Situs terkait: https://voicebraindump.com
Ketika orang berkata "menulis itu penting", saya kadang berpikir sebenarnya yang mereka rasakan adalah "saya jadi lebih pintar dan merasa enak saat menulis". Pada praktiknya, kita sering lama menggabungkan ide di kepala, lalu baru mensintesiskannya di tingkat yang lebih tinggi ketika semuanya sudah terkumpul; menurut saya mudah untuk salah mengira proses sintesis yang sesungguhnya ini sebagai tindakan menulis itu sendiri. Jika saya mencoba menulisnya seminggu lebih awal, kemungkinan itu akan tidak produktif
Setidaknya bagi saya, bukan begitu. Dalam proses memindahkan pikiran, ide, dan pengetahuan ke atas kertas secara konkret, saya menemukan kesalahan atau kekurangan, dan mendapat kesempatan untuk memperbaikinya. Bukan sekadar revisi sederhana, sudut pandang atau perspektif baru juga muncul—hal-hal seperti ini sebelumnya tidak ada dalam kesadaran saya. Saya menggunakan menulis sebagai alat berpikir. Alat lain misalnya brainstorming kelompok atau diskusi. Tindakan-tindakan ini melengkapi pikiran saya dan membuatnya lebih kokoh, bahkan memberi arah atau kaitan baru. Saya juga merekomendasikan esai Paul Graham (tentang memindahkan ide ke kata-kata) dan buku Paul Zissner Writing to Learn. Mencoba menulis sebagai latihan saat belajar juga memberi efek semacam 'mengajar', sejalan dengan metode belajar Feynman
https://paulgraham.com/words.html
Sebagai contoh dari pengalaman pribadi saya, ketika benar-benar menulis, saya menemukan kontradiksi dan celah dalam pemikiran atau pengetahuan saya. Menemukan dan memperbaikinya itulah alasan saya mengatakan bahwa 'menulis adalah berpikir'
Saya tidak setuju. Cara saya adalah menuliskan dulu semua pikiran yang belum tercampur, lalu mengatur dan menyusunnya ulang sampai strukturnya terlihat. Pada akhirnya hasil yang tersintesis pun selesai. Mungkin sudah ada semacam struktur di benak saya, tetapi belum tampak jelas. Fakta bahwa penataan ulang itu terjadi berulang kali justru menjadi bukti bahwa menulis itu sendiri adalah kerja sintesis
Justru setelah dituliskanlah saya bisa menemukan celah atau kesalahan. Dari pengalaman saya, kalau tidak ditulis, saya tidak akan pernah menemukannya
Pandangan itu terlalu sinis. Setiap orang punya cara berpikir dan bekerja yang berbeda, dan manfaat yang didapat pun berbeda-beda. Kebanyakan orang tidak mengatakan 'menulis itu kebajikan' untuk pamer
Saya setuju dengan pesan "menulis adalah berpikir", tetapi itu benar tergantung konteksnya. Pada awalnya tidak selalu demikian. Faktanya, kita baru belajar mengembangkan pemikiran lewat menulis setelah kegiatan menulis menjadi murah. Jika melihat karya dan buku harian para penulis abad ke-18 hingga awal abad ke-20, seperti Tolstoy, Zweig, Goethe, dan lainnya, tampaknya mereka membayangkan seluruh isi buku di kepala terlebih dahulu lalu menuliskannya sekaligus setiap 20–30 hari. Dulu, berpikir dan menulis adalah hal yang terpisah. Di era modern, hal itu berubah berkat kertas murah dan komputer. Ini bukan berarti cara sekarang salah, tetapi kita tidak boleh salah paham seolah 'berpikir = menulis' adalah satu-satunya cara. Socrates juga mengatakan bahwa menulis merusak daya ingat (dan itu tidak sepenuhnya salah), tetapi sekarang semua orang memakai tulisan. Kritik terhadap LLM terasa ironis secara aneh. Analogi dengan tulisan muncul dengan sendirinya. Anak-anak yang tumbuh bersama LLM akan memiliki cara berpikir yang berbeda
Saya rasa ini justru merupakan tanggapan terhadap klaim "berpikir adalah menulis". Saya juga percaya bahwa berpikir sangat mungkin dilakukan tanpa tulisan. Hanya saja, menulis bukan sekadar menuangkan pikiran yang sudah selesai; dalam prosesnya, menulis membantu saya mengkritik pikiran saya, memunculkan ide baru, menyederhanakan, atau mengembangkannya. Saat dituangkan ke tulisan, jauh lebih mudah untuk meninjaunya kembali secara metakognitif
Ketika kertas masih mahal, orang sering memakai lilin atau papan kayu untuk catatan sementara. Saya ragu klaim bahwa buku utuh disusun sepenuhnya dari ingatan lalu ditulis sekaligus itu benar-benar lazim, dan ada juga bukti mengenai proses penulisan War and Peace karya Tolstoy
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
Setiap kali membaca buku filsafat abad pertengahan yang panjang dan logis, saya pernah bertanya-tanya bagaimana mereka bisa mengembangkannya seperti itu pada masa ketika bahkan kertas memo sementara pun tidak umum.
Dan soal pernyataan "anak-anak yang tumbuh bersama LLM akan berpikir berbeda", saya penasaran perbedaan seperti apa yang dimaksud. Saat melihat bagaimana mahasiswa saat ini memakai LLM, saya justru khawatir bahwa bukan berpikirnya yang berubah, melainkan mereka malah berpikir lebih sedikit
Ada teori Larry McEnerney yang mirip tetapi sedikit berbeda. Ia membedakan antara menulis untuk berpikir dan menulis untuk berkomunikasi. Menulis untuk berpikir sudah ada sejak sebelum Socrates, tetapi lebih dekat pada tindakan pribadi. Menulis untuk berkomunikasi mencakup rentang luas seperti novel, jurnalisme, dan lain-lain. Larry terutama membahas bahwa mahasiswa yang menyiapkan makalah sering kesulitan karena gagal menghubungkan dua hal ini
LLM sangat berbeda dari "menulis" yang selama ini ada. LLM lebih dekat dengan agen kreatif. Ada keuntungan saat saya bisa mengulang dan merevisi pikiran saya sendiri berkali-kali lewat tulisan, tetapi ketika memakai LLM, kini 'orang lain' yang berpikir, menulis, dan mengedit untuk saya, sehingga jumlah pikiran saya sendiri berkurang. Jika sepeda adalah cara pergi lebih jauh dengan tenaga saya sendiri (menulis), sedangkan mobil memakai sumber energi yang sepenuhnya berbeda (LLM), mana yang lebih baik bagi kesehatan fisik? Dan klaim bahwa Tolstoy menyimpan seluruh isi buku di kepalanya lalu menuliskannya seketika itu menarik. Saya penasaran dengan contoh atau buktinya. Jika ia seorang bangsawan seperti Tolstoy, tampaknya ia punya sumber daya yang cukup
Banyak orang menafsirkan bahwa jika LLM menggantikan tindakan menulis manusia itu sendiri, akan muncul risiko bagi perkembangan manusia. Saya melihatnya lebih optimistis. Jika tulisan yang baik mengarah pada pemikiran yang baik, maka setiap upaya untuk meningkatkan kemampuan menulis saya juga akan terkait dengan peningkatan kemampuan berpikir. Dalam hal itu, LLM justru sangat membantu untuk meningkatkan keterampilan menulis, dan lebih jauh lagi kemampuan berpikir itu sendiri. Kita juga bisa mendapat umpan balik yang kuat tentang informasi latar atau topik terkait. Jika LLM digunakan dengan pengendalian diri, saya percaya itu justru bisa membuat kita menjadi manusia yang lebih baik
Setiap kali saya benar-benar perlu berpikir mendalam, saya membuka sublime text dan menuliskan situasinya satu baris demi satu baris, sesingkat mungkin. Saat itu saya mengajukan pertanyaan yang sangat lugas dan mendasar kepada diri sendiri, berusaha sungguh-sungguh memahami esensi, tujuan, dan jalurnya. Rasanya seperti harus menjawab bos mafia, jadi saya menyaring hanya kebenaran tanpa alasan atau pembenaran. Dengan begitu, saya memahami struktur keseluruhannya, dan daftar hal yang harus dilakukan pun langsung muncul
Mantan manajer saya (yang juga editor) sering menyebut menulis sebagai 'discovery'. Artinya, ia pada dasarnya berada dalam konteks yang sama dengan berpikir. Saya setuju dengan pandangan ini