Ask HN: Haruskah menambahkan penanda untuk tulisan yang dibuat AI?
(news.ycombinator.com)- Mengusulkan fitur yang hanya menambahkan penanda tanpa menurunkan peringkat tulisan yang dibuat AI, agar pengguna yang tidak ingin membacanya bisa melewatinya
- Poin yang diperdebatkan adalah apakah sistem voting yang ada sudah cukup, atau apakah HN perlu mengubah prinsip dasar yang telah lama dipertahankannya agar sesuai dengan era AI generatif
1 komentar
Pendapat Hacker News
dang: HN sendiri sudah memiliki aturan larangan teks AI generatif: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
Untuk badan tulisan memang belum ada aturan yang sama, tetapi komunitas tampaknya pada umumnya tidak menginginkan tulisan seperti itu atau memberinya penilaian rendah. Alasan reaksi seperti “tunjukkan saja prompt-nya” dikumpulkan di https://news.ycombinator.com/genai-pushback agar bisa dikirim kepada pengguna yang bertanya mengapa tulisan AI generatif mereka dilaporkan
Saat ini sedang terjadi perlombaan senjata yang menarik: AI belajar dari manusia, sementara kelompok manusia juga belajar meniru gaya bahasa AI. Pembaca bereaksi terhadap gaya seperti LLM seolah alergi, dan pada momen itu tulisan langsung terdorong ke kategori berstatus rendah. Tidak ada yang tahu akan berujung ke mana ketika AI dan manusia saling beradaptasi
Sebaliknya, jika ingin tulisan diklasifikasikan sebagai berstatus tinggi, tulislah sendiri. pg pernah menyebutnya “writes and write-nots”: https://paulgraham.com/writes.html
Ini bukan berarti menolak teknologi LLM itu sendiri, dan HN juga sangat bergantung padanya. Intinya adalah bagaimana teknologi itu digunakan, dan apakah sebaiknya dipakai dalam tulisan yang dipublikasikan untuk manusia lain: https://x.com/paulg/status/2058871512451412457
Laporan yang hanya untuk penandaan pada dasarnya adalah fitur tag, sesuatu yang selama ini terus ditolak HN, meski tidak sepenuhnya dikesampingkan. Sebagai gantinya, kemungkinan besar saat melapor pengguna akan diminta memilih alasan seperti dugaan AI generatif, spam, keluar topik, sikap menyerang, dan sebagainya. Voting biasa saja memang selalu tidak cukup: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
Untuk pertanyaan apakah HN perlu berubah di era AI generatif, saya ingin menjawab dengan https://news.ycombinator.com/item?id=48887149, yang merupakan penghormatan pada https://news.ycombinator.com/item?id=3742902
Kita tidak bisa tahu apakah kesalahpahaman atau kekosongan itu terjadi karena kurangnya pemahaman penulis, karena AI yang tidak memahami, atau karena penulis tidak meninjaunya dengan benar. Bahkan jika ada gagasan yang mengejutkan, sulit memastikan apakah itu wawasan penulis, apakah ia bisa menjelaskannya lebih lanjut, atau dari mana asalnya
Jika rekan penulis manusia mengeditnya cukup banyak, hasilnya bisa mencerminkan sudut pandang dan pemahamannya dengan akurat, tetapi dalam praktik itu jarang terjadi. Fakta bahwa penulisnya secara substantif nyaris tidak ada, sehingga kita tidak bisa berinteraksi lebih dalam dengan isinya, adalah masalah yang sangat besar terutama untuk situs diskusi
Jika tulisannya dari pakar yang sudah dikenal, kita bisa membacanya dengan sikap percaya dan ingin belajar. Namun ungkapan klise yang sering dipakai AI menjadi sinyal bahwa kita tidak tahu seberapa banyak tinjauan manusia yang telah dilakukan. Akhirnya tulisan itu ditunda sebagai “tulisan yang nilainya mungkin baru terlihat kalau dianalisis penuh oleh manusia” atau langsung ditolak
IgorPartola: Jika diberi label buatan AI, tulisan akan kehilangan kepercayaan, jadi tidak ada yang akan mau menandainya secara sukarela. Komunitas bisa saja melaporkan berdasarkan petunjuk dan dugaan, tetapi itu tidak akurat dan menambah pekerjaan
Era blog pada dasarnya sudah berakhir, dan itu belum tentu hal buruk. Bahkan sebelum AI, spam blog dan blog perusahaan sudah merusak blog berkualitas, jadi pertanyaan sebenarnya adalah apa yang akan menggantikan blog
Jika tulisan AI tidak bisa dibedakan dari tulisan manusia, serta akurat dan menarik, apakah penting siapa yang menulisnya? Bukankah yang harus dihindari itu bukan fakta bahwa ia dibuat AI, melainkan kualitas yang rendah?
Mungkin akan datang masa depan ketika kita tak bisa membedakannya dengan sempurna, tetapi tidak bagus jika karena masa depan yang belum pasti kita lalu berargumen untuk tidak melakukan apa-apa sekarang. Konten AI saat ini masih cukup bisa dikenali, dan jika sudah dipoles agar tidak terlihat seperti AI, setidaknya itu berarti ada lebih banyak usaha manusia yang masuk ke dalam tulisan tersebut
Apakah seseorang mengetiknya langsung lewat keyboard tidak terlalu penting, tetapi apakah isinya dibentuk oleh manusia itu penting. LLM bukan sekadar mengetik, melainkan juga menentukan gaya, nada, suara, dan struktur, dan semua itulah inti dari komunikasi antarmanusia
Retr0id: Sebagian besar pemilih tidak bisa mengenali kalimat buatan AI, dan kalaupun bisa, mereka tidak terlalu peduli atau tetap melewatinya jika premisnya cukup menarik. Mungkin akan membantu mengurangi perdebatan meta soal seberapa banyak AI dipakai dalam sebuah tulisan jika diperkenalkan pemungutan suara dua dimensi baik/buruk dan AI/manusia
minimaxir: Fitur penanda AI jauh lebih berbahaya di dunia nyata daripada dalam teori. Di media sosial, jika seseorang dengan niat buruk melempar tuduhan “AI?”, bisa terjadi keributan akibat positif palsu, dan penulis asli harus membuktikan dirinya sendiri.
Untuk tulisan blog, juga tidak ada cara konkret yang memadai untuk membuktikan bahwa penulisnya manusia, dan meminta riwayat penyuntingan pun tidak adil. Jika HN menerapkan fitur ini, kemungkinan besar mudaratnya lebih besar daripada manfaatnya
shantnutiwari: Menolak. Di banyak posting teratas HN, selalu ada beberapa komentar seperti “ini LLM”, dan sekarang itu sudah menjadi pengganti dari “saya tidak suka tulisan ini jadi pasti LLM”: https://news.ycombinator.com/item?id=48063759
Komentar seperti ini mendapat sedikit upvote, jadi terasa seperti bertani karma dengan malas. Jika menuduh 100 tulisan sebagai LLM, sekali-sekali pasti ada yang tepat, lalu seperti astrolog, orang bisa membanggakan keberhasilan dari satu kasus itu. Perlu ada cara untuk menekan komentar berusaha rendah seperti ini
dawnerd: Sulit berharap ada langkah seperti itu selama YC berinvestasi di AI. Terlalu banyak orang di sini yang tampaknya merasa kita tinggal menyerah dan menerima saja, dan secara pribadi itu terasa seperti logika pelaku kekerasan
nunez: Sebulan lalu saya juga meminta fitur yang sama: https://news.ycombinator.com/item?id=48296731
Akan bagus jika, ketika cukup banyak pengguna melaporkan konten sebagai buatan AI, di akhir judul tulisan ditambahkan penanda
[AI Generated]CM30: Konten buatan AI biasanya melibatkan investasi yang lebih sedikit dibanding karya yang dibuat langsung, jadi penanda akan berguna, tetapi cara menanganinya dengan baik masih belum jelas.
Di internet, sering terjadi perburuan penyihir dan positif palsu yang menuduh bahkan karya manusia sebagai AI hanya karena memakai em dash panjang atau tangan dalam gambar terlihat aneh. Jika pengguna yang terlalu waspada selalu berasumsi yang terburuk, bisa saja separuh situs berakhir diberi penanda AI.
Jika penulis melapor secara sukarela, mereka akan kehilangan kepercayaan dan pembaca, jadi ada insentif kuat untuk berbohong, dan alat pendeteksi AI pun terlalu sering salah deteksi untuk dipercaya. Saya ingin alasan pelaporan untuk konten AI ditambahkan, tetapi untuk kiriman umum tetap diasumsikan niat baik, dan semoga situs secara keseluruhan tidak menjadi terlalu paranoid atau terlalu membatasi
Debugreality: Ada gagasan yang mungkin tak akan pernah muncul ke dunia tanpa bantuan AI. Saya telah memikirkan sebuah konsep demokrasi selama puluhan tahun, lalu baru-baru ini menerbitkannya sebagai white paper, dan AI membantu mengembangkan ide, menyusun struktur dokumen, serta menulis isi.
Karena saya bukan akademisi, kemungkinan besar saya tidak akan bisa menyelesaikannya tanpa AI, dan menurut saya lebih baik dipublikasikan daripada tetap hanya ada di kepala lalu hilang. Dokumen akademik yang ditulis langsung tentu akan lebih baik, tetapi meskipun sebagian besar ditulis AI, selama dua hari saya memeriksa apakah saya setuju dengan setiap paragraf dan memperbaiki masalahnya.
Saat menilai kualitas, lebih tepat melihat upaya manusia yang dicurahkan daripada sekadar apakah AI digunakan
Saya jauh lebih memilih versi yang hanya menuliskan wawasan inti secara langsung daripada membiarkan LLM menulis isi utama. Saya tidak ingin tersesat mencari inti dari kalimat demi kalimat yang berlembar-lembar. Terutama jika LLM dipakai untuk “menggemukkan” ide, itu adalah jalan paling pasti untuk membuat orang bosan.
Mengubah wawasan menjadi dokumen panjang baru diperlukan pada tahap legislasi. Tinggal bandingkan saja “beri tahu bagaimana Anda menggunakan data” dengan pasal-pasal terkait di GDPR
lazyasciiart: Bagaimana kalau menambahkan penanda judul seperti
[1997]? Ini konten yang bisa saja menarik atau tidak bagi pembaca, tetapi jika tahu sumbernya, orang bisa menerimanya secara berbeda[AI]di akhir judul, tetapi karena AI sendiri punya penggunaan yang sah, mungkin[SLOP]lebih tepatteo_zero: Sebagaimana ada orang yang tidak tahan dengan tulisan buatan AI, ada juga yang tidak tahan dengan kesalahan tata bahasa. Jika ada penanda
AI generated, orang nanti juga akan menginginkan penandalousy with mistakesDevKoala: Yang penting hanyalah apakah tulisan itu berguna, berbasis fakta, dan tidak bias. Saya tidak peduli bagaimana cara pembuatannya
thinkingemote: Cukup banyak tulisan yang diinginkan di HN berkaitan dengan LLM, dan banyak di antaranya juga ditulis dengan LLM. Sangat tidak enak dibaca dan hampir tidak ada permata yang menginspirasi, jadi kalau memang relevan saya hanya memindainya, dan nilai sebenarnya biasanya ada di komentar
Jika gaya bahasa LLM bisa dideteksi dengan mudah, mungkin menarik juga untuk melihat makalah para peneliti dan pendiri AI dari masa sebelum LLM konsumen. Gaya penulisan mereka ternyata sangat mirip dengan prosa LLM saat ini
rddbs: Daripada tulisan yang ditulis AI, saya justru ingin menyembunyikan tulisan tentang AI itu sendiri. Sekarang terasa seperti sebagian besar konten HN membahas AI, dan saya sudah lelah. Saya penasaran apakah ada cara seperti ekstensi browser yang bisa membantu memulihkan keseimbangan
Sebagai langkah pertama saya sendiri menyembunyikan semua tulisan terkait AI di halaman depan, lalu pada langkah kedua mencari tulisan menarik dari yang tersisa. Belakangan ini, sayangnya, sering ada hari ketika tidak ada satu pun yang tersisa
mattas: Pada titik ini, mungkin lebih tepat menambahkan penanda
bukan AIramon156: Saya membuat ekstensi pribadi untuk memblokir orang-orang yang terutama memposting konten buatan AI dari feed saya. Secara pribadi ini bekerja baik, tetapi saya tidak tahu apakah akan efektif untuk seluruh layanan
Bisa jadi cukup dengan menyediakan tag agar orang bisa menilai sendiri. Ekstensi terkait YouTube seperti DeArrow dan SponsorBlock menerapkan pendekatan partisipasi massa dengan baik
cloudpilot: Saya membuat aplikasi dengan bantuan AI, tetapi menulis pesannya sendiri, namun tetap dilaporkan
jaredcwhite: Saya sangat yakin bahwa teks buatan AI seharusnya tidak tampil sama sekali. Namun, selain jejak LLM yang jelas, hal itu sulit dibuktikan, dan juga tidak mudah untuk menuntut bukti bahwa tulisan itu benar-benar dibuat manusia
Semakin lama, saya cenderung lebih menyukai komunitas yang untuk tulisan yang dibagikan secara sah, ada asumsi bahwa itu ditulis manusia
Saya setuju dengan prinsipnya, tetapi sulit diterapkan secara adil dan ada risiko diskriminasi yang besar. Bahkan ada paradoks bahwa memperbaiki typo dan meninggalkan jejak penyuntingan justru bisa membuatnya tampak lebih manusiawi
shahzaibmushtaq: AI tidak lebih unggul daripada kecerdasan manusia (HI), dan tidak akan bisa demikian. Mengungkapkan apakah karyanya dihasilkan AI, dan sejauh mana AI digunakan, adalah tanggung jawab penulis dan pengarang
KingOfCoders: Tulisan itu hanya bagus atau tidak. Saya tidak peduli apakah yang menulisnya manusia, AI, atau kucing
amelius: Akan bagus jika Unicode menambahkan area kode yang sama seperti karakter Latin-1 tetapi dicadangkan khusus untuk alat AI. Dengan begitu bisa ditinggalkan semacam bit penanda tetap pada hasil buatan AI
Bahkan sekarang pun hal serupa bisa diterapkan jika perusahaan AI diwajibkan memakai karakter spasi khusus alih-alih ASCII
0x20, dan ini juga membantu menghindari masalah melatih ulang pada data hasil generasinickandbro: Saya tidak tahu bagaimana tepatnya ini akan ditegakkan, apakah misalnya akan menghitung jumlah dash panjang dalam tulisan teks murni. Bahkan detektor AI yang dibuat khusus untuk tujuan itu pun tingkat salahnya sangat tinggi
warshinder: Saya biasanya memeriksa komentar terlebih dahulu. Selalu ada seseorang yang memberi tahu apakah itu tulisan AI, tidak layak dibaca, atau tidak bisa dimuat
Di HN awal, ini juga membantu pengirim menghindari lonjakan trafik, dan jika ada paywall, seseorang akan mengunggah versi arsipnya di komentar
CqtGLRGcukpy: Tulisan yang dianggap seseorang sebagai buatan AI mungkin sebenarnya bukan, dan pendeteksi AI juga belum cukup andal untuk menyatakan itu secara pasti
Contoh yang bagus adalah tulisan promosi dangkal yang saat ini berada di peringkat 1 halaman depan: https://news.ycombinator.com/item?id=48884853
aryehof: Saya khawatir orang akan bisa dengan mudah menepis atau membungkam sudut pandang manusia tertentu hanya dengan menyiratkan bahwa itu buatan AI
rdataguy: Tidak selalu mudah mengetahui apakah sesuatu dihasilkan AI, dan fitur seperti ini juga bisa disalahgunakan. Namun, jika kecerdasan kolektif bisa menilai dalam jumlah yang cukup, tetap ada kemungkinan ini berguna
itsgrimetime: Saya tidak menentang memberi penanda pada tulisan AI, tetapi saya berharap isi tulisannya sendiri dibahas lebih dalam terlepas dari bagaimana itu dibuat. Akhir-akhir ini tampaknya makin sering ada penolakan atau kritik seketika hanya karena cara penulisannya, bukan karena apa yang sebenarnya disampaikan
Xotic007: Jika ada penanda AI, itu hanya akan memberi pembuatnya target deteksi yang jelas untuk dihindari. Akibatnya gaya AI yang mencolok mungkin akan berkurang, tetapi tidak sulit menghindari deteksi, jadi usaha pembuatnya hampir tidak akan bertambah
deevus: Tulisan Show HN yang saya tulis sendiri terkena moderasi otomatis. Sejujurnya, ini memicu sensitivitas terhadap penolakan, dan sejak itu saya tidak lagi memposting di HN
edoceo: Bukankah cukup dengan menambahkan fitur downvote pada kiriman
flagEsophagus4: Konsep yang layak dijadikan rujukan adalah https://en.wikipedia.org/wiki/Evil_bit
atomicthumbs: Menyarankan orang membaca tulisan yang dibuat mesin adalah tindakan yang tidak menghormati waktu orang lain. Jika penulisnya sendiri tidak cukup peduli untuk menulisnya langsung, maka tidak ada alasan bagi orang lain untuk membacanya, jadi nilainya 0
mleroy: Daripada melacak lalu melaporkan konten AI, lebih baik biarkan penulis secara sukarela menandai bahwa itu adalah konten orisinal. Tautan bisa diberi tag seperti
[Handmade],[Craft-Article],[Artisan-Thinking]jeremyjh: Kiriman tidak bisa di-downvote, dan banyak orang juga tidak keberatan membaca tulisan yang tidak ditulis langsung oleh siapa pun, jadi voting biasa saja tidak cukup
Bisa jadi ada usaha besar di proses selain menulis, jadi tidak bisa langsung disimpulkan bahwa tulisan AI tidak bernilai. Meski begitu, saya cenderung mendukung adanya konsekuensi untuk membangun norma yang menghargai komunikasi antarmanusia yang nyata
Saya sering membaca konten generatif karena banyak memakai AI untuk berbagai keperluan, dan semakin saya mengenali suara khas AI, semakin terasa mengganggu. Ada perbedaan besar antara membaca jawaban untuk prompt saya sendiri dan membaca tulisan yang sama sekali tidak memberi tahu prompt, jumlah revisi, maupun apakah ada peninjauan manusia
Biasanya tulisan manusia dibuat dengan upaya setidaknya 5 kali lebih besar dari yang dikeluarkan pembacanya, tetapi pada tulisan AI tidak jelas apakah pembacanya justru menghabiskan lebih banyak waktu daripada penulisnya, sehingga terasa seperti gangguan yang sulit ditoleransi
nyellin: Jika penanda penggunaan AI diperkenalkan, komentar di semua tulisan akan berubah menjadi perdebatan tentang apakah AI yang menulisnya dan sejauh mana keterlibatannya. Lebih baik biarkan isi tulisannya sendiri yang dinilai
lukasbm: Tidak ada yang suka membaca output chatbot yang tidak difilter siapa pun, tetapi mendeteksinya dengan pasti juga mustahil