Menunjukkan hasil keluaran AI kepada orang lain itu tidak sopan

• Teks yang dihasilkan AI dan diteruskan ke orang lain secara sembarangan merupakan tindakan yang membingungkan lawan bicara
• Dulu, teks yang ditulis merupakan bukti pemikiran manusia, tetapi perkembangan AI meruntuhkan kepercayaan tersebut
• Penyebaran konten yang dihasilkan AI hanya dapat dibenarkan jika pengirim mencerna hasilnya sendiri lalu menyampaikannya dengan bahasanya sendiri, atau ketika ada persetujuan dari penerima
• Penyalahgunaan pesan AI menyebabkan kelelahan akibat informasi yang tidak berguna dan pemborosan sumber daya bagi penerima
• Menyampaikan jawaban AI secara langsung tanpa mematuhi etika AI dianggap sebagai tindakan yang tidak sopan secara sosial

---

Latar novel Blindsight dan makna sinyal

• Dalam novel fiksi ilmiah Blindsight karya Peter Watts, inti ceritanya adalah pertemuan manusia dengan spesies alien tanpa kesadaran (scramblers)
• Tidak seperti manusia, scramblers tidak menyukai informasi yang tidak perlu, dan menganggap pengiriman sinyal yang tidak berguna sebagai tindakan invasi
• Seperti manusia yang menyebarkan teks tak bermakna secara sembarangan, penyalahgunaan informasi ditafsirkan sebagai serangan yang menghabiskan sumber daya pihak lain

Konsep Proof-of-thought

• Di masa lalu, hanya teks yang ditulis langsung yang menjadi subjek komunikasi, sehingga tindakan membaca secara alami masih bisa mempercayai jejak pemikiran manusia
• Karena penyebaran AI, teks, kode, gambar, video, dan semua media dapat diproduksi massal dengan terlalu mudah, sehingga bukti pemikiran manusia (Proof-of-thought) menghilang dari isi tersebut
• Kini, siapa pun yang meneruskan keluaran AI, membuat penerima berisiko kehilangan waktu berharganya akibat informasi yang tidak bermakna
• Pada dasarnya AI hanya memberikan jawaban saat merespons permintaan, jadi tanpa permintaan dari manusia, AI tidak dengan sendirinya menimbulkan banjir informasi
• Pada akhirnya, inti masalahnya bukan AI itu sendiri, melainkan manusia yang memakai dan menyebarkan keluaran AI secara sembarangan

Perlunya etika AI

• Saat hasil keluaran AI diteruskan begitu saja kepada orang lain, harus ada kesepahaman bersama atau persetujuan yang jelas
• Jika seseorang langsung berkata seperti "Saya tanya ke ChatGPT dan hasilnya seperti ini", lawan bicara bisa merasa itu tidak sopan
• Menyampaikan jawaban dari AI tanpa pendapat atau penilaian pribadi dapat menimbulkan ketidaknyamanan dan pencemaran informasi bagi orang lain
• Misalnya, jika dikatakan "Saya mendapat jawaban seperti ini dari ChatGPT, kalau mau saya bisa tunjukkan log percakapannya", pihak lain jadi memiliki pilihan
• Saat meminta orang lain mereview hasil kerja, yang dibutuhkan bukan sikap seperti "Ini dibuat otomatis oleh AI, jadi tolong lihat langsung", melainkan meninjau sendiri terlebih dahulu lalu mengirimkan ringkasannya

Kesimpulan: hal yang perlu diperhatikan saat menyebarkan keluaran AI

• Berbeda dari scramblers, manusia bukan makhluk yang sekadar menerima sinyal tak bermakna secara pasif, melainkan memilih apa yang akan diterima
• Menjaga etika AI dan tidak langsung meneruskan teks buatan AI adalah bentuk kesopanan
• Sekalipun memanfaatkan keluaran AI, tetap diperlukan sikap yang menghormati waktu dan perhatian penerima
• Saat hendak meneruskan hasil dari AI apa adanya, penting untuk membiasakan diri meminta persetujuan penerima terlebih dahulu
• Di tengah banjir 'noise' yang dihasilkan AI, kemampuan untuk memilih informasi secara bertanggung jawab dan memfilternya sendiri harus menjadi etika sosial

[GN⁺]

Komentar Hacker News

• Semoga beberapa rekan berhenti menulis email atau pesan Teams dengan LLM; pesan seperti itu terasa terlalu tidak tulus sampai sekarang rasanya malas membacanya

  • Kadang ada rekan yang tanpa sengaja membiarkan isi percakapannya dengan AI tetap tertinggal begitu saja, dan itu langsung kelihatan jelas. Baru-baru ini aku menerima email yang di bagian bawahnya tertulis, "Apakah Anda ingin memformatnya di Outlook, atau saya bantu mempostingnya ke channel atau distribution list tertentu?"
  • Dalam situasi seperti ini, aku pernah langsung meminta, "Pesan yang Anda kirim tampaknya sebagian dibuat oleh LLM. Saya menghargai niat untuk memakai tata bahasa dan gaya yang benar, tetapi sesekali typo atau ungkapan yang agak kasar jauh lebih baik daripada makna yang berubah atau konteks yang hilang. Ke depannya, saya ingin Anda menulisnya sendiri. Untuk komunikasi internal, saya sama sekali tidak peduli soal tidak memakai huruf kapital atau penggunaan gaya bahasa percakapan."
  • Orang yang mengalami kesulitan menulis karena disabilitas kini bisa mengekspresikan pikirannya lebih baik daripada biasanya dengan bantuan AI. Walaupun ini mungkin tidak sepenuhnya sama dengan situasi di sini, menurutku hal seperti ini juga perlu dipertimbangkan
  • LinkedIn yang paling parah dalam hal ini. Dari awal memang sudah penuh dengan “enceran omong kosong korporat/profesional”, dan sekarang antarmukanya malah aktif merekomendasikan balasan buatan AI. Menurutku ini jejaring sosial terburuk. Contoh: "Sangat insightful! Melihat bagaimana Anda mengubah pekerjaan sehari-hari menjadi peluang branding yang transformasional, jelas Anda benar-benar ahli dalam self-promotion!"
  • Aku pernah menyampaikan umpan balik seperti ini langsung ke rekan kerja. Ada bawahanku yang mulai merespons dengan AI slop, jadi aku bertanya, "Ini kamu tulis sendiri?" dan ternyata tidak. Lalu aku memberi tahu dengan tepat, "Cara seperti ini terasa seperti kamu bahkan tidak benar-benar mendengarkan aku." Untungnya, setelah itu dia tidak melakukannya lagi. Ke depan, makin pintar modelnya, makin sulit membedakan hal seperti ini, tetapi menurutku pada akhirnya yang benar-benar rugi justru orang-orang yang asal menempelkan AI lalu mengirimkannya. (Seperti episode South Park) Mereka bisa terseret bertanggung jawab atas commit yang bahkan tidak mereka pahami

• Tujuan bertanya kepada orang lain bukan semata-mata untuk mendengar jawaban teknis, tetapi lebih karena ada nilai dalam mendengar pikiran tak terduga dari lawan bicara, merasa terhubung, atau menemukan titik awal kolaborasi. Percakapan dengan manusia sungguhan melahirkan banyak perjalanan dan cabang pemikiran, sedangkan AI hanya terasa hampa. Jika seseorang menyalin-tempel jawaban yang dibuat AI untukku, aku menerimanya sebagai tanda bahwa orang itu sama sekali tidak tertarik padaku. Aku tidak ingin berinteraksi dengan orang seperti itu

  • Dalam konteks percakapan, rasanya tidak beda jauh dengan "harusnya kamu cari saja di Google"

• Aku pernah melihat PR dengan slogan "PR yang ditulis dalam 15 menit dengan emosi, mohon direview". Tapi kenyataannya, penulis PR bahkan tidak meninggalkan kalimat seperti itu, dan meski reviewer bertanya langsung, dia tidak mengakuinya. Komentar review dariku langsung diberikan ke AI, lalu 10 menit kemudian PR yang diubah secara aneh muncul lagi, sementara umpan balik intiku sama sekali tidak diterapkan. Rasanya malah lebih baik kalau aku bisa bicara langsung dengan AI. (Sebagai catatan, sekarang aku bahkan tidak punya wewenang untuk mengabaikan atau menutup PR)

  • Jangan abaikan atau tutup PR-nya; coba mulai percakapan. AI bukan manusia, dan penting untuk membuat mereka sadar bahwa jika mengirim kode yang bug atau bermasalah kualitasnya, tanggung jawab akhirnya tetap kembali ke pengirimnya. Selain itu, kalau mereka berniat meneruskan output AI tanpa mereviewnya sendiri, berarti mereka sendiri tidak menambahkan nilai apa pun. Kalau di sekitarmu ada orang yang cuma meneruskan AI slop, anggap saja itu kesempatan mentoring untuk menunjukkan arah yang benar, dan mungkin bisa menjadi momentum untuk meningkatkan kualitas industri secara keseluruhan. Ke depan, aku yakin orang yang punya daya saing nyata adalah mereka yang mampu berpikir kritis, debugging, dan menghubungkan ke konteks bisnis; yang tidak bisa, akan makin tertinggal
  • Menurutku kenyataannya jauh lebih suram. Menyerahkan seluruh proses review ke AI pada akhirnya juga berisiko menurunkan penilaian atas kemampuan diri sendiri. Aku jadi bertanya-tanya apakah pendekatan seperti mengurangi nilai dalam evaluasi kinerja perlu dipertimbangkan
  • Kepercayaan dibangun perlahan dan runtuh dalam sekejap. Kalau aku terus dipaksa mereview PR kasar buatan AI tanpa persetujuan sebelumnya, PR berikutnya dari orang itu tidak akan kureview
  • Situasi seperti ini buruk sekali, benar-benar terasa seperti lingkungan kerja dari neraka
  • Dalam situasi seperti ini, langsung menyampaikannya ke manajer juga bisa jadi salah satu cara

• Aku sangat setuju dengan kalimat, "Menulis adalah pekerjaan yang lebih mahal daripada membaca." Setelah era LLM, rumus itu terbalik, dan untuk kasusku waktu yang dihabiskan untuk code review meningkat drastis. Karena penulis dan reviewer berada di lingkungan dengan tingkat pemahaman yang mirip terhadap perubahan kode, PR itu sendiri jadi semakin penting untuk ditulis dengan jelas. Aku juga penasaran dengan efek-efek tersembunyi dari perubahan ini

  • Dulu melukis pemandangan jauh lebih memakan waktu daripada melihat pemandangan yang sebenarnya, tetapi sekarang keduanya butuh usaha yang kurang lebih mirip. Manusia selama ini telah beradaptasi dengan baik terhadap perubahan seperti itu, dan aku senang hidup di dunia yang punya fotografi. Ke depan, menurutku secara alami akan muncul persepsi negatif yang kuat terhadap hasil buatan AI yang tidak diungkapkan secara eksplisit, serta terhadap konten yang tidak benar-benar melalui verifikasi

• Belakangan ini, pemandangan orang menceritakan percakapannya dengan ChatGPT telah menjadi semacam topik baru seperti "cerita mimpi semalam" (yang agak disayangkan adalah, sebenarnya aku punya banyak hal yang ingin kukatakan, tetapi bahkan percakapan seperti ini pun jadi sulit dilakukan)

  • Soal percakapan dengan AI, kalau seseorang berkata, "Aku mengalami pengalaman seperti ini, ini yang menurutku menarik, dan ini pengaruhnya bagiku," lalu membicarakan pengalaman nyatanya sendiri, itu tetap sangat manusiawi dan sah. Sebaliknya, kalau isi percakapannya diserahkan mentah-mentah, itu terasa seperti sikap, "Aku sudah memberi input, jadi sekarang kamu yang harus memikirkan hasil ini dan melakukan sesuatu dengannya." Aku sendiri kadang membagikan kepada teman atau pasangan apa yang kurasakan setelah berbicara dengan Claude atau ChatGPT, tetapi tidak membagikan transcript-nya begitu saja
  • Cerita mimpi setidaknya adalah hasil yang langsung dibuat oleh otakku sendiri, sedangkan ChatGPT adalah sesuatu yang dihasilkan dari “otak yang diasinkan (brined)” milik banyak pengguna internet yang melihat prompt lalu segera berasosiasi. Itu jenis hasil yang sepenuhnya berbeda
  • Aku juga punya kesan yang sama. Bagi orang yang mengalaminya mungkin menarik, tetapi bagi pendengarnya tidak terlalu seru. Kadang rasanya segar seperti mengintip sedikit isi kepala orang lain, tetapi isinya sendiri tidak terlalu penting. Baik mimpi maupun jawaban AI pada dasarnya mirip dalam "sifat halusinatif"—yakni tidak punya isi substantif. Pada akhirnya, yang penting adalah esensi komunikasinya
  • Rasanya malah seperti "aku bertanya pada paman mabuk, tapi jawabannya sangat penuh percaya diri"

• Jika seseorang menyampaikan hasil yang dihasilkan AI, mereka harus mengungkapkan fakta itu dengan jelas. Meski kualitasnya rendah, memakai AI bukan alasan pembenar, dan penting untuk mengungkapkan semua sumber. Kalau seseorang tidak ingin menerima konten buatan AI, penandaan sumber memungkinkan itu disaring lebih awal

• Baru-baru ini aku bertemu nonspesialis yang melampirkan screenshot ChatGPT (versi gratis) ke email untuk membantah pendapat teknisku. Jawaban LLM itu memang tidak salah, tetapi justru dibungkus dengan hiasan kata-kata yang secukupnya, dan lawan bicaraku sebenarnya tidak punya kemampuan untuk memahami makna inti dari jawaban tersebut

• Terkait hal itu, aku malah merasa lebih baik membaca prompt-nya langsung https://news.ycombinator.com/item?id=43888803

  • Posisiku seperti ini:
    • Setuju
    • Tapi orang biasanya menginginkan tulisan (kalimat), dan tidak suka bullet point
    • Ini masalah perbedaan budaya

• Menurutku situasi ketika seseorang berdebat dengan bantuan ChatGPT terasa menarik. Bahkan jika dibandingkan dengan orang yang menulis dengan tangannya sendiri, akan terlihat berulang kali bahwa isinya kurang mendalam dan hanya dangkal di permukaan. Percakapan seperti ini tidak punya niat baik maupun ketulusan, jadi aku langsung menghentikannya

  • Bukan orang yang tidak memakai AI yang tertinggal, melainkan justru orang yang hanya mengandalkan AI yang akan tersingkir. (Roko's Reverse Basilisk?)

• Baru-baru ini aku mengalami pengalaman tidak menyenangkan di toko online, jadi aku mengirim email ke tim dukungan dengan isi, "Aku suka perusahaannya, tetapi pengalaman seperti ini terasa tidak nyaman," lalu yang datang sebagai balasan hanyalah "AI Agent Bot" dengan segala basa-basinya, mengatakan "Anda tidak perlu tindakan lebih lanjut dan pesanan telah diproses dengan normal, jadi tiket akan kami tutup." Memakai LLM untuk membantu menulis email itu tidak masalah, tetapi kalau pertanyaan pelanggan langsung ditutup bot tanpa pengecualian, itu terasa sangat tidak sopan

  • Ini contoh yang memperlihatkan budaya batin sebuah perusahaan apa adanya. Terbaca sikap seperti, "pelanggan sama sekali tidak layak diperhatikan"