Pengungkapan wajib saat kontribusi menggunakan alat AI

• Dalam diskusi PR proyek open source Ghostty, muncul pendapat bahwa penggunaan alat AI harus diungkapkan secara eksplisit
• Pengusul menyoroti bahwa AI masih sering menghasilkan kode berkualitas rendah, terutama ketika pengguna yang belum berpengalaman mengirimkannya tanpa peninjauan
• Tujuan pengungkapan ini adalah agar maintainer dapat menilai tingkat kepercayaan PR, serta memberikan umpan balik yang bersifat edukatif kepada kontributor manusia sambil mengurangi upaya yang tidak perlu untuk hasil yang sekadar dibuat AI
• Peserta lain mengusulkan agar template PR dapat menambahkan daftar periksa yang mencakup apakah AI digunakan
• Sementara itu, juga diajukan gagasan bahwa alat AI secara otomatis menstandarkan byline khusus agar tercatat di pesan commit GitHub, sehingga transparansi dan pengungkapan alat dapat dijamin sekaligus

---

Perlunya pengungkapan penggunaan AI

• Mitchellh menyukai penggunaan alat AI dan juga memakainya sendiri, tetapi menilai bahwa saat ini kondisinya belum menjamin kualitas yang setara atau lebih baik
  • Terutama ketika pemula yang kurang memiliki kemampuan meninjau langsung mengunggah kode AI ke PR, kualitasnya menjadi sangat rendah
  • Dalam situasi seperti ini, maintainer harus menghabiskan waktu untuk peninjauan dan umpan balik yang tidak perlu, yang ia kritik sebagai “tindakan menipu”
• Karena itu, jika penggunaan AI diungkapkan secara eksplisit, maintainer dapat menentukan seberapa hati-hati mereka perlu melakukan peninjauan

Usulan penerapan template PR

• Yawaramin mengusulkan agar fitur template PR GitHub dimanfaatkan untuk memasukkan informasi tentang penggunaan AI
  • Bersamaan dengan itu, daftar periksa seperti Developer Certificate of Origin(DCO) juga dapat disertakan
• Dengan cara ini, semua kontributor dapat memberi tahu fakta penggunaan AI secara konsisten

Gagasan standardisasi GitHub

• Tobi mengusulkan agar GitHub membuat standar byline khusus AI
  • Setiap kali alat AI digunakan, hal itu dicatat dalam file staging .git dan otomatis ditambahkan ke pesan commit
  • GitHub dapat menyusunnya dalam daftar dan menyediakan tautan ke alat → maintainer bisa memeriksa sumbernya
  • Pada saat yang sama, alat AI juga tidak perlu lagi menyalahgunakan co-authors seperti spam seperti sekarang
• Pendekatan ini dinilai dapat sekaligus memenuhi jaminan transparansi, promosi alat, dan efisiensi bagi maintainer

[GN⁺]

Komentar Hacker News

• Menunjukkan bahwa masalah kontaminasi hak kekayaan intelektual juga muncul saat menggunakan "AI", tetapi kita menutup mata terhadap fakta ini; jika ada seseorang yang menghafal semua kode proyek open source dan menuliskannya kembali persis saat dibutuhkan, orang seperti itu tentu akan dilarang di perusahaan kita. Namun dalam kasus AI, orang menyangkal fakta itu sambil mengajukan berbagai rasionalisasi dan alasan. Pada praktiknya ini seperti mencuci longgar berbagai kode termasuk GPL, dan ini mengandung risiko yang fatal bagi perusahaan yang berbasis IP
  • Pengadilan AS sudah memutuskan bahwa penggunaan data pelatihan merupakan penggunaan yang bersifat transformatif, dan meskipun masih banyak detail yang perlu dirapikan, pada akhirnya ini adalah perubahan yang tidak bisa dibalik. Jika ingin penciptaan IP tetap menjadi aktivitas yang berkelanjutan secara ekonomi, maka sistem hukum terkait juga harus diubah
  • Jika mengikuti logika ini, StackOverflow atau buku teks di hampir semua bidang juga harus dilarang; pada kenyataannya para programmer tidak bisa menghindari melihat kode orang lain
  • Sebenarnya, selain orang-orang yang punya keterkaitan finansial, saya rasa hampir tidak ada yang menanggapi serius isu hukum terkait AI. Untungnya, dalam kebanyakan kasus isu ini diabaikan, dan sistem hukum juga berfungsi dengan baik selama tidak menghambat kemajuan
• Saya sangat terkesan dengan bagian dari mitchellh yang mengatakan "membantu kontributor pemula sampai akhir, dan membantu agar PR mereka di-merge"; memberi umpan balik sehingga developer pemula bisa berkembang adalah hal yang sangat berharga. Tetapi jika pengirim PR langsung melempar umpan balik itu ke AI dan tidak belajar apa pun sendiri, maka itu hanya membuang waktu
  • Sekarang developer pemula akan hidup dalam lingkungan yang pada dasarnya tidak lagi memiliki cara bekerja tanpa AI
• Saya sangat senang karena halaman depan HN hari ini dipenuhi konten bagus yang berfokus pada pengalaman nyata; banyak cerita jujur tanpa ketakutan atau pembesaran yang tidak perlu. Di komputer pribadi saya mematikan AI assist, dan di kantor pun saya menggunakannya dengan sangat terbatas hanya saat benar-benar perlu. AI assist sangat kuat untuk pekerjaan unit kecil (atomic work), tetapi buruk untuk pekerjaan gabungan yang kompleks (compound work). Kesimpulannya, AI pada akhirnya bergantung pada bagaimana manusia memakainya; kecerdasan manusialah yang inti
  • Saya makin setuju dengan ungkapan "AI hanya sepintar manusia yang menggunakannya". Dulu saya tidak paham bagaimana hasil dari AI yang sama bisa begitu berbeda, tetapi sekarang saya benar-benar merasakan bahwa AI bukan sihir. Saya rasa saya dulu naïf karena berharap orang yang bahkan tidak bisa menjelaskan sesuatu kepada rekan timnya akan mampu menarik nilai dari AI. Malah AI tampaknya hanya akan makin melebarkan jarak antara engineer biasa dan engineer hebat. Perasaan saya masih campur aduk, tetapi saya jadi mengerti mengapa bagi sebagian orang AI bisa terasa tidak berguna
  • Mengutip kesimpulan dari “No Silver Bullets, Refired” karya Frederik P. Brooks, bahwa pengembangan perangkat lunak pada dasarnya kompleks, dan alih-alih menunggu solusi revolusioner, kita perlu mengejar peningkatan produktivitas bertahap. Sudut pandang ini terasa realistis dan penuh harapan
  • Saya tertarik dengan ungkapan "AI hanya sepintar manusia yang menggunakannya". Pada akhirnya, tokoh utama dari postingan seperti "saya membuat library keren dalam sehari dengan AI" memang sejak awal adalah developer yang sudah sangat mampu
  • Saya juga sependapat. Di perusahaan sedang ada minggu hacking sehingga tool AI sedang diuji secara menyeluruh, dan hasil yang baik biasanya muncul dari penerapan nyata seperti pendekatan analitis, guardrail, grounded generation, dan sebagainya. Belakangan ini terasa seperti demam chatbot yang tidak berguna sudah lewat dan paradigmanya di-reset kembali ke esensi machine learning
  • Saya melihat manusia membuat keputusan inti, lalu AI menyambungkan sisanya. Apa yang termasuk keputusan inti, dan pekerjaan yang sekadar menghubungkan titik-titik itu, berbeda di tiap domain, tetapi pada praktiknya sebagian besar kode (sekitar 80~90%) adalah pekerjaan pengulangan/penyambungan sederhana. Jika batas ini dijaga dengan baik, peningkatan produktivitasnya sangat besar. Sebaliknya, jika keputusan inti diserahkan ke AI, kerugiannya justru lebih besar; lebih baik dibuang lalu dikerjakan ulang. Contoh keputusan inti meliputi desain database, definisi tipe, dependensi, desain sistem/infrastruktur/layar, pemilihan item pengujian, dan struktur organisasi kode. Sebaliknya, hal-hal yang bisa dikerjakan AI dengan baik adalah CRUD, API handler, transformasi struktur data sederhana, skrip deployment, implementasi test, kode komponen UI, styling, pembersihan data sementara, dan sebagainya. AI juga membantu untuk riset, eksplorasi ide, dan penelusuran alternatif, tetapi kesimpulan dan implementasi nyata tetap harus dijaga langsung oleh manusia
• Saya bukan orang yang sangat menyukai AI, tetapi saya melihatnya hanya sebagai salah satu alat. Bagaimanapun seseorang menyiapkan PR, saya tidak peduli selama hasilnya baik. Namun, jika maintainer meminta sesuatu sebelum PR diajukan, menurut saya sopan santun mengharuskan kita menyesuaikannya
  • Dari mana PR berasal dan bagaimana PR itu dibuat tetap penting. Reviewer juga bisa salah dan punya keterbatasan, sehingga kepercayaan menjadi penting. Jika tidak ada kepercayaan, seharusnya hal itu memang tidak diterima ke dalam proses review sama sekali. Tim kernel Linux memblokir University of Minnesota karena eksperimen mereka, dan alasannya sama
  • Rasanya Anda belum benar-benar menjawab argumen inti tulisan itu, yaitu "tujuannya membantu kontributor pemula agar bisa berkembang, tetapi jika lawannya AI, itu hanya buang waktu"
  • Dengan AI, 1.000 PR per hari pun bisa dibuat. Anda tampaknya hanya memikirkan PR bagus yang dibuat dengan AI, tetapi di dunia nyata AI juga bisa membuat hidup maintainer proyek jadi sangat berat
  • Menurut Kantor Hak Cipta AS, hasil yang dihasilkan AI tidak menjadi objek perlindungan hak cipta. Karena itu, demi tujuan lisensi pun, fakta penggunaan AI perlu diungkapkan. Jika dilanggar, hak cipta atas keseluruhan karya bisa hilang. Untuk detailnya lihat laporan dan halaman utama
  • Jika saya menggunakan AI dan ditanya soal itu, saya akan selalu mengungkapkannya. Tetapi jika tidak ditanya secara spesifik, saya tidak akan mengatakannya lebih dulu "demi sopan santun yang lazim". Saya pikir kebanyakan orang menganggap penggunaan AI itu wajar atau bahkan tidak peduli, dan saya justru merasa itu hanya penanda kecil yang mengalihkan perhatian; seperti notifikasi dependabot yang datang tetapi tidak benar-benar menarik minat
• Pertanyaan "lalu bagaimana dengan autocomplete saya" muncul beberapa kali, tetapi dalam dokumen kebijakan sudah ada pengecualian yang jelas bahwa untuk keyword atau frasa pendek seperti tab autocomplete sederhana, tidak perlu diungkapkan. Saya sarankan membaca dokumen (atau PR) itu dengan benar
• Kebijakan kali ini terasa masuk akal karena ada penjelasan konteks tambahan. Banyak kebijakan terkait AI yang pernah saya lihat sebelumnya terasa lebih seperti deklarasi ideologis, tetapi yang ini menjelaskan alasan kebutuhannya dan arah ke depan, sehingga jauh lebih realistis. Saya berharap pendekatan seperti ini jadi lebih umum
• Ada kekhawatiran bahwa kebijakan ini pada akhirnya justru akan membuat orang jujur semakin sulit memakai AI; bukankah orang akan cenderung menyembunyikannya karena PR yang mengaku memakai AI akan mendapat perhatian lebih sedikit?
  • Saya rasa tidak sesederhana itu. Orang yang membuat kebijakan ini (mitchellh) sendiri juga memakai LLM, jadi jika seseorang bisa menjelaskan bahwa ia menggunakan AI sekadar untuk kenyamanan sambil tetap cukup memahami pekerjaan yang ia lakukan, saya rasa kepercayaannya tidak akan banyak berkurang
  • Kekhawatiran itu bisa menjadi kenyataan. AI menghasilkan banyak kode yang "terlihat kira-kira benar tetapi sebenarnya berantakan", jadi jika ketidakpercayaan pada kode AI menumpuk, itu masalah AI, bukan masalah manusianya. Yang dibutuhkan adalah tool coding AI yang lebih maju
  • Kalau mengaku "saya pakai chat-gpt", langsung tenggelam; kalau diam saja dan berpura-pura paham, malah dipuji. Semua orang sudah bergerak ke arah menyembunyikan penggunaan AI
  • Saya rasa melihat ini sebagai masalah pun tidak terlalu berarti
  • Maksudnya bukan "jangan pakai AI", tetapi jika memakainya, ungkapkan secara jujur di PR
• Saya penasaran mengapa pengungkapan detail seperti "Saya dibantu ChatGPT untuk memahami codebase, tetapi coding yang sebenarnya saya lakukan sendiri" juga diminta
  • Jika penjelasan seperti ini ditinggalkan, dari sudut pandang reviewer, bagian "memahami codebase" itu bisa menjadi titik fokus review karena berpotensi menimbulkan salah paham atau kekeliruan
  • Saya sendiri bukan developer, tetapi berkat AI assistant semacam ini, waktu untuk menelusuri kode berkurang drastis; secara pribadi AI sangat membantu saya
• Saya rasa pola yang menyertakan setiap prompt yang digunakan untuk membuat PR itu bagus. LLM memang bukan alat yang sepenuhnya deterministik, tetapi ada nilai dalam meninggalkan konteks tentang tahap/prompt apa yang dilalui untuk sampai ke hasil tersebut
  • Secara realistis itu sangat tidak praktis. Bahkan untuk membuat satu PR berbasis AI saja, biasanya tercampur 10~20 prompt, test, penyesuaian konteks manual, coding manual, dan berbagai prosedur lain. Saya malah merasa rekaman layar akan lebih baik
  • Saya memakai kombinasi plugin vscode (specsytory) dan cursor, meninggalkan log semua interaksi LLM dalam bentuk md lalu mengirimkannya bersama Pull Request untuk dijadikan referensi saat code review
• Di proyek pribadi, saya bahkan menetapkan aturan agar penggunaan autocomplete editor juga harus diungkapkan
  • Cara menyampaikan niatnya menarik, tetapi AI saat ini sepenuhnya berbeda dari autocomplete lama. AI memang bisa dipakai seperti autocomplete, tetapi hal yang bisa dilakukan AI jauh lebih beragam dan mendalam. Menganggap AI hanya sebatas autocomplete adalah sudut pandang pribadi saja; banyak orang tidak memakainya seperti itu
  • Tab autocomplete diakui secara jelas sebagai pengecualian dalam kebijakan
  • Autocomplete pada umumnya hanyalah alat sintaks, sedangkan AI mencoba memandu sampai ke makna dan struktur kode