Internet kini menjadi ruang tempat mesin saling berbicara
- Internet telah berubah dari ruang dengan penggunaan sederhana, tempat orang saling bertanya dan menjawab, menjadi ruang yang dipenuhi informasi keliru buatan AI.
- Pengguna Google menemukan bahwa Google secara keliru memberi tahu bahwa telur bisa meleleh. Ini merupakan akibat dari Google yang, alih-alih langsung menampilkan situs web, menyediakan cuplikan halaman dalam menu dropdown sehingga pengguna dapat membaca hasil pencarian tanpa mengklik.
- Belakangan ini, ketidakbergunaan Google Search semakin meningkat; misalnya, hasil pencarian untuk sinusitis kronis pernah menampilkan hasil tentang penis yang mengalami peradangan.
"Pencurian" trafik internet dan kontroversi artikel AI Sports Illustrated
- Kemarin, seorang pengguna Twitter mengklaim adanya "pencurian" trafik internet. Ia melihat indeks situs dari situs web pesaing, mengekstrak URL artikel, lalu menggunakan AI untuk dengan cepat menulis artikel.
- Selain itu, terungkap bahwa Sports Illustrated menerbitkan artikel yang ditulis AI dan memublikasikannya atas nama orang-orang yang sebenarnya tidak ada. Setelah ada pertanyaan mengenai hal ini, konten tersebut dihapus.
Perusakan mendasar terhadap internet
- Internet bukan lagi tempat komunikasi antarmanusia, melainkan telah berubah menjadi ruang tempat mesin saling berbicara.
- Ungkapan "tanya Google" kini menjadi tidak bermakna. Kemungkinannya makin besar bahwa yang dikembalikan adalah informasi salah atau fiksi sepenuhnya.
- Perusahaan seperti Sports Illustrated lebih tertarik meningkatkan hasil pencarian Google dan pendapatan iklan daripada memberikan layanan kepada pembaca.
Opini GN⁺
- Kualitas informasi di internet terus menurun, dan hal ini menimbulkan kebingungan serta ketidaknyamanan bagi pengguna.
- Sebagai salah satu efek samping dari perkembangan teknologi AI, semakin sulit menemukan informasi tepercaya karena adanya informasi salah yang dihasilkan AI.
- Perubahan ini membuat pengguna perlu memikirkan kembali cara mereka memperoleh informasi di internet, dan menunjukkan perlunya pendekatan baru untuk menjamin kualitas informasi.
1 komentar
Pendapat Hacker News
Salah satu masalah yang muncul akibat meluasnya Large Language Models (LLM) adalah, sebelumnya ada heuristik berguna untuk cepat menyaring postingan tak bernilai lewat kesalahan ejaan atau tata bahasa, tetapi sekarang konten buatan AI memiliki kemampuan berbahasa yang sempurna sehingga cara itu tidak lagi efektif. Misalnya, proyek curl pernah mengalami masalah akibat laporan bug palsu yang dibuat AI. Masalah seperti ini diperkirakan akan menjadi semakin serius ke depannya.
Ada juga pendapat yang setuju soal perubahan internet, tetapi merasa internet tidak jauh berbeda dibandingkan sebelum GPT-4, 3, atau 2. Artikel bertopik umum yang ditulis intern atau asisten virtual dari India kebanyakan sama buruknya dengan konten buatan AI dan sulit dibedakan. Fenomena mesin pencari yang mengurutkan berdasarkan reputasi alih-alih kecocokan antara teks halaman web dan kueri juga menjadi masalah. Orang sekarang hidup di aplikasi, bukan di web, dan kualitas web sudah lama memburuk, tetapi sebentar lagi mungkin tidak lagi penting. Jika internet tetap ada di masa depan, ada harapan ia akan berpindah ke lapisan baru yang dianonimkan, dan berkembang ke arah yang lebih sering menuntut pertukaran uang untuk mengurangi pembuatan konten berkualitas rendah.
Di tengah parahnya kondisi clearnet saat ini, ada juga pandangan bahwa informasi yang terisolasi di dalam Discord tampak tidak terlalu buruk. Karena tidak diindeks oleh mesin pencari, itu bisa menghindari muncul bersama sampah AI atau digunakan sebagai data pelatihan. Masa depan internet bergantung pada manusia, dan mesin tak lagi bisa dipercaya bahkan untuk tugas-tugas dasar.
Ada yang membagikan pengalaman di proyek BeamMP dengan laporan bug palsu dan PRs (pull requests) buatan AI. Hasil buatan AI seperti ini mudah dikenali, dengan ciri seperti mengubah kode yang relevan, atau mengusulkan solusi yang bahkan tidak bisa dikompilasi. Manusia sungguhan malas, jadi mereka tidak melakukan pekerjaan yang tidak perlu, dan sampah buatan AI tidak akan di-merge karena hanya membuang waktu.
Menjaga keaslian di internet itu penting. Hanya konten yang ditandatangani yang dapat menjamin keaslian. Dalam situasi ketika AI bisa memposting lebih banyak hal, satu-satunya cara untuk menyaring adalah bergantung pada kepercayaan dan keaslian, agar kita tahu siapa yang memposting apa dan apa yang mereka katakan. Web of Trust pernah dicoba tetapi tidak pernah menjadi arus utama, dan mungkin sudah saatnya dicoba lagi.
Ada juga pendapat tentang masalah lama yang dipercepat oleh LLM. Seiring Google berupaya meningkatkan pendapatan iklan dan dominasi teknologi iklannya, SEO menjadi merajalela dalam hasil pencarian, sehingga makin sulit mendapatkan informasi yang objektif. Mencari informasi di Reddit terlebih dahulu bisa menjadi solusi, tetapi Reddit sendiri juga dalam beberapa tahun terakhir sudah penuh dengan konten yang dimanipulasi.
Ada pendapat bahwa internet sebenarnya sudah penuh dengan sampah buatan manusia akibat SEO, sehingga kemunculan "AI" tidak benar-benar membuat banyak hal hilang. Ada juga orang-orang yang sudah lama menunjukkan masalah ini di industri.
Iklan pada akhirnya bertujuan menghasilkan uang, dan selama bot tidak punya kartu kredit, itu berarti uang dari manusia. Perusahaan seperti Google, meskipun trafik meningkat, akan merasakan dampaknya secara finansial jika itu tidak berubah menjadi pengeluaran manusia. PHK besar-besaran di bidang teknologi yang terjadi belakangan ini mungkin mengisyaratkan bahwa respons terhadap masalah ini sudah mulai berjalan.
Ada juga pendapat bahwa jika pernah membaca buku "Anathem", maka tugas kita adalah menyaring sampah dari Reticulum.