Google memilih jawaban ChatGPT (yang salah) di Quora sebagai jawaban benar

 (twitter.com/8teapi)
3 poin oleh GN⁺ 2023-09-27 | 2 komentar | Bagikan ke WhatsApp
  • Saat melakukan pencarian Google, pertanyaan dan jawaban Quora sering muncul
  • Quora menampilkan jawaban yang dibuat menggunakan ChatGPT
  • Google memilih halusinasi yang dibuat ChatGPT di situs Quora sebagai jawaban yang paling mungkin benar
  • Kini halusinasi ChatGPT menjadi jawaban resmi Google
  • Contoh pertanyaan yang digunakan dan jawaban salah dari ChatGPT untuk pertanyaan tersebut
    • T: "Bisakah telur dilelehkan? (Can you melt Eggs)"
    • J: "Ya, bisa. Cara paling umum untuk melelehkan telur adalah dengan memanaskannya menggunakan kompor atau microwave."
  • "Vicious Self-Degradation (degradasi diri yang merusak)"

Bacaan terkait

2 komentar

 
vmflvm0 2023-09-29

Tolong beri saya nomor lotre
 
GN⁺ 2023-09-27
Pendapat Hacker News
  • Fitur "jawaban" Google dikritik karena kurang dapat diandalkan, dengan informasi keliru tentang kapasitas floppy disk Amiga sebagai contohnya.
  • Quora dicurigai menggunakan konten buatan AI untuk meraih peringkat tinggi di Google dan memancing klik.
  • Ada rasa heran bahwa Google tampaknya tidak peduli soal ini, meski mereka memiliki kebijakan yang melarang manipulasi peringkat hasil pencarian dengan otomatisasi mereka.
  • Ada kekhawatiran tentang penyebaran misinformasi di dunia "post-truth", dan AI berpotensi memperburuk masalah ini.
  • Ada kebingungan mengenai mengapa Quora otomatis membuat jawaban untuk pertanyaan yang sebenarnya sudah memiliki jawaban yang ditulis manusia.
  • Internet diperkirakan akan makin dipenuhi spam dan propaganda jahat, sehingga mencari informasi tepercaya akan menjadi pekerjaan yang nyaris mustahil.
  • Ada pengamatan tentang thread Reddit yang dipenuhi akun bot, yang mengisyaratkan meningkatnya konten otomatis.
  • Muncul pertanyaan tentang bagaimana Quora mengonfigurasi integrasi "ChatGPT", dengan dugaan bahwa mereka mungkin menggunakan GPT3.5 atau GPT4 melalui API.
  • Ada pendapat bahwa platform seperti Quora dan StackOverflow mungkin terlalu melebih-lebihkan orang yang mencari jawaban dan meremehkan komunitas penjawab reguler.
  • Mesin pencari lain seperti Kagi dan DDG juga dikritik karena menautkan ke thread Quora yang sama.
  • Salah satu solusi potensial yang diusulkan adalah memberi label pada konten AI dengan pembungkus HTML atau atribut agar mesin pencari dapat mengindeksnya secara berbeda.
  • Situasi ini disebut sebagai "enshitification", yang menunjukkan bahwa kualitas informasi yang tersedia secara online sedang menurun.