Kami Mengotomatisasi 'Bullshit'

Diskusi terkait AI

• Diskusi tentang AI dimulai dari pertanyaan mengenai pentingnya AI di Afrika.
• Minat terhadap masa depan AI meningkat belakangan ini seiring presiden AS dan perdana menteri Inggris mengadakan perintah eksekutif dan KTT tentang AI.
• Muncul kritik bahwa AI pada kenyataannya menghasilkan 'bullshit' yang bergantung pada teks prediktif, bukan pada logika atau fakta.

Cara kerja AI

• Profesor AI MIT Rodney Brooks merangkum ChatGPT sebagai sesuatu yang "menghasilkan hal-hal yang enak didengar".
• 'Hal-hal yang enak didengar' berarti algoritme yang meniru teks yang ditemukan di internet, sementara 'menghasilkan' berarti keacakan dasar yang berbasis pada teks prediktif.
• Peneliti AI terkemuka lainnya juga menyampaikan pandangan serupa, yang dijelaskan dengan rincian teknis lebih lanjut dalam makalah seperti 'stochastic parrots'.

AI dan kebenaran

• Geoffrey Hinton, yang dijuluki sebagai 'godfather' AI, memperingatkan bahaya chatbot yang menghasilkan teks yang sangat persuasif alih-alih benar-benar cerdas.
• Ada kekhawatiran bahwa di dunia yang tidak menghargai bukti dan logika, sistem yang beroperasi tanpa bukti maupun logika dapat menjadi penguasa melalui daya persuasi.
• Dalam 'On Bullshit', filsuf Harry Frankfurt menjelaskan 'bullshit' sebagai sesuatu yang tidak menolak otoritas kebenaran, melainkan mengabaikannya.

AI dan dampak sosial

• Mengapa perdana menteri Inggris terkesan pada AI dan 'bullshit generator' otomatis?
• Analisis David Graeber dalam 'Bullshit Jobs' mengungkap karakter sejati AI.
• Lebih dari 30% pekerja Inggris percaya bahwa pekerjaan mereka tidak memberikan nilai apa pun bagi masyarakat.
• Sebagian pendidikan universitas mempersiapkan kaum muda untuk menyesuaikan diri dengan proses birokratis tanpa banyak harapan dalam hidup.

Pelatihan sistem AI

• Sistem AI dilatih menggunakan arsip besar 'bullshit' dari Twitter, Facebook, Reddit, dan lainnya, bersama teks yang juga memuat fakta nyata.
• ChatGPT tidak memiliki algoritme untuk memeriksa bagian mana yang benar, sehingga output-nya didefinisikan sebagai 'bullshit'.
• Twitter mendorong politisi yang tidak peduli pada kebenaran, dan arsip pernyataan mereka dapat digunakan untuk melatih 'bullshit generator' otomatis.

Opini GN⁺

• Hal terpenting dalam tulisan ini adalah bahwa konten yang dihasilkan AI tidak didasarkan pada kebenaran dan logika, melainkan dapat menciptakan 'bullshit' yang mampu meyakinkan orang.
• Ini dapat memengaruhi percakapan sosial dan kualitas informasi, dan masalah ini akan menjadi semakin penting seiring perkembangan teknologi AI.
• Alasan ini menarik bagi banyak orang adalah karena membantu memahami potensi dampak AI pada kehidupan sehari-hari dan pasar kerja kita, serta mempersiapkan diri menghadapi perubahan yang dibawa teknologi.

[GN⁺]

Komentar Hacker News

• Ringkasan komentar pertama:

  • LLM (model bahasa besar) bekerja berdasarkan apakah sesuatu "terlihat seperti jawaban yang benar", dan bagi orang yang bukan ahli, sulit menilai apakah jawaban LLM akurat.
  • LLM adalah alat yang berguna bagi para ahli, karena di bidang mereka sendiri mereka dapat menilai keakuratan cuplikan kode yang diberikan LLM.

• Ringkasan komentar kedua:

  • ChatGPT dilatih dengan data dari berbagai sumber dan menghasilkan jawaban tanpa membedakan secara jelas antara fakta yang akurat dan informasi yang tidak pasti.
  • Manusia juga belajar dengan cara yang mirip, jadi output LLM tidak boleh dipercaya sepenuhnya.

• Ringkasan komentar ketiga:

  • Jawaban yang diberikan LLM mirip dengan cara menghasilkan token berikutnya yang dapat diprediksi dalam percakapan manusia.
  • Meskipun masih berada pada tahap awal, LLM menunjukkan kemampuan yang cukup besar dalam menyelesaikan masalah melalui percakapan.

• Ringkasan komentar keempat:

  • LLM meniru bahasa manusia dan, dengan demikian, meniru kemampuan penalaran yang terenkode dalam struktur bahasa.
  • LLM tidak memiliki daya ingat yang akurat, tetapi hal ini dapat dikompensasi dengan memasukkan informasi melalui prompt yang tepat.

• Ringkasan komentar kelima:

  • LLM menggunakan pendekatan berbasis percakapan dalam pemecahan masalah dan membawa inovasi pada alur kerja.

• Ringkasan komentar keenam:

  • LLM adalah teknologi yang dikhususkan untuk kemampuan berbahasa, dan masalah dapat muncul jika tidak diintegrasikan dengan sistem penalaran yang lebih menyeluruh atau basis data fakta.

• Ringkasan komentar ketujuh:

  • LLM kadang-kadang dapat memberikan jawaban yang tidak akurat, tetapi tergantung pada bagaimana pengguna memanfaatkannya, produktivitas bisa meningkat.

• Ringkasan komentar kedelapan:

  • Bahasa itu sendiri dapat dipandang sebagai "bullshit generator" yang berfungsi secara independen dari "kebenaran", dan LLM memanfaatkan sifat bahasa ini.

• Ringkasan komentar kesembilan:

  • Dalam bahasa Prancis, kata "baratineur" berarti orang yang mengatakan hal-hal yang ingin didengar orang lain terlepas dari benar atau salah, dan ini mungkin merupakan istilah yang lebih cocok untuk LLM.

• Ringkasan komentar kesepuluh:

  • Jika kode yang dihasilkan LLM memenuhi persyaratan, maka itu bukan "bullshit" dan dapat dimanfaatkan secara berguna dalam konteks tertentu.