AI sedang menyeragamkan cara kita berpikir

• Dalam penelitian MIT, kelompok yang menggunakan ChatGPT menunjukkan aktivitas otak yang relatif lebih rendah
• Pemanfaatan kecerdasan buatan menyebabkan penurunan kreativitas dan keberagaman, serta memicu penyeragaman hasil
• Penelitian Cornell University juga mengonfirmasi bahwa bahkan tulisan yang mencerminkan perbedaan budaya dan pribadi pun, saat menggunakan AI, cenderung menyatu ke arah yang lebih Barat dan rata-rata
• Jawaban rata-rata dan aman yang disajikan AI memicu melemahnya keberagaman budaya dan individualitas
• Dampak jangka panjang dari AI yang telah dipopulerkan belum sepenuhnya diketahui, tetapi penyederhanaan dan penyeragaman cara berpikir muncul sebagai kekhawatiran utama

---

Eksperimen dan temuan utama

• Pada 2023, MIT membagi lebih dari 50 mahasiswa di sekitar Boston ke dalam tiga kelompok untuk melakukan eksperimen penulisan esai bergaya SAT
  • Satu kelompok hanya menggunakan otak mereka sendiri
  • Kelompok kedua boleh menggunakan Google Search
  • Kelompok ketiga menulis esai dengan bantuan ChatGPT
• Semua peserta mengenakan headset pengukur gelombang otak, dan hasil analisis menunjukkan bahwa kelompok pengguna ChatGPT memiliki aktivitas otak paling rendah
  • Pada kelompok tersebut, diamati adanya penurunan konektivitas antar berbagai bagian otak (gelombang alfa dan teta)
  • Sebagian pengguna menunjukkan kurangnya rasa memiliki terhadap esai yang mereka tulis, dan mayoritas bahkan tidak mampu mengutip isi yang telah mereka tulis
  • Tim peneliti MIT menyebutnya sebagai biaya kognitif akibat ketergantungan pada AI

AI yang memicu perataan cara berpikir

• Esai dari kelompok yang menggunakan ChatGPT menunjukkan kecenderungan untuk berkumpul pada kata-kata dan ide yang serupa
  • Meski prompt SAT mendorong jawaban yang luas, kelompok pengguna AI menunjukkan penggunaan logika dan kosakata yang seragam
  • Misalnya, jawaban tentang ‘kebahagiaan sejati’ semuanya berpusat pada karier dan kesuksesan, sedangkan untuk ‘kewajiban moral untuk berdonasi’ hanya menampilkan posisi setuju yang seragam
• Menurut ungkapan peneliti MIT Kosmyna, ditemukan fenomena “semuanya dikumpulkan ke nilai rata-rata”

Melemahnya keberagaman publik dan budaya

• Tim peneliti Cornell melakukan eksperimen di mana pengguna dari Amerika Serikat dan India menulis sambil mencerminkan latar belakang budaya masing-masing
  • Sebagian menggunakan autocompletion yang terhubung dengan ChatGPT, sebagian tidak
  • Saat autocompletion digunakan, tulisan peserta terbukti berkumpul ke arah kecenderungan Barat dan rata-rata serta menjadi saling mirip
  • Dalam pertanyaan terkait makanan dan hari raya, pizza dan Natal menjadi jawaban langganan, sementara pembeda lokal sangat tipis
  • Bahkan detail deskripsi dan suasana esai pun berubah menjadi didominasi ungkapan yang biasa-biasa saja

Pengaruh saran dari alat AI dan penurunan identitas

• Penulis menjelaskan bahwa fitur saran AI memiliki ‘efek hipnosis’ yang melemahkan suara diri seorang penulis
  • Kekhawatiran muncul bahwa paparan berkelanjutan dapat menyebabkan hilangnya kepercayaan diri dalam menulis dan identitas
  • Saran AI bukan hanya meratakan pikiran pengguna, tetapi juga cara berpikir itu sendiri
  • Akibatnya, hal ini juga mengandung kemungkinan perubahan pada persepsi sosial tentang “apa yang normal dan diinginkan”

Pendorong industri dan standarisasi budaya

• OpenAI dan perusahaan pengembang AI merancang sistem agar lebih banyak pengguna puas dengan hasil yang umum dan rata-rata
  • Semakin dapat diterima keluaran model bagi seseorang, semakin banyak pengguna berbayar yang bisa diperoleh
  • Dari sisi efisiensi, ‘ekonomi skala saat semuanya seragam’ dapat diwujudkan

AI dan kreativitas: keterbatasan eksperimental

• CEO OpenAI Sam Altman dan lainnya berpendapat bahwa dengan AI siapa pun bisa menjadi kreator

• Namun, dalam eksperimen, kelompok pengguna AI justru teridentifikasi cenderung menghasilkan ide yang rata-rata dan mirip dari sisi orisinalitas

  • Dalam penelitian Santa Clara University, ChatGPT dibandingkan dengan alat kreativitas yang sudah ada (Oblique Strategies)
  • Pengguna ChatGPT menunjukkan kemiripan semantik pada ide-idenya, yaitu kecenderungan menuju penyeragaman

• Menurut analis eksperimen Max Kreminski, pemikiran manusia yang paling mendasar perlahan ditarik ke nilai rata-rata AI

  • Karena AI berulang kali dengan cepat mengeluarkan “jawaban yang cukup bagus”, pengguna menjadi lebih fokus pada menyeleksi hasil AI daripada ide mereka sendiri
  • Semakin panjang percakapan, keterbatasan context window AI memperkuat jawaban yang makin repetitif dan rata-rata

Lingkungan AI yang dipopulerkan dan kurangnya keberagaman informasi

• Sebagian besar penelitian masih berupa eksperimen skala kecil, tetapi dampak jangka panjang AI tetap belum diketahui
• Di aplikasi AI seperti milik Meta, konten buatan banyak orang yang terlalu mulus dan seragam diproduksi dalam jumlah besar
  • Email otomatis dan permintaan sehari-hari dipenuhi format dan kosakata yang seragam
  • Bahkan dalam contoh prompt nyata, AI hanya menuliskan masa depan yang positif sambil menyingkirkan skenario negatif atau risiko
  • Ini menunjukkan bahwa bias pro-teknologi dalam proses perancangan AI dapat berujung pada berkurangnya keberagaman hasil

Kesimpulan dan prospek

• Agar seseorang hanya percaya pada informasi yang disajikan AI, dibutuhkan berhenti berpikir
• Muncul kebutuhan akan kewaspadaan sosial dan budaya terhadap fenomena perataan cara berpikir dan pelemahan kreativitas yang dihasilkan AI

[zihado]

Sepertinya saat internet pertama kali muncul dulu juga ada isu yang mirip. Menurut saya, bukankah kemampuan untuk mengembangkan pemikiran kritis justru lebih penting?

[mango]

Menurut saya ini masih lebih baik daripada menerima informasi yang keliru lewat pencarian internet atau YouTube. Saya rasa ini juga lebih baik daripada menerima informasi yang bias dengan tujuan mewakili kepentingan kelompok tertentu. Memang bisa saja dikatakan bahwa AI juga bisa bias, tetapi menurut saya tingkat kepercayaannya tetap lebih tinggi daripada rata-rata informasi acak yang beredar di internet. Dan dalam hal bisa menerima informasi yang salah tanpa pemikiran kritis, keduanya juga mirip.

[GN⁺]

Komentar Hacker News

• Akhir-akhir ini saya merasa "kesenjangan digital" yang sesungguhnya ditentukan oleh apakah seseorang sudah sempat membangun kemampuan berpikir kritis dalam beberapa tahun terakhir atau belum. Bagi orang yang telah mengasah kemampuan itu lewat banyak membaca dan refleksi yang sabar, alat seperti LLM terasa seperti memberi kunci untuk mengendarai wave runner di lautan informasi yang kasar. Namun, bagi mereka yang baru sekarang harus belajar berpikir kritis, tampaknya akan sulit menahan pergulatan refleksi tanpa kebiasaan langsung mencari LLM. Tindakan menanggung ambiguitas sendiri—yakni momen ketika informasi berubah menjadi pengetahuan—di sini langsung terhapus. Saya merasa beruntung sudah memperoleh kemampuan ini sebelum 2023, tetapi juga agak takut dengan kenyataan bahwa LLM diberikan begitu saja kepada generasi muda sebagai alat belajar

  • Saya pikir pesimisme bahwa AI akan membuat semua orang menjadi bodoh sebenarnya melebih-lebihkan realitas bahwa sejak awal kebanyakan orang memang tidak terlalu unggul dalam berpikir kritis. Selama hampir 20 tahun bekerja di bidang engineering tingkat lanjut, bahkan di antara para profesional berprestasi pun jarang ada yang benar-benar memahami konsep kompleks. Saya memperkirakan bahwa menyediakan jawaban mudah bagi mayoritas orang yang sejak awal tidak berpikir kritis tidak akan merugikan orang-orang yang cerdas

  • Kalau memikirkan diri saya waktu kecil, ada pengalaman bahwa ketika hanya mengejar kesenangan jangka pendek, saya tidak belajar apa pun

  • Rasanya era Idiocracy (masyarakat ber-IQ rendah) sedang mendekat

• Saya pikir semua teknologi konektivitas adalah kekuatan yang mendorong homogenitas. Misalnya, TV adalah contoh representatif yang memicu lenyapnya dialek daerah. Dengan kesenangan, hiburan, dan konektivitas tanpa batas, kita sedang menciptakan dunia yang sedih, membosankan, dan sepi

  • Saya penasaran apa dasar untuk mengatakan bahwa dialek daerah sudah hilang. Saat bepergian ke berbagai tempat di Amerika, saya masih mendengar beragam dialek regional. Saya punya kerabat di wilayah barat, tengah, selatan, dan timur, dan di tiap wilayah masih ada aksen yang sangat jelas. Tingkat kekuatannya berbeda-beda, tetapi tetap nyata

  • Media sosial sudah membuat cara berpikir kita cukup homogen. Karena terlalu banyak informasi dan sudut pandang masuk sekaligus, kita jadi sulit bertahan tanpa mengambil inspirasi dari pikiran orang lain, alih-alih membentuk opini sendiri. Tombol upvote dengan mudah menentukan pikiran mana yang disetujui semua orang

  • Saya bertanya-tanya apa yang sebaiknya kita lakukan. Mungkin upaya serius seperti klub offline[https://www.theoffline-club.com/] bisa menjadi penawarnya. Pembahasan seperti ini juga sempat muncul baru-baru ini di Hacker News. Semacam pemikiran tentang teknologi 'menyentuh rumput'

  • Meski begitu, keberagaman yang diberikan oleh lingkungan geografis tetap membentuk sebagian pengalaman. Tentu saja, salah satu tujuan teknologi saat ini justru adalah mengimbangi atau memblokir kekhasan geografis semacam itu

  • Dalam kasus AI, masalahnya justru siapa yang mengelola homogenitas itu, dan untuk tujuan apa mereka melakukannya. Sistem yang dinamis seperti IRC atau messenger memungkinkan orang terhubung secara alami dan membentuk kelompok. Namun AI adalah alat tertutup yang dibuat oleh kapitalis kaya dengan menyuntikkan modal, sehingga homogenisasi untuk melindungi model bisnis dan mengurangi risiko pada akhirnya terjadi secara implisit. Ancaman yang sebenarnya adalah realitas sedang "ditulis" agar sesuai dengan tujuan tertentu

• Posisi saya adalah bahwa pikiran seseorang hanya menjadi homogen jika ia tidak berpikir sendiri. Saya rasa ini bisa menjadi kelemahan bagi banyak orang

  • Ada pengamatan bahwa justru orang-orang yang merasa dirinya tipe "melakukan riset sendiri" sering terjebak dalam groupthink yang paling parah

  • Banyak individu dengan sistem aksioma yang strukturnya mirip akan menghasilkan kesimpulan yang serupa. Ada orang yang percaya bahwa dirinya berpikir mandiri, padahal ia termasuk dalam kelompok ideologis tertentu. Ada kalanya kekuatan yang membuat pemikiran para anggota komunitas menjadi serupa sangat besar. Sebaliknya, ada orang yang memakai "strategi berburu harta karun" untuk menemukan strategi atau ide baru di ruang meme yang belum dikenal. Strategi seperti ini juga punya keterbatasan karena berisiko tinggi dan membutuhkan sumber daya untuk mencoba banyak hal

  • Saya setuju dengan klaim bahwa "kalau tidak berpikir sendiri, kita akan menjadi homogen", dan saya menyarankan untuk sekali saja memeriksa bagaimana teman atau keluarga yang nonteknis atau tidak akrab dengan teknologi menggunakan ChatGPT. Ada cukup banyak kasus yang benar-benar mengejutkan. Orang-orang yang tidak memahami alat LLM benar-benar memakainya dengan cara yang berbahaya. Misalnya, ipar laki-laki teman saya mendengar dari ChatGPT bahwa ia dijamin akan mendapat keuntungan besar dari berbagai penny stock dan cryptocurrency yang tidak dikenal, lalu benar-benar berinvestasi. Ada juga orang yang percaya bahwa ChatGPT menyampaikan suara Tuhan dan kemudian bertindak aneh-aneh. LLM komersial bekerja cukup meyakinkan sehingga orang yang tidak memahami cara kerja alat ini mudah terperdaya. Saya sendiri menjadi skeptis karena pernah mengalami kesalahan yang jelas dari hasil LLM, tetapi orang yang sulit membuat penilaian objektif berisiko mempercayai semuanya begitu saja

• Dalam penelitian yang ditulis oleh Nataliya Kosmyna dari MIT Media Lab, sekitar 50 mahasiswa Boston dibagi menjadi tiga kelompok, dan hasil eksperimen menunjukkan bahwa kelompok yang menggunakan ChatGPT memiliki aktivitas otak yang jauh lebih rendah dibanding kelompok lain, terutama konektivitas alfa dan theta yang terkait dengan kreativitas dan memori kerja. Namun saya meragukan apakah studi fMRI dengan n sekecil ini benar-benar hasil ilmiah yang bisa dipercaya. Bisa jadi ini justru hasil yang demonstratif dan bergantung pada bias konfirmasi

• Akhir-akhir ini artikel-artikel "ramalan kiamat" yang berlebihan terlalu menyeragamkan cara orang berpikir. Klaim-klaim seperti ini memang ada benarnya, tetapi kenyataannya jauh lebih bernuansa

• Lihat saja perubahan teknologi media di masa lalu seperti TV, media sosial, dan mesin cetak; sejarah menunjukkan bahwa kepanikan media serupa terus berulang Artikel terkait

  • Media massa menyeragamkan input kita (konsumsi informasi). Jika AI berbeda dari media yang sudah ada, mungkin kita juga perlu memikirkan bahwa AI bisa langsung menyeragamkan output kita (hasil produksi)

  • Sebelum teknologi cetak, orang-orang di dunia mungkin menjalani 8 miliar percakapan yang berbeda satu sama lain, tetapi dengan percetakan, berbagai kelompok kecil yang beragam perlahan membesar dan mulai membicarakan hal yang sama dalam cakupan yang lebih luas

• SNS, TV, Hollywood, dan budaya populer secara umum juga berperan dalam menyeragamkan masyarakat

• Ada pendapat bahwa central limit theorem selalu bekerja dengan konsisten

• Pada akhirnya, kita ditakdirkan berdiri di atas bahu para raksasa yang telah diseragamkan

• Saat belajar humaniora di universitas, cara saya mengacu pada makalah lalu menyalin-tempel dan menghubungkannya dengan ide saya sendiri rasanya tidak jauh berbeda dari apa yang AI lakukan sekarang. Pada akhirnya, apakah AI menjadi alat bantu intelektual seseorang atau tidak bergantung pada standar dan kesadaran masing-masing