- Model bahasa besar (LLM) dapat memperkuat ilusi keyakinan yang membuat pengguna merasa tahu lebih banyak daripada kenyataannya setelah bercakap-cakap dengannya
- Setelah percakapan, pengguna sering berada dalam kondisi yakin pada informasi yang keliru, dan hal ini memiliki sifat adiktif secara psikologis yang mendorong penggunaan berulang
- LLM memperluas ide dan memperkuat proses berpikir, tetapi pada saat yang sama juga dapat berfungsi sebagai alat yang memperkuat penipuan diri
- Secara teknis, ini adalah struktur yang relatif sederhana yang bertumpu pada inferensi statistik dan masukan sumber daya pelatihan berskala besar, tetapi dampak sosialnya sangat besar
- Model seperti ini harus dipahami bukan sebagai mesin pengetahuan, melainkan ‘mesin keyakinan’, dan sedang memicu perubahan mendasar pada cara manusia berpikir dan menggunakan bahasa
Ilusi keyakinan dan efek psikologis LLM
- Melalui kutipan Bertrand Russell dari “The Triumph of Stupidity”, dibahas kontras antara keyakinan orang yang tidak tahu dan keraguan intelektual
- Russell menyatakan bahwa “masalah dunia adalah orang bodoh penuh keyakinan, sementara orang bijak penuh keraguan”
- Dalam percakapan dengan LLM, pengguna menunjukkan kecenderungan untuk merasa yakin bahkan pada informasi yang salah
- Ketika ChatGPT merespons dengan mengatakan itu adalah “ide yang bagus”, sering kali kenyataannya tidak demikian
- Penulis kerap mengalami ilusi bahwa pengetahuannya bertambah setelah berinteraksi dengan LLM
- Meski sadar informasinya salah, ia tetap menggunakannya berulang kali karena kenikmatan yang datang dari rasa yakin
- Pengalaman seperti ini memiliki sifat adiktif secara psikologis, dan pengguna menjadi bergantung pada LLM setiap kali mengembangkan ide
- Bahkan dalam situasi sehari-hari muncul dorongan untuk bertanya ke LLM ("saat kehilangan tas, terpikir untuk bertanya ke ChatGPT")
Dua sisi antara amplifikasi pemikiran dan penipuan diri
- LLM digambarkan sebagai cermin yang memperkuat pemikiran
- Ia memperluas pikiran pengguna ke berbagai arah dan kadang menghasilkan hasil yang menarik
- Namun amplifikasi ini adalah pedang bermata dua: bisa mengembangkan ide bagus, tetapi juga memperkuat pemikiran yang keliru
- LLM membungkus kesalahan dengan nada yang fasih dan berwibawa, sehingga menciptakan jebakan psikologis
Struktur teknis dan ketimpangan daya tarik
- Penulis menilai LLM sebagai “teknologi yang membosankan”
- Pada dasarnya ia adalah black box probabilistik, dan pelatihannya merupakan pengulangan inferensi statistik
- Disebutkan bahwa memang ada inovasi perangkat lunak dan perangkat keras belakangan ini, tetapi inovasi yang khas milik LLM sendiri terbatas
- Ia menyebut, “bisa jadi inovasi yang sesungguhnya adalah menuangkan dana dalam jumlah besar untuk melatihnya pada skala masif”
- RLHF (reinforcement learning from human feedback) disebut sebagai kemungkinan inovasi yang bersifat pengecualian
Dampak perubahan sosial dan bahasa
- Daya tarik sejati LLM terletak pada dampak sosialnya, bukan pada teknologinya semata
- Ini dinilai sebagai pertanda perubahan besar dalam pendidikan, dunia kerja, dan masyarakat secara keseluruhan
- Bahasa adalah inti identitas manusia, dan perubahan dimulai pada saat mesin memasuki ranah bahasa
- Hakikat perubahan itu sendiri belum jelas, tetapi ada rasa bahwa “arus perubahan sedang bergerak”
Bukan mesin pengetahuan, melainkan mesin keyakinan
- LLM harus dilihat bukan sebagai mesin yang menyediakan pengetahuan, melainkan mesin yang menghasilkan keyakinan
- Ini diajukan sebagai konsep yang menjelaskan ciri utama masa depan jangka pendek hingga menengah
- Cara manusia berpikir dan menggunakan bahasa kini berpadu dengan mekanisme mesin yang menghasilkan keyakinan, sehingga membentuk pola sosial baru
Belum ada komentar.