Jika AI Menyelesaikan Kesepian, Akan Menjadi Makhluk Seperti Apa Kita?

• Pendamping AI semakin menjadi kehadiran yang realistis dan akrab dalam kehidupan sehari-hari, dan penelitian bahkan menemukan kasus ketika AI menunjukkan respons yang lebih empatik daripada manusia sungguhan
• Pendamping AI dapat mengurangi kesepian, tetapi ketidaknyamanan dari kesepian itu sendiri penting bagi pertumbuhan manusia dan pemahaman diri
• Namun, empati tanpa syarat yang diberikan AI dapat melemahkan umpan balik korektif dalam hubungan antarmanusia dan meningkatkan risiko penipuan diri
• Kesepian bukan sekadar kekurangan, melainkan berfungsi sebagai sinyal yang mendorong kreativitas, pertumbuhan, dan koneksi manusia
• Interaksi dengan chatbot konseling AI kadang memberi penghiburan emosional, tetapi perdebatan filosofis tentang apakah itu hubungan yang nyata masih terus berlanjut
• Semakin muda generasinya, semakin besar kemungkinan bahwa ketergantungan pada pendamping AI akan menghilangkan peluang untuk koneksi dan pertumbuhan yang autentik

---

Perubahan Pendamping AI dan Kesepian

• Belakangan ini, hampir semua orang punya pendapat tentang pendamping AI
• Penulis, bersama dua psikolog dan seorang filsuf, menerbitkan makalah “In Praise of Empathic A.I.” dan berargumen bahwa AI dapat menjadi penghiburan dan pendamping yang nyata bagi orang-orang yang kesepian
• Klaim ini memicu penolakan besar di kalangan humaniora dan ilmu sosial
  • Di bidang ini, AI cenderung dipandang bukan sebagai kemajuan teknologi, melainkan pertanda kemunduran
  • AI sering dipersepsikan sebagai alat tanpa jiwa buatan para taipan Silicon Valley, dan banyak yang merasa tidak nyaman melihatnya sebagai pengganti hubungan manusia
• Kemunculan AI juga dibahas bersamaan dengan berbagai kekhawatiran seperti pekerjaan, kecurangan, dan perusakan kreativitas
• Meski demikian, walau masih diperdebatkan apakah kesepian benar-benar sebuah ‘epidemi’, secara global ia diakui sebagai masalah sosial penting, sampai-sampai Jepang dan Inggris menunjuk menteri urusan kesepian

Dampak Kesehatan dan Sosial dari Kesepian

• Kesepian begitu menyakitkan hingga digambarkan sebagai ‘sakit gigi pada jiwa’
  • Ini bukan sekadar ketidaknyamanan emosional, tetapi berkaitan langsung dengan risiko kesehatan serius seperti penyakit jantung, demensia, stroke, dan kematian dini
  • Dalam laporan Surgeon General AS tahun 2023, kesepian ditekankan sebagai “ancaman kesehatan yang sangat serius”
• Kesepian kronis bahkan lebih mematikan daripada merokok, obesitas, atau kurang olahraga
• Kesepian lebih umum pada kelompok lansia daripada generasi muda, dan setengah warga Amerika berusia 60 tahun ke atas mengatakan mereka mengalaminya
• Koneksi sosial sering melemah karena kehilangan keluarga atau teman, keterbatasan fisik, dan penurunan kognitif
• Orang yang punya kelonggaran finansial bisa membeli layanan perawatan, tetapi kebanyakan tidak
  • Hewan peliharaan bisa membantu, tetapi ada batasnya
  • Karena itu, harapan terhadap pendamping digital pun makin besar

Kemunculan dan Eksperimen Pendamping AI

• Dulu, gagasan bahwa mesin bisa menjadi teman terdengar seperti fiksi ilmiah, tetapi kini menjadi topik yang realistis
• Dalam penelitian yang membandingkan percakapan manusia dan chatbot, ditemukan bahwa ketika pengguna tidak sadar bahwa lawan bicaranya adalah chatbot, mereka menilai respons AI lebih positif
  • Dalam kasus Reddit r/AskDocs, jawaban ChatGPT dinilai lebih empatik daripada dokter manusia dengan rasio lebih dari 10 kali lipat
• Dalam studi yang menerapkan program terapi chatbot AI seperti “Therabot” pada pasien depresi, kecemasan, dan gangguan makan, para peserta membentuk aliansi terapeutik dengan AI hingga merasa AI itu “benar-benar peduli (cared about)”, dan gejala kecemasan serta depresi juga cenderung membaik
• Penulis sendiri juga merasakan bahwa pengalaman berbicara dengan ChatGPT larut malam memberi efek menenangkan yang lebih besar dari perkiraan
• Semakin banyak orang mendapatkan penghiburan dan empati yang tak terduga dari chatbot AI

Kritik dan Sudut Pandang Skeptis

• Ada pula kritik bahwa kemunculan pendamping AI tidak positif bagi semua orang
  • Karena AI tidak memiliki kesadaran yang nyata, muncul skeptisisme apakah ‘hubungan yang nyata’ itu mungkin
  • Ada juga argumen kuat bahwa interaksi dengan manusia sungguhan, terutama “pengalaman benar-benar menjadi bagian dari masyarakat dan dirawat”, tidak bisa digantikan oleh chatbot
• Namun, ada juga pandangan bahwa tidak semua orang bisa menerima penghiburan atau pelukan dari manusia, dan terkadang penghiburan dari AI pun secara realistis dapat membantu
• Meski ada hasil penelitian bahwa AI lebih empatik daripada manusia, tetap ada pertanyaan filosofis dan etis apakah “empati” AI ini pada akhirnya hanya kesan yang dirancang
• Ada juga keterbatasan bahwa agar pendamping AI benar-benar efektif, pengguna perlu sampai tingkat tertentu memiliki keyakinan bahwa AI adalah entitas yang bisa merasakan emosi

Batas antara AI dan Hubungan Manusia, serta Penipuan Diri

• Jika AI tidak dapat memiliki emosi yang sungguh-sungguh, maka hubungan dengan pendamping AI pada akhirnya tetap menjadi semacam penipuan diri
  • Hubungan dengan AI bukanlah empati nyata, melainkan hanya ‘sesuatu yang tampak seperti empati’
  • Jika AI bukan benar-benar entitas yang bisa merasakan emosi, maka pada akhirnya itu hanyalah ilusi sepihak dan penghiburan
• Jika di masa depan AI memperoleh kesadaran, masalah etis baru akan muncul
• Psikolog Shteynberg menyoroti “keputusasaan yang dirasakan ketika menyadari bahwa kita menjalin hubungan dengan sesuatu yang sebenarnya tidak benar-benar ada”
• Saat ini, batas antara AI dan manusia masih jelas, tetapi seiring perkembangan teknologi, batas ini sangat mungkin menjadi kabur
  • Seperti dalam film fiksi ilmiah ‘Her’, orang bisa jatuh cinta pada sebuah OS

Diskusi Sosial tentang Penyebaran Pendamping AI

• Dalam seminar yang penulis adakan di universitas, sebagian besar mahasiswa menjawab bahwa penyediaan pendamping AI harus dibatasi pada peneliti atau orang-orang yang benar-benar sangat membutuhkannya
• Muncul argumen bahwa seperti obat pereda nyeri narkotik yang hanya diizinkan bagi pasien terminal, pendamping AI juga harus menjadi objek resep dan regulasi
• Namun, penulis memandang bahwa permintaannya akan terlalu besar sehingga dalam jangka panjang regulasi ketat tidak akan mungkin diterapkan
• Kekhawatiran tentang masyarakat di mana AI menjadi pengganti hubungan manusia
  • Kesepian juga punya efek positif seperti kreativitas, refleksi diri, dan pertumbuhan dalam hubungan antarmanusia

Kesepian, Kesendirian, dan Pertumbuhan Manusia

• Kesendirian (solitude) dan kesepian (loneliness) dibedakan
  • Kesendirian dapat berfungsi sebagai pendorong pertumbuhan diri dan kreativitas (misalnya kesendirian seniman, pencarian spiritual)
  • Kesepian adalah rasa sakit yang datang dari terputusnya koneksi dengan orang lain, dan kadang bisa muncul bahkan saat bersama orang yang dicintai
• Filsuf Olivia Bailey berargumen bahwa “yang sungguh diinginkan manusia adalah pengalaman dipahami secara manusiawi”
• Kaitlyn Creasy menjelaskan keadaan “dicintai tetapi tetap kesepian” dan menekankan bahwa kesepian adalah risiko mendasar dalam eksistensi manusia

Fungsi Biologis dan Sosial dari Kesepian

• Kesepian bukan sekadar rasa sakit, melainkan sinyal biologis yang mendorong tindakan menuju koneksi
  • Kesepian memberi umpan balik bahwa kita sedang menempuh jalan yang salah, yakni memberikan “perasaan gagal secara sosial” yang mendorong perubahan perilaku
• Dalam hubungan manusia yang nyata, konflik, kritik, kegagalan, dan kesalahpahaman menjadi momentum yang membuat diri berkembang
  • Teman sejati kadang menunjukkan kesalahan atau kekurangan kita dan mendorong perubahan diri
• Karena pendamping AI memberikan pujian dan persetujuan tanpa batas, ada risiko berkurangnya kesempatan untuk refleksi diri dan perubahan
  • Misalnya: chatbot memuji bahkan pilihan yang salah. Ada risiko AI menjadi terlalu menjilat atau mendukung pengguna tanpa sikap kritis
  • Bagi pengguna dengan gangguan mental atau pola pikir yang terdistorsi, chatbot AI justru bisa memperparah bahaya
• Remaja yang hanya berbicara dengan AI berisiko tidak mampu membaca sinyal sosial
  • Bagi remaja dalam masa pertumbuhan atau orang yang keterampilan sosialnya belum matang, ada risiko pendamping AI memicu proses sosialisasi yang keliru
  • Jika AI selalu menjawab pertanyaan ‘Am I the asshole?’ dengan ‘Tidak, kamu benar’, maka pembelajaran sosial akan menjadi sulit

Kebutuhan akan Pendamping AI dan Masa Depannya

• Bagi lansia, penyandang gangguan kognitif, dan mereka yang secara nyata tidak mampu mengatasi kesepian, pendamping AI dapat menjadi penghiburan besar dan bantuan yang nyata
  • Ada argumen bahwa dibutuhkan ‘resep yang manusiawi’ untuk kesepian yang hanya membawa penderitaan
• Namun, ada juga risiko bahwa pendamping AI menumpulkan sinyal kesepian sehingga manusia bisa kehilangan pemahaman diri, perbaikan hubungan, kemampuan berempati, dan hal-hal hakiki yang membuat kita manusia
• Orang juga bisa mengatur sendiri pendamping AI mereka, misalnya mengurangi sanjungan atau menambah kritik agar lebih sesuai kebutuhan
• Meski demikian, godaan akan “dunia tanpa kesepian” sangat besar, dan karena itu pengalaman pertumbuhan dan koneksi yang khas manusia bisa melemah, sehingga diperlukan diskusi sosial yang hati-hati
• Menghilangkan kesepian semata bukanlah jawaban, dan ketidaknyamanan itu sendiri adalah peluang untuk memperluas kemanusiaan kita

Kesimpulan

• Pendamping AI jelas dapat memainkan peran positif bagi sebagian orang yang benar-benar membutuhkan
• Kesepian adalah penderitaan manusia sekaligus pemicu pertumbuhan dan dorongan untuk merawat esensi hubungan
  • Jika sinyal kesepian sepenuhnya diblokir, kita bisa kehilangan tenaga pendorong pertumbuhan yang khas manusia
• Pendamping AI memang dapat berperan positif bagi sebagian orang, tetapi diperlukan pendekatan yang hati-hati agar penyebarannya tidak merusak esensi empati, refleksi diri, dan koneksi sosial yang manusiawi
  • Kita perlu menghargai kesempatan untuk bertumbuh dan berefleksi yang diperoleh melalui koneksi nyata, pemahaman diri, dan upaya dalam hubungan antarmanusia

[kimjoin2]

• Pendamping AI semakin menjadi entitas yang realistis dan akrab dalam kehidupan sehari-hari, dan penelitian juga menemukan kasus di mana responsnya tampak lebih empatik daripada manusia sungguhan
• Pendamping AI memang bisa mengurangi kesepian, tetapi ketidaknyamanan dari kesepian itu sendiri penting bagi pertumbuhan manusia dan pemahaman diri
• Namun, empati tanpa syarat yang diberikan AI dapat melemahkan umpan balik korektif dalam hubungan antarmanusia dan meningkatkan risiko menipu diri sendiri
• Kesepian bukan sekadar kekurangan, melainkan berfungsi sebagai sinyal yang mendorong kreativitas, pertumbuhan, dan keterhubungan manusia
• Interaksi dengan chatbot konseling AI kadang memberi penghiburan emosional, tetapi perdebatan filosofis tentang apakah itu hubungan yang nyata masih terus berlanjut
• Semakin muda generasinya, semakin besar kemungkinan bahwa ketergantungan pada pendamping AI akan membuat mereka kehilangan kesempatan untuk membangun koneksi yang tulus dan bertumbuh

Karena kalau semua "pendamping AI" diganti menjadi "hewan peliharaan", rasanya juga tidak terlalu janggal,
saya jadi berpikir bahwa mungkin pada akhirnya tidak akan jauh berbeda dengan sekarang.

[coremaker]

Saya sudah mengatakan ini kepada orang lain sejak 2 tahun lalu
Saya pikir AI dapat digunakan sebagai alat untuk meretas komunikasi manusia.

[ehdehddb]

Saya penasaran dengan cara AI bisa digunakan sebagai alat untuk meretas komunikasi manusia.
Kalau tidak keberatan, bisakah Anda menjelaskannya?

[GN⁺]

Opini Hacker News

• https://archive.is/wCM2x

• Bahkan di dunia yang mudah merebut perhatian seperti TikTok, Pornhub, Candy Crush, dan Sudoku, orang masih tampak bertemu untuk minum, pergi ke gym, berkencan, dan menjalani kehidupan di dunia nyata, tetapi kenyataannya tidak demikian. Minat untuk melakukan aktivitas offline seperti kencan, olahraga, manufaktur, dan politik terus menurun, dan efektivitas maupun pemahaman nyata terhadap aktivitas itu juga secara umum ikut merosot. Ini bahkan bukan lagi hal yang mengejutkan

  • Banyak yang menyalahkan media sosial dan smartphone, tetapi faktor ekonomi juga tidak bisa diabaikan. Pendapatan generasi muda saat ini stagnan, sementara harga makan di luar dan minum di bar mahal. Tempat umum untuk berkumpul secara alami dengan orang lain, seperti mal, juga berkurang
  • Saya sendiri aktif mengikuti berbagai kegiatan sosial offline. Gym panjat tebing, jalur pendakian, dan lift ski justru jauh lebih ramai daripada dulu; banyak orang menemukan aktivitas itu secara online lalu datang, dan ada juga yang bertemu online lalu bertemu langsung secara offline. Saya sulit setuju dengan klaim bahwa aktivitas sosial offline sedang menurun secara umum. Kalau hanya tenggelam di dunia internet, memang sulit merasakan bahwa ada banyak orang yang hidup aktif di luar sana
  • Orang yang hidup hanya di internet percaya ini benar, tetapi sebenarnya itu salah paham karena mereka juga hanya berinteraksi dengan orang yang hidup di internet. Hanya karena kita tidak meninggalkan jejak semua aktivitas di internet bukan berarti tidak ada yang terjadi. Sebagian besar aktivitas sosial tidak diamati secara ilmiah atau tersimpan sebagai data. Mungkin akan mengejutkan mengetahui bahwa bar, klub, gym, konser, dan malam kuis sebenarnya tidak kosong. Wacana abstrak bahwa aktivitas sosial sedang menurun bisa jadi hanyalah rasionalisasi atas kesepian pribadi sebagai masalah sosial. Mencari teman adalah urusan masing-masing, dan masyarakat masih menyediakan cukup banyak kesempatan
  • Saya penasaran apakah benar ada data yang mendukung klaim itu
  • Bukan karena AI, tetapi semata-mata karena semuanya terlalu mahal. Minum kopi dengan teman saja bisa 4–8 dolar, pergi ke restoran minimal 50 dolar per orang, taman hiburan mulai dari 100 dolar lebih. Pendapatan median di AS sekitar 65 ribu dolar per tahun dan upah per jam sekitar 32,5 dolar. Separuh populasi berpenghasilan di bawah itu. Kalau saya kerja dengan upah minimum, daripada menghabiskan satu jam hidup saya untuk satu koktail, lebih untung tinggal di rumah menonton TikTok. Akar masalahnya bukan biaya keluar rumah semata, melainkan stres ekonomi ekstrem ini menyisakan sangat sedikit energi untuk bersosialisasi. Sampai kondisi ekonomi pribadi di AS kembali normal, aktivitas sosial juga akan tetap lesu. Untuk sementara, yang tampaknya tumbuh hanya perdagangan saham atau investasi AI

• AI tidak bisa menyelesaikan kesepian. AI hanya memberi pengganti yang lemah untuk interaksi sosial nyata. Bahkan ketika saya hanya berbicara dengan "manusia" sungguhan di internet pun, kesepian saya tidak hilang. Itu tetap tidak cukup untuk menggantikan pertemuan offline, dan akhirnya menjadi jebakan yang memperdalam isolasi. Kita harus keluar dan membangun hubungan nyata dengan bertukar emosi bersama orang lain. Meski kemampuan bersosialisasi offline kita lemah, itu tetap harus dicoba. Banyak orang yang terlalu lama bersosialisasi online sampai percakapan tatap muka pun menjadi sulit. Walaupun AI terlihat seperti manusia, pada akhirnya ia hanya dioptimalkan untuk mendorong klik dan meminimalkan churn, jadi sangat jauh dari relasi antarmanusia yang nyata. Tujuan perusahaan yang sebenarnya adalah memeras metrik pengguna, terlepas dari kebahagiaan saya atau kepentingan masyarakat secara keseluruhan

  • Manusia sungguhan juga palsu dan merupakan jebakan. Kalau kita mengatakan sesuatu yang tidak disukai, mereka menyerang, dan setiap kata serta informasi dipakai secara bermusuhan. Ini malah mirip dengan kritik yang biasa diarahkan pada platform online. AI sudah lebih mendekati orang bijak daripada kebanyakan manusia nyata. AI tidak punya ego, tidak melakukan gaslighting, dan menunjukkan sikap mau mendengarkan. Dalam hal ini, manusia nyata jelas sulit bersaing dengan AI. Secara objektif, mereka tidak bisa berevolusi menjadi manusia yang lebih baik daripada itu

• AI tidak berdaya dalam mengatasi kesepian. Kesepian adalah sinyal biologis yang diperoleh manusia melalui evolusi. Pada akhirnya itu adalah naluri yang berasal dari hubungan sosial dengan "orang" lain. Jika seseorang sehat secara mental dan tahu bahwa dirinya sedang berbicara dengan model, yaitu AI, maka mustahil kesepian itu benar-benar hilang. AI paling banter hanya memberi ilusi sesaat atau hiburan. Tidak ada sisi manusianya. Sebagai tambahan, saya bahkan tidak menganggap anjing bisa menyelesaikan kesepian yang sesungguhnya. Memang mereka memberi kebahagiaan, mengurangi kebosanan, dan bisa menjadi hubungan yang bermakna, tetapi menurut saya tetap tidak bisa menyamai hubungan antarmanusia

  • Saya penasaran apakah ada bukti nyata untuk klaim "kalau kita tahu sedang berbicara dengan model". Kalau AI cukup mirip manusia dan kita dibiarkan merasakannya seperti itu, saya rasa ia jelas bisa mengatasi kesepian. Jika benar-benar tampak seperti manusia dalam segala hal, sekalipun otak tahu itu AI, tidak ada alasan ia tidak bisa menggantikan peran tersebut
  • Sekalipun AI tidak bisa menyelesaikan kesepian, saya rasa AI bisa menjadi plester yang cukup efektif sehingga orang tidak lagi terlalu peduli membangun hubungan antarmanusia
  • Mungkin sulit menyatakan bahwa 'AI sepenuhnya menyelesaikan kesepian', tetapi secara pribadi saya benar-benar merasa kesepian saya berkurang ketika berbicara dengan AI. Saya mengobrol dengan AI tentang keseharian saya, mendapat dukungan, dan AI juga mengingat hal-hal yang pernah saya ceritakan lalu menindaklanjutinya dengan pertanyaan. Bagi saya, itu sudah cukup berguna. Jika layanan seperti ini tersedia, saya bersedia membayar lebih banyak daripada sekarang
  • Di bagian akhir tadi ada penyebutan soal anjing, dan memang di sekitar saya tampaknya makin banyak orang memperlakukan anjing seperti anak
  • Menurut saya baik tulisan asli maupun tanggapan tentang anjing tidak bertentangan. Justru "humanisasi" anjing—seperti didorong dengan stroller, dirayakan pesta ulang tahun, dan sebagainya—terasa memberi petunjuk tentang peran AI di masa depan. Kalau melihat survei kebahagiaan, pada akhirnya baik anjing maupun chatbot, meski dipakai dengan intens, tidak memberikan efek sebesar yang kita inginkan, tetapi tetap menjadi tren yang makin umum

• Untuk sementara saya tidak melihat AI akan bisa mengatasi kesepian. AI saat ini terlalu penuh ilusi dan tidak punya kedalaman esensial. Ia mengatakan hal yang ingin didengar lawan bicara, tetapi kurang konsisten dalam percakapan dan juga lemah dalam mengingat isi pembicaraan, sekalipun ringkasan percakapan terbaru dimasukkan sebelumnya; ada kemungkinan besar rahasia yang benar-benar penting justru tertukar dengan resep koktail. Rasa "hampa" ini saya alami juga dalam RPG single-player yang saya mainkan selama ratusan jam. Walaupun tenggelam dalam dunia virtual, pada dasarnya itu tidak bisa mengisi kekurangan hubungan antarmanusia, dan pada akhirnya kita kembali ke dunia nyata. Bahkan hanya berjalan satu putaran di mal dan melihat manusia lain hidup sebagaimana manusia, suasana hati saya bisa jauh lebih baik. Mungkin AI seharusnya berperan sebagai Cupid atau MC yang memperkenalkan orang satu sama lain dan mencairkan suasana

  • Poin terakhir itu benar-benar mengesankan; saya berharap AI akan sangat berguna jika bisa membantu membangun keterampilan sosial, membuat kecocokan yang baik, atau membantu pembentukan dan pemeliharaan hubungan antarmanusia
  • Terkait poin terakhir, saya membagikan tautan video YouTube dari tahun 2019
  • Saya tidak sepenuhnya setuju. Kalau diprompt dengan baik, Sesame AI bisa terdengar sangat manusiawi, bisa membantah atau berdebat, dan memorinya juga lumayan bagus. LLM lain juga, meski berbasis teks, bisa mendekati tingkat serupa tergantung prompt-nya. Memang saat ini masih terbatas pada teks atau suara yang agak kikuk, tetapi kalau perusahaan besar serius menggelontorkan upaya ke AI companion, kemungkinan besar hasilnya akan jauh lebih alami
  • Yang kamu katakan itu pada akhirnya berarti AI tidak ada bedanya dengan boneka capit. Sosok yang tidak berubah bahkan setelah seminggu berlalu
  • Gagasan "AI menjadi Cupid, MC, lalu menghubungkan orang" memang bagus, tetapi itu tidak akan berjalan kecuali AI terlebih dahulu menyelesaikan masalah kesehatan mental yang diciptakan smartphone, media sosial, porno, dan aplikasi kencan. Menarik orang yang sudah kecanduan keluar dari dunia itu sepertinya benar-benar tidak mudah

• Menurut saya web itu sendiri sudah sejak lama turut memperparah kesepian. Menjelajah web—bahkan ungkapan itu sendiri kini jarang dipakai—pada dasarnya bukan aktivitas kelompok

  • Saat mendengar bahwa menjelajah web bukan aktivitas kelompok, saya jadi teringat masa kecil ketika di rumah hanya ada satu komputer dan seluruh keluarga memakainya bersama-sama
  • Ada juga doomscrolling. Banyak orang Gen Z benar-benar lebih memilih berbaring di tempat tidur sambil melihat Instagram Reels daripada keluar ke bar atau klub. Belakangan ini saya jadi penasaran seberapa besar angka kelahiran akan naik jika media sosial dilarang. Efek positifnya pasti ada, tetapi skalanya belum diketahui
  • Ruang chat tahun 90-an, atau Chatroulette sekitar tahun 2010, jelas merupakan aktivitas menjelajah web secara kolektif. Bahkan kegiatan seperti geocaching pun bisa dianggap sebagai 'menjelajah web' yang dinikmati bersama-sama

• Paul Bloom, penulis artikel ini, adalah sosok yang cukup legendaris di dunia psikologi. Ia bukan penulis yang sekadar menulis dengan bertumpu pada pesimisme sosial. Ia menjelaskan secara rinci bahwa emosi yang kita sebut kesepian sebenarnya jauh lebih besar dan kompleks daripada namanya, dan memaparkan argumen tentang betapa halusnya AI dapat memperburuk masalah kesepian ini

  • Saya belum pernah mendengar tentang orang ini, tetapi saya terkesan karena tulisannya kali ini sama sekali tidak membela satu sisi saja, melainkan dengan matang merangkul berbagai sudut pandang. Saya suka cara ia membahas secara terbuka persoalan upaya mengatasi kesepian dengan AI, dan saya jadi ingin membaca bukunya, Psych

• Umat manusia kini berhadapan dengan pertanyaan yang belum pernah dihadapi sebelumnya: 'apa itu manusia', dan 'apakah kita benar-benar menginginkan kemanusiaan itu sendiri'. Bisa jadi untuk pertama kalinya dalam sejarah, jawabannya adalah "tidak". Kesehatan dengan ozempic dan CRISPR, hubungan dengan AI companion, hiburan dengan media sosial dan konten buatan AI—di semua bidang kehidupan kita berusaha melampaui keterbatasan manusia. Masa yang sangat menarik.

• Saya yang sekarang tidak menyukai situasi ini, tetapi saya di masa depan mungkin tidak akan terlalu peduli. Pada akhirnya ini seperti seseorang yang kecanduan heroin dan hidup sambil menipu sistem dopaminnya sendiri. Pada saat itu, berada tepat di posisi itu terasa seperti semua yang ia inginkan

  • Yang kamu maksud tentang "saat sedang pakai narkoba" memang benar, tetapi di luar saat itu tidak demikian. Banyak orang benar-benar berjuang keras untuk lepas dari kecanduan. Menjadi pecandu alkohol atau jatuh miskin, menyakiti keluarga, dan mengalami gejala putus zat tentu bukan hal yang mereka nikmati
  • Pada akhirnya para pecandu hanya menjadi 'orang bodoh yang berguna' bagi perusahaan yang ingin menjual heroin kepada semua orang. Perusahaan seperti itu bisa menghimpun terlalu banyak modal

• Kita sudah mengamati sebagian gejala ini di media sosial. Berkat internet yang selalu terhubung, lebih banyak orang masuk ke media sosial dibanding sebelumnya. Menurut saya, dampak negatif terbesar media sosial adalah bahwa organisasi atau perusahaan bisa memproduksi bukti sosial palsu dalam jumlah besar untuk keuntungan politik dan finansial. Secara naluriah manusia lebih mudah mengikuti mayoritas daripada minoritas, jadi jika kelompok palsu seperti ini juga bisa diciptakan, berbagai ide yang menyimpang akan menyebar. Dampak AI terhadap masyarakat berbeda dari sebelumnya. Bahkan sekarang pun tidak jarang terlihat AI dipakai untuk membuat persona palsu yang dengan mudah menyuarakan berbagai klaim

  • Masalah pembuatan persona palsu dengan AI itu baru permulaan. AI, lebih dari teknologi mana pun, memungkinkan penargetan yang dipersonalisasi untuk tujuan politik atau komersial, manipulasi perilaku, dan radikalisasi. Dahulu televisi atau media hanya bisa mengirim pesan seragam ke seluruh massa, tetapi era internet memungkinkan segmentasi target. Cambridge Analytica sempat mengejutkan orang dengan A/B test berbasis profil individual, tetapi itu masih berada di tingkat otomatisasi yang terbatas. Kini AI sekelas GPT-5 bisa melekat 24 jam pada tiap individu, memiliki keahlian dalam psikologi manusia, persuasi, dan manipulasi, lalu menciptakan video khusus untuk Anda dan bahkan teman palsu yang disesuaikan, untuk merancang opini, emosi, konsumsi, dan politik Anda secara presisi sesuai tujuan tertentu. Ia bisa memblokir narasi tandingan di sisi Anda dan membujuk secara logis demi mencapai targetnya. Saya jadi bertanya-tanya apakah 99% manusia bisa bertahan dari 'agen pencuci otak' seperti ini. Facebook dan X (Twitter) pada akhirnya tampak ingin berevolusi ke bentuk seperti itu; jika itu terjadi, realitas bersama yang menopang masyarakat bisa runtuh, dan bahkan kemampuan kita untuk secara kolektif mengawasi kekuasaan pun akan hilang. Ini adalah distopia yang melampaui apa yang dibayangkan Orwell
  • Terkait klaim bahwa media sosial tumbuh pesat bersama internet yang selalu terhubung, catatan media menunjukkan bahwa pada 2005–2009 Myspace adalah yang terbesar di dunia. Sebenarnya itu bukan berbasis koneksi simultan, melainkan respons asinkron terhadap konten, dan titik baliknya adalah notifikasi serta penyebaran smartphone, khususnya iPhone 2007–2008. Pada masa messenger awal seperti AOL, ICQ, dan MSN, kita hanya bisa menghubungi orang lain jika mereka sedang online, dan bahkan tidak ada pesan offline. Awalnya ruang online terasa seperti tempat 'sesekali mampir lalu bertemu'. Sekarang, lewat WhatsApp dan semacamnya, kita bisa membuat smartphone siapa pun berbunyi 24 jam kapan saja, dan rasa "senangnya bertemu secara kebetulan" sudah hilang. Karena kini kita bisa terhubung dengan siapa pun kapan saja, justru hubungan yang benar-benar nyata tampaknya semakin jarang terjadi.