Kita sedang menciptakan neraka demi menjual iklan [Video]

• Ancaman dari kecerdasan buatan bukanlah robot, melainkan kekhawatiran tentang cara para pemegang kekuasaan menggunakan kecerdasan buatan
• Iklan digital dan struktur persuasi berkembang ke arah mengidentifikasi dan memanipulasi kelemahan tiap pengguna
• Algoritme pembelajaran mesin memprediksi dan mengarahkan perilaku manusia dengan cara yang tidak dapat kita pahami
• Pengumpulan data dan manipulasi algoritme digunakan untuk menjalankan pengaruh politik dan sosial
• Kita harus merancang ulang struktur sistem digital secara transparan dan mengembangkan teknologi ke arah yang menjaga nilai-nilai manusia

---

Kecerdasan buatan dan kekuasaan: risiko yang nyata

• Ketakutan yang sebenarnya terhadap kecerdasan buatan bukanlah robot seperti Terminator, melainkan para pemegang kekuasaan memanipulasi kecerdasan buatan untuk mengendalikan manusia
• Sistem pengawasan seperti dalam "1984" karya George Orwell bisa menjadi kenyataan
• Perusahaan sedang mengembangkan teknologi yang dapat melanggar kebebasan dan martabat individu
• Perusahaan seperti Facebook, Google, Amazon, Alibaba, dan Tencent berfokus pada pengumpulan dan analisis data melalui iklan

Evolusi iklan digital dan struktur persuasi

• Iklan tradisional bergantung pada ruang fisik yang terbatas dan penargetan, tetapi di dunia digital persuasi yang dipersonalisasi untuk tiap individu menjadi mungkin
• Iklan internet menghasilkan iklan yang terus mengikuti kita dan dipersonalisasi berdasarkan apa yang kita lihat, cari, dan bicarakan
• Tidak seperti dunia fisik, ruang digital dapat mengoperasikan struktur persuasi real-time dalam skala miliaran

Kekuatan dan keterbatasan algoritme pembelajaran mesin

• Algoritme pembelajaran mesin digunakan untuk memprediksi dan memanipulasi perilaku individu melalui data dalam jumlah besar
• Bahkan programmer pun tidak sepenuhnya memahami bagaimana bagian dalam algoritme bekerja
• Semakin banyak data, semakin kuat kinerja algoritme; karena itu perusahaan berusaha mengumpulkan sebanyak mungkin data

Media sosial dan manipulasi politik

• Facebook dan YouTube dapat menganalisis dan memanipulasi kecenderungan politik melalui algoritme
• Misalnya, Facebook menggunakan papan posting privat untuk menampilkan informasi hanya kepada kelompok demografis tertentu
• Ada kasus di mana hanya dengan satu posting sederhana, perilaku memilih ratusan ribu orang berubah
• Algoritme rekomendasi YouTube menimbulkan efek "lubang kelinci" yang menarik pengguna ke konten ekstrem

Perlunya merancang ulang sistem digital

• Saat ini kita berada dalam situasi tidak tahu informasi apa yang kita lihat dan apa yang dilihat orang lain
• Algoritme dapat mengenali karakteristik pribadi seperti etnis, kecenderungan politik, dan orientasi seksual
• Tiongkok memperkuat sistem pengawasannya dengan teknologi pengenalan wajah, dan Barat juga menghadapi risiko serupa
• Teknologi digital harus dibangun ulang berdasarkan nilai-nilai manusia dan transparansi
• Ini menuntut perubahan yang menyeluruh, dari teknologi dan kreativitas hingga struktur politik

Kesimpulan: tanggung jawab yang tumbuh bersama teknologi digital

• Platform digital adalah alat yang bernilai, tetapi pada saat yang sama bisa menjadi ancaman serius bagi individu dan masyarakat
• Sistem saat ini adalah struktur di mana kita diperdagangkan sebagai "komoditas"
• Untuk masa depan yang lebih baik, diperlukan transparansi teknologi, nilai yang berpusat pada manusia, serta perubahan kreatif dan politik
• Kita harus menyadari bahwa teknologi dengan potensi besar datang bersama risiko yang besar pula

[GN⁺]

Opini Hacker News

• Merasa sebagian besar iklan internet itu kosong dan menipu

  • Tidak masalah jika iklannya tidak seperti yang di atas
  • Menggunakan Ublock Origin karena algoritmenya tidak bisa diprediksi dalam menentukan iklan apa yang akan ditampilkan
  • Berpikir iklan harus berubah menjadi iklan yang benar-benar bagus, bukan promosi berbayar, melainkan sesuatu yang memang ingin dilihat orang
  • Terus mendengarkan musik iklan seperti Splendor Song Chalta rahe karena menyukainya
  • Merasa sebagian besar iklan adalah penipuan yang menjual mimpi menjadi kaya
  • Membenci penjual kursus tipu-tipu seperti ini, dan merasa ekonomi iklan berputar di sekitar para penipu
  • Rasanya seperti menciptakan mimpi buruk privasi dan distopia
  • Ingin mematikan iklan dan tetap menggunakan layanannya
  • Tidak mengharapkan pendapatan besar dari pelanggan umum, bukan pelanggan bisnis
  • Merasa punya kewajiban moral terhadap open source, tetapi bingung karena bisnis bisa melakukan self-hosting
  • Sistem dikendalikan oleh uang, dan jika uangnya kurang, moralitas sangat mungkin diabaikan
  • Persaingan terlalu banyak dan perbedaan ide tidak besar, jadi mencoba iklan

• Menggunakan AdBlock Pro dan AdBlock di Safari untuk menghindari iklan

  • Karena banyak menghabiskan waktu di YouTube, berlangganan Premium dan membeli ekstensi UnTrap for YouTube untuk menyembunyikan rekomendasi
  • Sering mengunjungi BlueSky, Hacker News, dan YouTube, tetapi tidak memakai X, TikTok, Instagram, atau Facebook
  • Sedang berusaha untuk tidak menggunakan Amazon

• Banyak mengeluh soal ketimpangan pendapatan, tetapi ini menjelaskan banyak hal

  • Orang-orang tidak punya cukup uang luang untuk membayar layanan, sehingga layanan mencari uang dengan merebut perhatian mereka
  • Karena produknya gratis, tidak ada ekspektasi terhadap dukungan pengguna

• Menerima cookie, melihat iklan, menutup popup newsletter, lalu menonton video tentang iklan

  • Benar-benar tepat sasaran

• Implementasi telemetri Reddit sangat agresif

  • Endpoint untuk pengumpulan event berubah secara acak setiap kali halaman dimuat
  • Semua URL pengumpulan event adalah endpoint API valid yang juga dipakai untuk tujuan lain
  • Sulit diblokir dengan alat pemblokir iklan biasa
  • Menganggap ini berniat jahat

• Banyak komentar yang menyebut ad blocker ada, tetapi melewatkan intinya

  • Kerugian dari ekonomi internet berbasis iklan tidak terbatas pada sekadar melihat iklan
  • Seluruh konten dan struktur internet terdistorsi agar sesuai dengan ekonomi ini
  • Search engine, SEO, mekanisme penemuan konten, jenis konten, dan keberagaman konten seharusnya bisa menjadi lebih baik

• Bertanya-tanya apakah mungkin memulai serangan dengan menipu sistem seolah-olah manusia sedang mengonsumsi iklan, sehingga metrik iklan menjadi tidak berarti