“Tetapi begitulah yang terjadi.” - Komentar Casey Muratori tentang pidato wisuda Eric Schmidt

 (youtu.be)
1 poin oleh GN⁺ 12 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Inti pidato Eric Schmidt bukan pada ejekan terhadap AI, melainkan pada cara ia mengakui efek samping internet sambil mengaburkan letak tanggung jawab
  • Masa jabatannya sebagai eksekutif Google bertepatan dengan periode ketika model bisnis internet seperti iklan, pengumpulan data, manipulasi perilaku, dan A/B testing mengeras menjadi norma
  • Kerangka bahwa “alat yang sama” dipakai untuk hal baik dan buruk membuat dark pattern tampak seperti produk sampingan, bukan struktur yang dirancang
  • Sambil mendorong mahasiswa untuk masuk ke ruangan tempat keputusan AI dibuat, ia tidak menyertakan analisis kegagalan tentang apa yang salah pada teknologi sebelumnya
  • Jika AI tidak ingin menempuh jalan yang sama seperti internet, kita harus mengakui bahwa bagian buruk di masa lalu tidak muncul dengan sendirinya, melainkan merupakan hasil yang dibangun oleh manusia

Tanggung jawab yang dikaburkan dalam pidato wisuda

  • Pidato wisuda Eric Schmidt di University of Arizona dikenal karena bagian ucapannya tentang AI yang disambut ejekan, tetapi bagian yang lebih penting justru ada di paruh awal, ketika ia mengakui efek samping internet
  • Schmidt mengatakan bahwa ia pernah percaya menghubungkan semua orang di bumi dan menyediakan informasi dunia akan menghasilkan demokratisasi pengetahuan, pengurangan kemiskinan, serta masyarakat yang lebih bijak dan lebih baik hati
  • Pada saat yang sama, ia juga mengakui bahwa alat yang sama justru mengisolasi orang, platform yang memberi semua orang suara malah merusak ruang publik, serta memberi imbalan pada kemarahan dan memperkuat naluri terburuk hingga membuat cara kita berbicara dan memperlakukan satu sama lain menjadi lebih kasar
  • Ia mengatakan tidak ada yang berniat membangun teknologi yang mempolarisasi demokrasi dan membuat generasi muda cemas, lalu mengekspresikannya dengan nada, “itu bukan rencana kami, tetapi begitulah yang terjadi”
  • Sementara bagian tentang hasil baik disampaikan secara aktif, hasil buruk diperlakukan dengan ungkapan pasif seolah “terjadi begitu saja”, sehingga tanggung jawabnya menjadi kabur

Posisi sebagai eksekutif Google

  • Schmidt menjabat sebagai CEO Google dan memegang peran eksekutif lain dari 2001 hingga 2017, dan periode ini bertepatan dengan masa ketika dark pattern bisnis internet dikembangkan dan mengakar di industri
  • Google diposisikan sebagai perusahaan yang memimpin model bisnis internet seperti iklan, pengumpulan data, manipulasi perilaku pengguna, dan pendekatan meng-A/B test segalanya
  • Jika Steve Wozniak berbicara tentang masa ketika ia membuat komputer Apple awal dan mengatakan bahwa ia tidak bermaksud menciptakan ekosistem tertutup atau kontrol perangkat, itu mungkin terdengar tulus, tetapi sulit memberi jarak yang sama kepada Schmidt
  • Yang dipersoalkan adalah sikap Schmidt yang melihat dirinya hanya sebagai pembuat “alat” berupa mesin pencari, lalu memisahkannya dari lapisan perusahaan iklan, perusahaan pengumpul data, modifikasi perilaku, dan dark pattern
  • Kerangka bahwa “alat yang sama” dipakai untuk X yang positif dan Y yang negatif membuat hasil buruk tampak sebagai produk sampingan dari tujuan mulia, bukan sebagai struktur yang dirancang dan dibangun

Pernyataan tentang AI dan ejekan dari mahasiswa

  • Di paruh akhir pidato, Schmidt mengatakan kepada mahasiswa untuk masuk ke ruangan tempat keputusan terkait AI dibuat, menyuarakan pendapat mereka, dan membawa nilai serta penilaian yang manusiawi
  • Menurutnya, teknologi pada dirinya sendiri hanyalah sebuah alat, manusia yang memutuskan apa yang harus dioptimalkan, dan dalam masa hidup para mahasiswa, “seseorang” itu adalah mereka sendiri
  • Pesan itu dilanjutkan dengan ajakan untuk memilih “kebebasan”, “diskusi terbuka”, “proyek yang lambat, berantakan, tetapi indah untuk hidup bersama orang-orang yang berbeda pendapat”, “kesetaraan”, dan “beragam perspektif”
  • Para mahasiswa tidak pernah mengalami bentuk teknologi yang berbeda seperti generasi sebelumnya; yang mereka kenal hanyalah teknologi dark pattern yang tidak mereka miliki, datanya disimpan pihak lain, perilakunya dilacak, datanya dijual, dan mereka dijadikan target iklan
  • Karena itu, ketika pengambil keputusan inti dari gelombang teknologi sebelumnya mengatakan kepada mahasiswa untuk dengan antusias ikut masuk ke gelombang teknologi berikutnya, maknanya jauh lebih kompleks daripada sekadar peristiwa ejekan karena tidak suka AI

Yang hilang adalah permintaan maaf dan analisis kegagalan

  • Schmidt memang mengakui bahwa hasil buruk masa lalu terjadi dalam masa jabatannya dan dalam ruang pengambilan keputusan tempat ia berada, tetapi ia tidak menawarkan refleksi tentang mengapa kegagalan itu terjadi
  • Tidak ada penjelasan tentang mengapa lapisan teknis dan bisnis yang buruk di atas alat yang berguna itu dibiarkan terbentuk, mengapa hal itu tidak dicegah, dan pada bagian mana ia harus memikul tanggung jawab
  • Nasihat yang benar-benar bernilai bagi mahasiswa bukan sekadar masuk ke ruangan teknologi baru, melainkan analisis konkret tentang apa yang salah pada teknologi sebelumnya dan keputusan apa yang menghasilkan akibat tersebut
  • Ketakutan terhadap AI bukan berasal dari teknologi abstrak itu sendiri, melainkan dari ingatan bahwa para pengambil keputusan di Silicon Valley membangun versi dark pattern ketika mereka menangani gelombang teknologi baru sebelumnya
  • Tanpa permintaan maaf atas masa lalu, pengakuan tanggung jawab, dan cara untuk menghindari pengulangan, jika yang tersisa hanya ungkapan pasif “begitulah yang terjadi”, maka ketidakpercayaan bahwa AI akan menuju arah yang sama seperti internet akan makin besar

Syarat untuk mencegah pengulangan berikutnya

  • Bagian buruk internet diringkas bukan sebagai sesuatu yang muncul dengan sendirinya setelah alat itu dilepas ke publik, melainkan sebagai hasil dari orang-orang yang benar-benar membangun bagian yang buruk itu
  • Jika AI tidak ingin menempuh jalan yang sama seperti internet, kita harus mengakui mengapa hal itu terjadi dan keputusan apa yang menghasilkan konsekuensi tersebut
  • Bukan hanya Schmidt generasi berikutnya, tetapi juga figur seperti Schmidt yang hingga kini masih berpengaruh di Silicon Valley dan Washington DC perlu diyakinkan bahwa keputusan masa lalu telah membentuk lingkungan teknologi saat ini
  • Tanpa pengakuan dan refleksi dari pihak yang bertanggung jawab, ada risiko model bisnis yang sama dan dark pattern yang sama akan terulang dalam teknologi berikutnya
  • Kesimpulan bahwa lain kali kita harus berbuat lebih baik tidak berangkat dari optimisme teknologi, melainkan dari cara menangani kegagalan masa lalu secara bertanggung jawab

Bacaan terkait

1 komentar

 
GN⁺ 12 jam lalu
Komentar Lobste.rs

  • Bagi yang ingin membacanya dalam bentuk tulisan, ada transkrip

  • Menarik untuk ditonton. Casey memang orang yang cerdas, tetapi topik kali ini jauh lebih berat daripada bahasan teknis yang biasanya ia angkat

    • Setuju. Saya tidak tahu harus berekspektasi apa, tetapi dia mengajukan beberapa poin yang cukup kuat
      Schmidt mengatakan kepada para mahasiswa kurang lebih agar “membawa sisi kemanusiaan ke dalam ruangan tempat keputusan tentang teknologi dibuat,” dan itu terdengar masuk akal. Namun melihat keadaan sekarang, keputusan tentang teknologi yang memengaruhi semua orang seperti AI justru dibuat oleh orang lain, sementara sisanya sama sekali tidak ada di ruangan itu

  • Seperti yang disorot dalam tulisan itu, bagian kuncinya adalah saat gaya bicaranya tiba-tiba berubah sepenuhnya menjadi kalimat pasif. Dia tidak mengatakan, “kami membuat ini, hasil buruk pun muncul, dan itu kesalahan kami,” atau “kami membuat kesalahan yang mengerikan,” atau “kami gagal dengan cara ini”
    Joseph Weizenbaum juga sudah menyoroti masalah yang sama dalam Computer Power And Human Reason pada 1976. Bahkan para manajer puncak pun menggambarkan diri mereka sebagai korban tak bersalah dari teknologi yang tidak mereka pertanggungjawabkan maupun pahami, sehingga tanggung jawab menghilang seolah-olah “dalam tragedi ada tindakan, tetapi tidak ada pelaku.” Mitos tentang keniscayaan teknologis, politis, dan sosial bekerja seperti obat penenang yang sangat ampuh: melumpuhkan hati nurani dan meringankan tanggung jawab dari pundak para pelaku yang benar-benar ada
    Ungkapan seperti “sistem yang bertanggung jawab, bukan manusia” terus diulang, dan bahkan pertanyaan apakah kita menginginkan masa depan seperti itu pun menghilang. Yang tersisa hanyalah sikap bahwa semua ini sekadar datang, tak bisa dihentikan, dan tak bisa dibalikkan

  • Menyeramkan, tetapi sangat tepat menangkap kekhawatiran saya. Saya adalah salah satu anak internet era ini, jadi video ini terasa seperti memberi nama pada perasaan itu

  • Casey merendahkan dirinya sendiri terlalu jauh. Ini video yang dibuat dengan sangat baik, dan sangat selaras dengan reaksi yang saya rasakan saat melihat bagian-bagian utama pidato itu
    Dan kutipan dari I Think You Should Leave juga lucu. Di sini terlalu banyak nuansa “kami semua sedang mencari siapa yang melakukan ini”

  • Sikap seperti “kami hanya ingin membuat dunia lebih baik, lalu entah bagaimana hal-hal buruk terjadi” benar-benar mengungkap banyak hal. Eric Schmidt secara harfiah munafik, dan seperti banyak orang lain yang telah menimbulkan kerugian lewat tindakan mereka, dia sedang merasionalisasi tindakannya sendiri
    Sumbu penting lainnya adalah masalah generasi. Generasi Schmidt memegang kekuasaan politik dan ekonomi secara berlebihan. Orang muda hari ini tidak bodoh, dan mereka melihat apa yang sedang terjadi. Hidup mereka dikendalikan oleh orang-orang yang lebih tua, lalu mereka diberi tahu bahwa generasi muda harus menanggung ketidakamanan kerja, kesulitan ekonomi, teknologi distopis, dan krisis lingkungan. Sambil begitu, mereka berkata semua itu “terjadi begitu saja,” padahal semua orang tahu merekalah yang menciptakan keadaan itu. Wajar jika para mahasiswa mencemooh. Saya pun akan melakukannya