Semua aplikasi yang menambahkan AI terlihat seperti ini

• Aplikasi yang menempelkan fitur AI digambarkan secara satir membangun ekspektasi dengan layar splash raksasa dan kolom input yang samar, lalu berakhir mengecewakan pada hasil akhirnya
• Latar belakang perusahaan berlomba-lomba merilis fitur AI adalah demam investasi dan logika meniru, dan artikel Inc yang dikutip mengkhawatirkan situasi ketika perusahaan tahap seed menggalang dana 100 juta hingga 150 juta dolar hanya dengan pitch deck
• Fokus kritiknya bukan pada AI itu sendiri, melainkan pada pemasaran AI, dan ini dikontraskan dengan contoh seperti Google yang memakai AI di seluruh produknya tanpa memamerkannya
• “Magic Design” milik Canva dan label Beta dikritik sebagai cara membungkus hasil berkualitas rendah sebagai sesuatu yang “ajaib”
• Ungkapan seperti “AI-enabled assistant” justru bisa menurunkan kepercayaan, bahkan memicu penolakan kuat sampai rela membayar agar kata AI tidak muncul sama sekali

---

Pola berulang dalam onboarding fitur AI

• Aplikasi yang menambahkan AI pertama-tama menarik pengguna dengan halaman splash yang besar
• Setelah menekan “get started”, muncul gambar seolah seluruh planet bersinar menyambut momen “aha” pengguna, menciptakan harapan bahwa semuanya akan berubah
• Pada tahap berikutnya, pengguna diminta menjelaskan pekerjaannya, tetapi panduan tentang apa yang harus dimasukkan dan bagaimana menuliskannya sangat minim
• Bahkan prompt contoh pun dibuat berlebihan, seperti “buat kampanye pemasaran yang membuat orang bersemangat tentang internet baru, lengkap dengan maskot dan slogan”

Booming AI dan persaingan saling meniru

• Persaingan meluncurkan fitur AI diperlakukan sebagai race to the bottom
• Perusahaan melihat perusahaan lain membuat AI dan mendapatkan hype, lalu ingin ikut menumpang arus yang sama
• Contoh yang menyindir aplikasi meditasi menggunakan hiperbola seperti “Headspace AI” yang, alih-alih Calm.com dengan “meditasi 10 menit per hari”, membiarkan robot bermeditasi sebagai gantinya lalu memberi tahu pelajaran yang didapat
• Artikel Inc yang dikutip menyebut AI masih menarik bagi investor, tetapi juga merupakan area yang terlalu panas, kelebihan investasi, dan terlalu dinilai tinggi
  • Jason Corsello dari Acadian Ventures mengkhawatirkan situasi ketika perusahaan tahap seed menggalang 100 juta hingga 150 juta dolar hanya dengan pitch deck
  • Oded Shenkar dari Ohio State University mengatakan bahwa dalam demam emas, peniruan akan meningkat, dan memandang startup selalu sebagai inovator adalah kekeliruan yang umum

Aplikasi yang memakai AI dengan baik vs aplikasi yang menjadikan AI sebagai jualan utama

• Tidak semua penggunaan AI ditolak
• Google dijadikan contoh kontras: AI ada di seluruh produknya, tetapi tidak diarak seperti anak kecil yang memamerkan sepatu baru yang menyala
• Sebaliknya, Canva dikritik karena mempromosikan “Magic Design (TM)” bahkan dengan label Beta
• Beta disindir sebagai cara industri teknologi mengatakan “kurang bagus” secara halus

Penolakan terhadap bungkus “Magic”

• Sasaran kritik utamanya adalah pemasaran yang menyebut hasil AI sebagai “magic”
• Gambar “fairy cat” yang dihasilkan digambarkan bukan sebagai hasil keren yang diharapkan, melainkan seperti peri pohon yang memakai LSD dan speed lalu menggambar dengan gaya komputer
• Contoh magic yang sesungguhnya adalah adegan sulap yang benar-benar membuat orang takjub, dikontraskan dengan penggunaan kata “magic” dalam pemasaran AI

Respons nyata terhadap pemasaran aplikasi

• Saat melihat frasa “now with AI-enabled assistant” di situs web, muncul dorongan untuk menghindari aplikasinya, bahkan sampai ingin melempar komputer ke luar jendela
• Jika kata AI muncul di sebuah aplikasi, itu memicu reaksi berlebihan seolah seluruh sistem sudah terkontaminasi “AI-disease” dan tidak akan pernah nyaman dipakai lagi
• Jika ada opsi yang membuat kata AI tidak muncul di mana pun dalam aplikasi, penulis mengatakan akan membelinya sebagai tier premium
• Ditutup dengan lelucon pribadi bahwa nama Alex dipanggil Al oleh teman-temannya, sehingga “AI Magic” terdengar seolah dirinya adalah sihir atau aplikasinya memakai sihir miliknya

[GN⁺]

Pendapat di Hacker News

• Proyek pribadi yang sempat jadi bahan pembicaraan: https://meat-gpt.sonnet.io
  Sebagian besar trafik datang dari orang-orang yang percaya ini proyek sungguhan, karena katalog-katalog tool AI terus berhalusinasi membuat teks pengantar untuk produk AI saya
  Hampir saja menang penghargaan, tapi kalah dari situs sandwich berputar 3D. Meski begitu, saya bertemu seseorang yang beralih dari startup ke pembuatan beef jerky, lalu terbentuklah komunitas kecil dan eksklusif bernama “meatverse”
  Saya juga membuat https://butter.sonnet.io, dan orang-orang bilang mau membayar. Mungkin saya harus memonetisasi ladang konten abad pertengahan dengan native ad berhuruf blackletter: https://tidings.potato.horse

  • Ironisnya, Butter benar-benar keren, dan tepat sesuai dengan hal yang secara berkelanjutan bisa dilakukan dengan baik oleh AI generatif: membaca banyak teks atas nama pengguna—dalam hal ini subtitle video—lalu mengekstrak insight terstruktur dan tidak terstruktur agar mengarah ke pengalaman yang lebih kaya. Saya sendiri mungkin akan membayar untuk itu
    https://github.com/paprikka/butter/blob/main/src/watcher/detector.ts#L10-L33
    Namun poin tulisan asli, dan mungkin juga poin meat-gpt, adalah bahwa kalau sejak awal sebuah aplikasi meminta pengguna memasukkan banyak teks tidak terstruktur secara real-time, itu paling tidak merepotkan, dan juga bertentangan dengan naluri untuk menunjuk sesuatu yang keren, melihatnya berubah, lalu membagikannya dengan orang-orang nyata
    AI itu hebat ketika mengurangi mengetik, membaca, dan menonton iklan yang tidak relevan, serta menambah waktu untuk melihat hal-hal relevan yang membuat kita berkata “oooh”
  • Proyek-proyeknya bagus dan pengerjaannya juga luar biasa
    Tapi di sini saya senang karena diingatkan kembali pada .horse. Saya ingat belum pernah melihatnya lagi sejak masa kuliah, ketika saya dan teman-teman membeli domain secara impulsif lalu memasang halaman statis dengan gambar acak sebagai latar berulang
  • Saya suka UI proyek-proyek ini, dan menyukai estetika minimalisnya
    Kalau boleh tahu, saya penasaran dengan stack teknologinya. Frontend-nya terlihat seperti Svelte
  • Saya ingin menyukai ladang konten abad pertengahan itu, tapi font-nya palsu
    Bahkan tidak memakai long s yang benar, yaitu ſ: https://en.wikipedia.org/wiki/Long_s
  • meat-gpt juga keren, tapi sekarang saya lebih ingin melihat situs sandwich berputar 3D yang mengalahkannya
    Ada tautannya?

• Ini mengingatkan saya pada Electric Monk dari Dirk Gently karya Douglas Adams
  “Electric Monk adalah perangkat penghemat tenaga seperti mesin pencuci piring atau perekam video. Mesin pencuci piring mencuci piring-piring membosankan untuk Anda, sehingga Anda tidak perlu repot mencucinya sendiri; perekam video menonton televisi membosankan untuk Anda, sehingga Anda tidak perlu repot menontonnya sendiri. Electric Monk percaya untuk Anda, sehingga Anda tidak perlu menanggung pekerjaan yang makin memberatkan, yaitu mempercayai semua hal yang diminta dunia untuk Anda percayai.”
  Bagian yang sangat pas adalah bahwa Electric Monk ini rusak lalu mulai mempercayai segala macam hal secara hampir acak, bahkan hal-hal yang sulit dipercaya sekalipun di Salt Lake City

  • Begitu membaca “Cobalah Headspace AI. Salah satu robot kami akan bermeditasi untuk Anda dan memberi tahu pelajaran yang dipetiknya,” saya langsung teringat Electric Monk
    Anehnya, dalam ingatan saya, perangkat itu seperti alat yang menonton televisi untuk kita

• Kereta hype di industri teknologi ada persis seperti dunia gelap skema pemasaran berjenjang. Saya punya cukup banyak pengalaman di sana karena klien-klien lama
  Yang dijual tidak penting; yang penting hanyalah apakah kereta hype itu bisa melewati cukup banyak orang sehingga mereka dapat mencairkan “investasi” mereka
  Setiap putaran investasi adalah pencairan bagi peserta sebelumnya, dan putaran terakhir adalah IPO, sehingga publik awam yang menanggung kantong kosongnya
  Seperti piramida pemasaran berjenjang, produk atau layanan kadang memang bernilai bagi sebagian orang, tetapi pada praktiknya dijual juga ke mayoritas besar yang sebenarnya tidak membutuhkannya
  Beberapa tahun lalu Anda harus memasukkan BLOCKCHAIN di suatu tempat dalam rencana bisnis, sekarang harus memasukkan AI. Orang-orang bersemangat pada hal yang tidak mereka pahami atau bahkan hanya imajiner, jadi Anda bisa saja menjual mimpi, tetapi jangan sampai tertipu oleh hype Anda sendiri

  • Tepat sekali
    Saya sudah naik tiga kereta hype: dot-com, cloud, dan AI sekarang; saya melewatkan w3/kripto
    Namun saya jarang melihat kereta hype seperti ini di bidang lain di Amerika atau di dunia

• Saya bekerja di perusahaan Fortune 500, dan salah satu eksekutif teknologi senior kami masuk Top 100 bidang AI versi Business Insider
  Perusahaan kami tidak punya produk yang memakai AI, dan hal yang paling dekat dengan AI sebenarnya hanyalah uji coba GitHub Copilot dalam skala sangat kecil

  • Saya pernah bekerja dengan seseorang 15 tahun lalu dalam proyek NGO di Afrika
    Proyek-proyek itu masih berupa prototipe, proof of concept, sedang diuji, atau berskala kecil, dan sejujurnya orang itu juga bukan manajer yang lebih banyak bertindak daripada bicara, jadi menurut saya kontribusi nyatanya tidak banyak
    Meski begitu, tahun berikutnya ia masuk Top 100 majalah Time dengan alasan “menyelamatkan jutaan anak”, dan saat itulah saya menyadari realitas media
  • Mungkin bisa membuat perusahaannya ketahuan, tapi kalau memungkinkan, saya penasaran teks pengantar apa yang dipasang sebagai alasan ia masuk daftar itu
    Alasan sebenarnya mungkin “punya humas yang punya koneksi bagus di Business Insider”, tetapi mengetahui alasan muluk yang ditampilkan di luar sepertinya bisa cukup mengungkap banyak hal
  • Daftar-daftar seperti itu semuanya aktivitas marketing, bukan?

• Popup “komedi absurd dan jujur yang dikirim sekitar dua kali seminggu lewat esai pribadi yang rentan, masukkan email Anda…” kebetulan muncul menimpa prompt “Apa yang menghambat Anda” pada gambar kedua
  Untuk beberapa saat saya tidak sadar bahwa itu bukan bagian dari gambar. Setidaknya halaman AI fiktif itu masih membuat kita mengklik sesuatu sebelum meminta informasi pribadi

  • Saya melihat modal bodoh muncul setiap kali menggulir di tiap halaman Substack, dan saking menyebalkannya jadi saya menghindarinya kalau bisa
    Saya sempat terpikir membuat semacam ekstensi Chrome yang menutupnya otomatis, tapi sekarang rasanya sebagian besar bahkan tidak layak diklik
    Seperti yang telah dilatih internet kepada kita untuk semua modal, saya langsung menutupnya tanpa membaca. Kalau ingin perhatian saya, taruh ajakan bertindak di dalam teks yang sedang saya baca
    Memunculkan modal yang meminta email di tengah konten terasa seperti sinyal bahwa mereka tidak menghargai kontennya dan menulisnya untuk mendapatkan informasi saya
  • Saya juga begitu. Saya kira penulisnya sedang membuat lelucon sadar diri tentang orang-orang di Substack yang mempromosikan diri habis-habisan, ternyata bukan
  • Sepertinya perlu melatih AI untuk otomatis mengklik tautan “continue reading”

• Perusahaan-perusahaan sedang mencoba banyak hal dengan cara melempar sampah ke dinding untuk melihat apa yang menempel, dan anehnya investor memberi imbalan untuk itu
  Jelas bisa membuat fitur berguna dengan LLM, tapi ada hal yang harus disadari dulu oleh perusahaan
  Dibutuhkan usaha lebih besar daripada sekadar menaruh satu frontend LLM di atas produk, dan kemungkinan besar itu juga bukan fitur “disruptif” yang gemerlap
  Membuat pengalaman pengguna 5% lebih mudah dan efisien saja sudah bernilai besar, tapi fitur yang hanya melakukan itu tidak akan dijual dengan napas memburu oleh para influencer AI
  Yang terpenting, sebelum memikirkan solusi, pikirkan dulu masalah yang akan dipecahkan

  • Sepertinya harus dilihat sebaliknya. Investor melempar banyak uang ke AI untuk melihat apa yang menempel, dan jurnalis melempar banyak perhatian ke AI untuk melihat apa yang menempel
    Perusahaan-perusahaan mulai menyadari betapa mudahnya naik ke panggung itu
    Baru-baru ini saya berbicara lebih dari satu jam dengan kepala engineering sebuah startup yang baru keluar dari stealth mode, membahas pekerjaan, pasar, tantangan teknis, dan struktur tim, tapi AI tidak pernah disebut sekali pun
    Namun kalau masuk ke situs webnya, penuh dengan kalimat “memperkuat _____ Anda dengan AI canggih”
  • Bukankah model startup itu sendiri memang eksperimen cepat, melempar sesuatu ke dinding untuk melihat apakah ada yang menempel?
    Kata “ventura” dalam modal ventura juga sangat cocok dengan makna itu
    Sejujurnya saya tidak tahu apakah ada cara lain agar ini bekerja
  • Saya kira kita sudah melewati fase uang bodoh dan masuk ke fase profitabilitas dan penghematan
    Rupanya masih ada lebih banyak uang untuk dibakar
  • Kalau ada tambang emas dan semua orang berbondong-bondong ingin mendapat bagian, mustahil memprediksi siapa yang akan paling berhasil
    Karena hasilnya tidak pasti, strategi yang dipakai adalah berinvestasi pada siapa pun yang benar-benar bergerak di tambang emas itu
    Tentu saja dalam praktiknya efek jaringan berperan lebih dulu, jadi orang cenderung lebih memilih berinvestasi pada orang yang mereka kenal serta punya rekam jejak dan kemampuan menciptakan kekayaan
    Jadi aktif bergerak di tambang emas dan mendapat imbalan dari investor itu sendiri tidak salah, dan ada rasionalitas yang cukup jelas di sana
  • Ini terjadi di setiap siklus hype
    Metaverse sekitar setahun lalu, beberapa omong kosong kripto sebelum itu, dan sebelum itu ada teman lama kita, AI
    Pernah ada periode singkat ketika semuanya berpura-pura menjadi chatbot AI demi mendapatkan dana ventura, dan gelembung AI terakhir itu nyaris mati bersamaan dengan peluncuran Microsoft Tay

• Perasaan saya terhadap hype AI persis seperti ini
  Saya sudah cukup lama berkecimpung di bidang “AI”, dan hype itu merusak karena menciptakan ekspektasi yang sepenuhnya tidak realistis baik soal kegunaan alat maupun biayanya

• “Beri aku tos enam” itu lelucon yang bagus. Apalagi mengingat neural network terkenal lemah dalam menghasilkan tangan yang meyakinkan

  • Gambar bola kristal masa depan dengan tiga jari benar-benar menjadi pukulan pamungkas
    Saya merasakan hal yang sama seperti penulis. Menempelkan “AI” pada aplikasi terasa seperti sinyal bahwa ini sales murahan yang ingin cepat-cepat menjual barang cacat demi membayar tunjangan mantan bulan ini
    Machine learning itu sendiri baik-baik saja dan berguna. Tapi “tempelkan saja satu LLM di atasnya” terasa menyakitkan karena begitu tumpul
    Sekarang semua produk dan layanan teknologi melakukan itu, jadi rasanya benar-benar seperti demam kripto datang lagi
  • Saya juga tertawa, tapi kalau sudah melihat model-model SDXL terbaru di Civitai, masalah tangan dan jari sudah cukup banyak diperbaiki
    Sebagian gambar generatif belakangan ini cukup realistis

• Sungguh mengejutkan bahwa begitu banyak uang mengalir ke penipuan AI, sementara para maintainer pahlawan kecil yang memelihara tool AI generatif di GitHub hampir tidak mendapat pendanaan
  Ada pengecualian seperti TheBloke yang mendapat sponsor untuk model kuantisasi atau GGML yang mendapat seed investment, tetapi pihak seperti InvokeAI, VoltaMl, koboldcpp/artbot dan AI Horde, Petals, serta developer ControlNet seharusnya kebanjiran uang, namun pada kenyataannya burnout dengan nyaris tanpa apa pun
  Pasti ada jauh lebih banyak contoh yang tidak saya ketahui

  • Bukankah pada hype blockchain akhirnya juga begitu?
    Para bro kripto kabur membawa uang, sementara beberapa developer membangun sedikit demi sedikit di GitHub dengan sedikit atau tanpa pendanaan
    Perbedaan besarnya adalah jauh lebih sedikit orang yang membela hype AI, dan secara umum penerapan LLM dilihat jauh lebih kritis dan realistis
  • Jangan beri tahu orang awam soal ini. Saat ini mereka secara mengejutkan masih mudah diajak bicara atau diajak bekerja sama
    Alasan lain mereka berada di bawah radar adalah karena cukup banyak dari tipe orang seperti itu punya sisi yang agak membuat tidak nyaman
    Misalnya Automatic1111 juga terkenal karena mod Rimworld yang rasis, secara aktif memasukkan 4chan dalam kredit developer, dan memakai Ho Chi Minh sebagai foto profil GitHub. Bisa jadi dia orang Vietnam, komunis aneh, atau mungkin keduanya
    Secara realistis, banyak inovasi AI dibuat oleh orang-orang berfoto profil anime di Discord, dan alasan mereka terobsesi dengan ini lebih dekat dengan mengejar dopamin. Namun hampir tidak ada orang di luar bidang ini yang tahu

• Saya kira orang-orang di industri teknologi dan di balik semua “semangat kewirausahaan” ini akan lebih rasional dan punya akal sehat, tetapi kenyataannya tampaknya sampah bisa dijual kepada siapa saja
  Rasanya pahit melihat influencer sampah seperti ini mendapat perhatian begitu besar di Twitter
  Meski begitu, di tengah banjir opini dan saran fiktif ini, ini menjadi filter yang bagus untuk memilah siapa yang sebaiknya tidak didengarkan

  • Tentu saja ada banyak orang dari industri teknologi juga, tetapi sebagian masalahnya adalah sekarang pedagang mencurigakan mana pun di jalan bisa berkata, “Saya membuat produk AI, lihat!”
    Secara pribadi saya sempat mengenal beberapa orang seperti itu, dan setengah dari mereka bahkan tidak benar-benar memahami apa yang mereka lakukan; mereka hanya mengikuti tutorial YouTube untuk melakukan konfigurasi
    Apa yang mereka sebut “produk AI” sebenarnya hanyalah bot yang terhubung ke suatu API dan diberi system prompt yang sangat rapuh, tetapi mereka merasa semua orang harus kagum hanya karena mereka memasangnya dengan mengikuti tutorial