Penipuan AI Generatif (Con)

• Sudah lebih dari dua tahun sejak ChatGPT dirilis, dan model bahasa besar (LLM) telah berkembang dari konsep inovatif menjadi salah satu penipuan terbesar abad ke-21
• CEO OpenAI, Sam Altman, telah menggelembungkan gelembung ini untuk menjual LLM ke ekonomi yang ingin mengeksploitasi atau menggantikan tenaga kerja
• LLM memang punya kasus penggunaan seperti coding atau pencarian, tetapi hanya karena sebagian orang memakai perangkat lunak berbasis LLM bukan berarti AI generatif adalah industri nyata yang berkelanjutan atau bernilai triliunan dolar
• Percakapan seperti ini sudah terlalu membosankan, jadi saya akan menuliskan beberapa bantahan agar tidak perlu mengatakannya lagi
• "Ed" merujuk pada penulisnya sendiri, Edward Zitron

“Ed, ada banyak jenis kecerdasan buatan”

• “Saya juga sudah tahu” Saya sedang membicarakan “Generative AI” sekarang

“Ed, ChatGPT punya 300 juta pengguna. Bukankah ini berarti industrinya sudah cukup terbukti?”

• “Banyaknya pengguna tidak menjamin keberlanjutan pasar yang nyata” ChatGPT terlalu dibesar-besarkan oleh berbagai liputan media, dan ada sejumlah tanda tanya yang bertabrakan dengan statistik yang sebenarnya
• “3 juta atau 300 juta, angka itu sendiri tidak membuktikan apa pun” 300 juta pengguna hanyalah sesuatu yang bisa terjadi ketika produk yang paling banyak dibicarakan dibuka gratis
• “Jika melihat metrik spesifik seperti rasio konversi pengguna bulanan menjadi pelanggan berbayar, kemungkinan justru bisnisnya lemah” Karena itu, sulit mempercayai jumlah pengguna semata secara mutlak

“Ed, ChatGPT masih di tahap awal. Kalau ditunggu bukankah akan jadi lebih baik?”

• “Sudah lebih dari dua tahun investasi dan perhatian besar digelontorkan” Riset berbasis Transformer juga sudah dimulai sejak 2017, dan miliaran dolar telah dikucurkan
• “Meski begitu, masih belum ada ‘killer app’ yang benar-benar menonjol” Belum ada kasus penggunaan yang langsung jelas dan luas seperti cloud computing atau smartphone
• “Hampir tidak ada startup yang pernah mendapat perhatian publik sebesar ini, tetapi hasil nyatanya tetap kurang jelas” Lebih dari dua tahun investasi dan promosi terkonsentrasi, tetapi produk yang wajib dipakai semua orang masih belum terlihat

“Ed, ChatGPT adalah momen iPhone bagi AI generatif. Bukankah ini mungkin peluncuran software terbesar dalam sejarah?”

• “iPhone membalik konsep ponsel dan komputer, tetapi ChatGPT tidak” Tidak seperti industri baru yang luas dan diciptakan iPhone, tidak terlihat layanan esensial yang lahir karena AI generatif
• “Kalau besok ChatGPT hilang, apakah kehidupan sehari-hari akan terpukul besar?” Penulis menilai dampaknya bagi ‘mayoritas orang’ akan kecil
• “Bahkan ‘pendapatan AI’ Microsoft bukan laba nyata, melainkan penjumlahan luas dan samar” Perusahaan teknologi besar mengusung AI, tetapi pada akhirnya itu belum menghasilkan keuntungan yang jelas atau inovasi menyeluruh di industri

“Ed, pada akhirnya bukankah masalah ini akan terselesaikan suatu saat?”

• “Saya ingin bertanya kapan itu akan terselesaikan” Baik OpenAI maupun Anthropic membakar miliaran dolar per tahun tanpa model penciptaan pendapatan yang jelas
• “Klaim mereka (‘biayanya akan turun’ ‘beberapa tahun lagi akan berbalik untung’) hanyalah proyeksi internal perusahaan” Secara nyata, cara penyelesaiannya tidak konkret
• “Patut dipertanyakan apakah struktur seperti ini, di mana Anthropic atau OpenAI terus membakar uang sambil menggadaikan masa depan, bisa terus berlangsung”

“Ed, sebenarnya kita ini sedang melakukan apa?”

• “OpenAI dan Anthropic sama-sama mencatat kerugian besar, tetapi mengatakan sekitar 2027 mereka akan untung” Namun dasar konkretnya lemah
• “Dario Amodei (Anthropic) mengklaim bahwa pada 2027 semuanya akan menjadi mungkin, tetapi jalur konkretnya tidak jelas” Ini dipandang hanya sebagai optimisme berlebihan
• “Menurut dokumen perusahaan, bidang seperti pendapatan API adalah kunci, tetapi diragukan apakah itu saja bisa menutup miliaran dolar”
• Singkatnya, tulisan ini melemparkan pertanyaan mendasar: “Apakah industri AI generatif benar-benar berkelanjutan dan bermakna?”

“Ed, sebenarnya apa yang dilakukan para idiot ini?”

• “Semua orang terpaku pada model ‘Reasoning’, ‘Chain-of-thought’, dan fitur-fitur canggih serupa, tetapi apakah itu benar-benar menghasilkan perubahan inovatif masih diragukan” Model open source seperti DeepSeek juga muncul, sehingga persaingan makin ketat
• “Fitur baru OpenAI, ‘Deep Research’, mencari bahan di web lalu membuat laporan, tetapi keandalan sumbernya rendah dan sering mengutip berulang, sehingga nilai guna nyatanya rendah” Secara praktik, sulit menyebutnya sebagai ‘riset’
• “Produk AI generatif seperti ini secara umum berat dan mahal, dan pada akhirnya hanya menghasilkan ‘output’ yang panjang dan terdengar meyakinkan”

“Ed, rasanya saya bisa gila”

• “Banyak media dan investor berbicara seolah AI generatif akan segera membalik segalanya, tetapi kualitas produknya dangkal dan pendapatannya minim”
• “CEO perusahaan menakut-nakuti bahwa AI akan menggantikan pekerjaan, tetapi bukti nyatanya lemah” Ini terlihat hanya sebagai pembesar-besaran untuk mengerek harga saham
• “Ketika gelembung ini pecah, dampaknya akan lebih besar daripada gelembung dot-com” Argumennya, yang membesar justru efek samping seperti pemborosan investasi besar, sumber daya lingkungan dan infrastruktur, serta kecemasan kerja masyarakat
• “Benarkah ini masa depan, atau hanya pertunjukan penipuan raksasa?”
  • “Killer app” yang nyata dan bermakna masih belum terlihat, dan perusahaan-perusahaan pun berada dalam situasi menanggung biaya besar sambil merugi
  • Dibandingkan liputan media dan promosi perusahaan, nilai yang benar-benar terasa tidak besar, dan keberlanjutan jangka panjangnya juga dipertanyakan
  • Secara keseluruhan, penulis menilai pasar AI generatif saat ini lebih dekat ke ‘Con’ (penipuan)

[ifmkl]

Kalau model penalaran dipakai dengan benar, hasilnya luar biasa besar.. Dia bisa bikin test case sendiri lalu menjalankannya, mengusulkan teknik optimasi lalu menerapkannya, pokoknya benar-benar heboh.

[dicebattle]

Kalau dalam kasus saya, cara mencari dan mempelajari hal-hal yang belum saya ketahui sudah berubah total, dan bukan hanya dalam menulis kode, tetapi juga dalam cara menetapkan arah teknis sebuah proyek; saya bekerja dengan kecepatan dan cara yang sama sekali berbeda dibandingkan 6 bulan lalu. Peningkatan produktivitas jelas tidak perlu diragukan lagi.

Bahkan sampai sekitar 1 tahun yang lalu, kalau melihat orang di sekitar yang sangat memuja kode buatan AI, di kepala saya mungkin akan muncul sekitar 200 tanda tanya, jadi perubahan belakangan ini benar-benar mengejutkan.
Kalau dibalik, dibanding AI, justru smartphone itu cuma telepon yang ditempeli browser web, memangnya ada yang istimewa?

[hhcrux]

Kalau dipakai langsung, memang kadang terasa seperti semacam peramal.
Orang yang kebetulan mendapat hasil bagus jadi kagum lalu mempromosikannya ke mana-mana, sementara banyak yang menerima jawaban yang tidak memuaskan atau bahkan sama sekali salah cenderung menganggap ya memang masih sebatas itu lalu berlalu begitu saja...

[savvykang]

Bahkan jika perasaan dan reaksi yang tampaknya lelah oleh sensasi berlebihan (hype) dan FOMO dikesampingkan, saya rasa tetap ada cukup banyak implikasi tentang bagaimana kita menyikapi teknologi baru.

1. Membedakan AI: algoritme/logika, pembelajaran mesin, analisis bahasa alami, pembuatan teks/gambar/video/suara
2. Keberlanjutan sektor industri AI
3. Efisiensi biaya dan utilitas yang diharapkan dari sudut pandang pengguna AI

[savvykang]

Saya teringat sebuah artikel yang merekam gambaran zaman pada 1980-an hingga 1990-an ketika teknologi otomatisasi pencucian mulai diperkenalkan, jadi saya kutip tambahan ini.

Jika ini adalah masa sekarang, ketika bahkan smartphone yang dipenuhi segala macam fitur otomatis pun tidak lagi diberi embel-embel komputer, mungkin itu akan просто disebut mesin cuci otomatis penuh. Namun pada saat itu, untuk otomatisasi proses mencuci, tampaknya tidak ada kata selain komputer yang bisa menggambarkannya secara nyata. Pemilik laundry, konsumen, bahkan iklan pun membagikan pemahaman itu.

Mengenai fenomena ini, dalam sebuah kolom Harian Hankyoreh tertanggal 27 November 1991 berjudul "Para pasien yang menganggap komputer mahakuasa", disebutkan bahwa "seiring merebaknya demam komputer di negara kita, bahkan tempat laundry pun harus menempelkan tulisan 'cuci komputer' agar dagangannya laku."

https://m.imaeil.com/page/view/2019101522053521827

[gooksangom6394]

Ah, jadi itu sebabnya ada toko-toko dengan nama seperti pembersihan cuci komputer. Menarik juga.

[dbs0829]

Saya setuju dengan sebagian isinya dan juga merasa ada beberapa bagian yang dilebih-lebihkan, tetapi tulisannya terasa terlalu agresif. Rasanya seperti kesimpulannya sudah ditentukan sejak awal lalu pembahasannya diarahkan ke sana.

[xguru]

> Ed terkadang menyampaikan poin yang bagus, tetapi dia sangat marah pada perusahaan teknologi besar, dan kemarahannya sering kali mengganggu pesannya

Saat membaca komentar Hacker News di bawah ini, ingatlah kalimat ini. haha
Kalau melihat alat pengembangan akhir-akhir ini, dari sudut pandang developer rasanya killer app sudah cukup banyak muncul, tetapi dari sudut pandang non-developer saya juga merasa wajar kalau mereka bisa melihatnya seperti itu.

[youknowone]

Sungguh disayangkan membaca tulisan yang, ketika matahari sudah mulai terbit dan fajar merekah, masih bertanya apa yang membuat ini lebih baik daripada lentera.

Kalau ada satu hal yang saya setujui dari penulis, saya juga tidak akan bertaruh pada kemenangan OpenAI, kemenangan Anthropic, kemenangan xAI, maupun kemenangan Google atau MS. Apakah perusahaan tertentu akan menghasilkan uang atau tidak adalah hal yang sangat tidak pasti.

Namun, dalam beberapa tahun ke depan, jelas tak akan mungkin dicegah bahwa produktivitas semua kerja intelektual akan meningkat tajam. Apakah itu akan berjalan di perangkat lokal atau di server jarak jauh, apakah akan berfungsi gratis atau berbayar, saya tidak tahu. Tetapi, bahkan jika semua perusahaan AI saat ini gagal menghasilkan keuntungan dan berakhir sebagai pihak yang kalah, perubahan dunia yang terjadi berkat modal investasi mereka tidak akan lenyap. Entah mereka mencetak laba pada 2027 atau bangkrut, dunia tetap berubah.

[ethanhur]

Ini komentar yang sangat saya setujui. Saya sudah jadi orang yang tidak bisa ngoding tanpa Cursor.

Namun, saya masih melihat masalah efisiensi biaya AI sangat besar, jadi saya juga tidak bertaruh pada kemenangan perusahaan mana pun.

[huiya]

Wah, sekarang saya sudah jadi orang yang tidak bisa ngoding tanpa AI....

[GN⁺]

Pendapat Hacker News

• Jika Android atau iPhone saya hilang, saya akan merasa seperti melakukan perjalanan waktu kembali satu abad. Jika Google Search hilang, saya tidak akan bisa bekerja lagi. Jika cloud hilang, saya tidak akan bisa membuat aplikasi lagi. Tidak ada solusi selain pergi ke perpustakaan

  • Jika turunan seperti ChatGPT atau Copilot hilang, itu hanya akan sedikit merepotkan. Saya akan membaca dokumentasi dan menulis kode sedikit lebih lambat lalu tetap lanjut. Sebenarnya, saya sudah beberapa kali melakukan itu (Copilot with GPT-3.5, Cursor, Copilot with GPT-4, Zed with Claude, dll.)
  • Jika sudah lama berada di Silicon Valley, Anda pasti sudah melihat beberapa siklus hype. AI adalah siklus terbaru. Ini bukan berarti AI adalah penipuan, tetapi memang ada kecenderungan untuk membesar-besarkan dan membuat klaim berlebihan demi penjualan
  • AI terutama dipakai untuk menulis teks dan kode. Untuk benar-benar mengintegrasikannya ke workflow di seluruh pasar, itu akan butuh waktu
  • Artikel bagus yang tidak terlalu pesimistis atau optimistis adalah The AI Summer dari Benedict Evans. Ia berargumen bahwa perusahaan-perusahaan besar sangat bersemangat, tetapi adopsi nyatanya masih rendah
  • "LLM itu sendiri bukanlah produk - ia adalah teknologi yang memungkinkan alat atau fitur, dan harus dipisah atau dikemas ulang dengan framework, UX, dan alat baru agar menjadi berguna. Ini membutuhkan lebih banyak waktu"

• Saya agak terkejut melihat begitu banyak reaksi negatif terhadap LLM di kalangan developer. Sebagai alat baru, memang perlu dipelajari dan kadang tidak begitu bagus, tetapi siapa pun yang pernah memakai IDE dengan bantuan coding nyata yang tertanam di dalamnya (misalnya mode Copilot di VS Code - bukan mode Chat, memakai Claude 3.5), sejujurnya hasilnya tidak jauh lebih buruk dari developer junior dan 100 kali lebih cepat. Jika kodenya buruk, Anda bisa membuangnya dan mencoba lagi 10 detik kemudian. Sebagai developer yang sangat berpengalaman, peningkatan kecepatannya luar biasa. Enam bulan lalu ini masih mengerikan. Saya penasaran akan seberapa bagusnya dalam 1 atau 2 tahun lagi. Memang belum bisa menjalankan unit test, membaca error konsol, atau mengakses petunjuk IDE, tetapi tetap menghasilkan kode yang sebagian besar benar. Jika integrasinya makin dalam, ini akan terus membaik

• Kalau hype dan anekdot dikesampingkan, GenAI sudah berada di tempat yang sama selama beberapa bulan. "Hal besar" yang bisa mereka lakukan adalah membuat model bahasa besar "berpikir" dengan memakai "reasoning"

  • Ada perubahan paling menarik di bidang GenAI selama 18 bulan terakhir yang terlewat
  • Multimodal: LLM sekarang bisa mengonsumsi gambar, audio, dan (sampai tingkat tertentu) video. Ini peningkatan besar dibanding model 2023 yang hanya teks, dan membuka banyak aplikasi baru untuk teknologi ini. Saya memakai model gambar dan audio setiap hari (ChatGPT Advanced Voice)
  • Panjang konteks. GPT-4 bisa menangani 8.000 token. Model terdepan saat ini hampir semuanya sudah 100.000+, dan model terbesar menangani 1 juta atau 2 juta token. Ini membuat mereka jauh lebih berguna
  • Biaya. Model bagus saat ini 100 kali lebih murah daripada model era GPT-3 dan jauh lebih mumpuni

• Arah besarnya sudah benar

  • Menurut saya, GenAI adalah asisten. Copilot secara efektif membuat template
  • Saya bisa membaca email dan memeriksa nadanya dengan ChatGPT
  • Claude bisa memberi komentar tentang perlengkapan kamera
  • Claude sangat bagus dalam pengenalan gambar untuk benda-benda langka
  • Yang makin saya yakini adalah bahwa API /completions pada dasarnya hanya +10% atau helper kikuk
  • Saya tidak butuh agen yang kurang pintar daripada intern yang membuat kekacauan dengan cepat di codebase saya, dan kurang lebih itulah yang dilakukan alat pembuat kode
  • Saya pernah melihat startup mobil otonom menggunakan jaringan saraf GPT untuk mengenali gambar saat berkendara. Saya menilai use case itu sangat menjanjikan
  • Saya berani bilang tesis pekerjaan omong kosong dari Shirky sedang terbukti, karena jika AI yang berhalusinasi bisa melakukannya...
  • Bagaimanapun juga
  • Saya rasa hal-hal dasar tidak membenarkan pengeluaran sebesar itu. Terlalu banyak kebencian, tetapi hype-nya juga terlalu berlebihan

• Ini salah satu tulisan paling berat sebelah yang pernah saya baca. Selama berbulan-bulan Ed memprediksi bahwa gelembung AI akan pecah "sebentar lagi" dan sering mengutip pendapatan perusahaan AI sebagai tanda bahwa produknya tidak layak dijalankan. Padahal valuasinya terutama didasarkan pada kemajuan R&D, bukan pada teori bahwa adopsi luas produk yang ada saat ini akan meningkat. Saya rasa situasi sekarang harus dilihat sebagai persaingan R&D antar pelaku individual

• Pertanyaan tentang apa yang sebenarnya telah dilakukan GenAI dan di mana produknya

  • Produknya sebenarnya adalah ChatGPT
  • Jika LLM adalah bubble, kita seharusnya mengharapkan sebagian besar pendapatan OpenAI berasal dari API (yang dipakai startup-startup yang menggalang dana untuk melakukan "pekerjaan AI ajaib", dan bubble itu akan pecah jika investor berhenti memberi uang). Tetapi menurut https://futuresearch.ai/openai-revenue-report, pendapatan dari API hanya 15%, sedangkan 85% sisanya berasal dari berbagai penawaran langganan, khususnya langganan ChatGTP Plus yang mencakup 55% - artinya, konsumen langsung
  • Ini memang tidak membuktikan bahwa ini bukan bubble (konsumen bisa saja sadar nanti bahwa itu tidak berguna lalu pergi), tetapi itu mengurangi kemungkinannya

• Ed kadang membuat poin yang bagus, tetapi dia sangat marah pada perusahaan teknologi besar, dan kemarahannya sering mengganggu pesannya

  • Membaca komentarnya yang terbaru mengingatkan saya pada saat Karl Denninger mengecam Google ketika IPO Google dan berargumen bahwa Google tidak akan pernah menghasilkan uang yang cukup untuk membenarkan harga saham $85 (jika saat itu berinvestasi $1000, hari ini nilainya sekitar $375.000)

• Sebagian besar masalah kita berasal dari kenyataan bahwa orang bisa membangun "perusahaan" dengan model bisnis yang merugi sampai mereka berhasil mencuci otak semua orang agar percaya "produk" itu bagus. Di dunia yang normal, perusahaan-perusahaan seperti ini akan gagal dan AI akan terus berkembang selama bertahun-tahun atau puluhan tahun lewat kegagalan kecil dan keberhasilan kecil. Sebaliknya, karena segelintir orang kaya bersedia berjudi, hal-hal absurd pun bermunculan

• Dan tetap saja belum ada killer app! Tidak ada produk yang disukai semua orang, tidak ada momen iPhone

  • Saya akan dengan tegas berargumen bahwa coding assistant adalah killer app pertama AI. Copilot, Cursor, Windsurf, dll.