Akhir dari Frontier

• Pengumuman Mythos oleh Anthropic menandai bahwa internet bukan lagi ruang kreasi tanpa izin yang bisa dijelajahi bebas oleh siapa pun
• Ketika tenaga kerja dan kecerdasan digantikan oleh modal, struktur yang memberi segelintir perusahaan keunggulan permanen di era AI semakin mengeras
• Kebijakan model tertutup dan pembatasan akses API diklaim demi keamanan, tetapi pada saat yang sama melemahkan inovasi dan riset keselamatan
• Prinsip dasar akses terhadap kecerdasan haruslah ‘akses terlebih dahulu’, dan perusahaan harus memastikan prosedur yang transparan serta dapat diaudit
• Perlu mewaspadai struktur ekstraksi nilai yang kolonial, ketika model yang dilatih dengan data seluruh umat manusia dimonopoli oleh segelintir pihak, serta menjaga keterbukaan dan kreativitas internet

---

Akhir dari Frontier

• Pengumuman Mythos oleh Anthropic menandai bahwa internet bukan lagi ruang tanpa izin tempat siapa pun bisa bebas menjelajah dan berkarya
  • Di masa lalu, tanpa modal atau koneksi pun siapa saja bisa mengakses infrastruktur teknis yang sama di internet, tetapi kini kesenjangan antara model terbuka dan model tertutup makin melebar
  • Ini dianalogikan sebagai berakhirnya peluang, mirip dengan “lenyapnya frontier” pada era ekspansi Amerika
• Struktur di mana tenaga kerja dan kecerdasan digantikan oleh modal semakin menguat, sehingga kelompok yang memiliki modal memperoleh keunggulan permanen di era AI
  • Rudolf Laine menyebutnya sebagai “era ketika modal berubah menjadi tenaga kerja supermanusia”, dan George Hotz menamainya ‘neofeudalism’
  • Ada peringatan bahwa jika segelintir perusahaan memonopoli kecerdasan itu sendiri, sisanya bisa jatuh menjadi kelas bawah permanen
• Kebijakan tertutup Mythos milik Anthropic dikritik bukan sekadar sebagai langkah keamanan, melainkan sebagai struktur di mana perusahaan swasta memonopoli kemampuan setingkat negara
  • Anthropic mengumumkan Project Glasswing bersama AWS, Apple, Google, dan lainnya, tetapi tanpa rilis publik dan hanya memberi akses kepada mitra perusahaan
  • Akibatnya, risiko membesar ketika terjadi insiden keamanan atau kebocoran informasi, dan muncul situasi tidak demokratis ketika kemampuan setingkat negara terkonsentrasi di perusahaan swasta
• Pembatasan akses API memang membantu mencegah penyalahgunaan, tetapi juga menekan inovasi dan riset keselamatan
  • Akses terbuka mengungkap kemampuan potensial model dan memungkinkan ‘gagal cepat lalu memperbaiki’ di lingkungan nyata
  • Seperti kasus adopsi alat fuzzer (American Fuzzy Lop) yang pernah memperkuat keamanan, perluasan akses ke model frontier juga dapat meningkatkan kapasitas keamanan
  • Namun saat ini, karena peneliti keselamatan AI tidak dapat mengakses model besar, kebanyakan dari mereka menggunakan model open source dari Tiongkok
• Prinsip dasar akses terhadap kecerdasan haruslah ‘akses terlebih dahulu’, dan mekanisme keamanan harus dibangun di atasnya
  • Perusahaan dengan kemampuan setingkat pemerintah harus menyiapkan prosedur yang adil dan kriteria yang transparan, serta perlu mengungkapkan alasan yang jelas saat membatasi akses
  • Pencabutan akses ke model frontier dapat menjadi bentuk eksklusi sosial yang mirip dengan kondisi ‘unbanked’
  • Diperlukan kewajiban audit setingkat FOIA
• Ketika model yang dilatih dari data seluruh umat manusia dimonopoli oleh segelintir perusahaan, itu menyerupai struktur ekstraksi nilai yang kolonial
  • Mayoritas penyumbang data diekstraksi nilainya tanpa persetujuan, sementara keuntungan terkonsentrasi pada jaringan internal
  • Setelah itu, pola mencari legitimasi moral melalui UBI atau donasi amal pun berulang
  • Walaupun niatnya tidak jahat, masalah struktural dari konsentrasi kekuasaan tetap sama
• Ada juga harapan tentang kemungkinan personalisasi AI
  • Era AI tertutup saat ini mungkin baru sebatas era mainframe, dan masih ada kemungkinan beralih ke era komputasi personal (Apple II)
  • Model open source sudah mengejar frontier dengan selisih 3~12 bulan, dan jika pasokan chip serta energi diperluas, era ‘kecerdasan yang sangat murah hingga nyaris tak terukur’ bisa tiba

• Kita tidak boleh kehilangan kebebasan ‘Wired’

  • Seperti kota yang menebang pohon tua atas nama keselamatan, ada risiko kehilangan keterbukaan dan kreativitas internet karena logika keamanan yang berlebihan
  • Internet tetap merupakan ruang terakhir bagi kreasi dan eksplorasi yang dipimpin individu, dan penting untuk menjaganya

[tkddls8848]

Terdengar seperti hiperbola pemasaran. Setiap kali model baru keluar, selalu disebut yang terbaik sepanjang masa. akhir zaman manusia. karena coding sudah berakhir jadi kita harus jadi tukang ledeng, dan seterusnya. Memang ada banyak slogan hiperbola yang terdengar segar, tetapi saat dipakai nyata justru ada masalah, dan yang paling penting, sebagian besar orang malah masih berhenti di tingkat menggunakan pencari canggih, sehingga tidak bisa mengeluarkan 100% kemampuan model yang kuat. Hambatan di era LLM bukanlah kode atau infrastruktur, melainkan secara paradoks rendahnya pemahaman masyarakat umum yang melempar prompt terhadap sistem informasi.

[hmmhmmhm]

Melihat model 31b yang belakangan ini banyak dirilis, memang luar biasa... untuk saat ini rasanya masih ada sedikit harapan

[GN⁺]

Opini Hacker News

• Rasanya terlalu cepat kalau diskusi seperti ini sudah muncul padahal baru seminggu sejak diumumkan
  Kalimat “model ini terlalu kuat untuk publik” terdengar seperti frasa pemasaran
  Beberapa bulan lagi mereka pada akhirnya akan menjual model lain, lalu setelah itu mungkin akan bilang “model baru ini terlalu kuat untuk dirilis”

  • Saya tidak yakin begitu. “Terlalu kuat” bisa saja berarti utilitasnya rendah dibanding biayanya
    Mythos disebut terlalu lambat untuk coding interaktif. Kalau hasilnya baru keluar setelah semalaman, kebanyakan pengguna tidak punya alasan untuk memakainya
    Lab AI masih terus merugi, dan untuk merilis Mythos mereka harus memasang harga yang jauh lebih mahal. Kalau sebagian besar pelanggan tidak bisa merasakan perbedaannya, maka itu tidak ekonomis
    Mungkin Anthropic juga ingin memanfaatkan akses pusat data pelatihan yang lebih besar daripada OpenAI. Tetapi yang dibutuhkan sekarang bukan model yang lebih pintar, melainkan model yang kecil, murah, dan cukup bagus
  • Ini mengingatkan pada saat OpenAI dulu mengatakan GPT-2 “terlalu berbahaya untuk dirilis”
    Mythos sepertinya tidak akan berbeda dari itu
  • Wacana seperti “terlalu berbahaya” ini pada praktiknya sudah menjadi alat pemasaran bagi para aktivis
    Mereka yang ingin memperlambat pengembangan AI justru ikut menyebarkan wacana itu dan menarik perhatian, yang pada akhirnya malah berkontribusi pada penyebaran AI
    Ada juga riset menarik sekitar tahun 2011 yang membahas fenomena seperti ini, dan saya ingat kasus brand Swedia Cheap Monday
  • Saya rasa Anthropic punya semacam mentalitas penjaga terhadap umat manusia
    Mereka tampaknya percaya bahwa membatasi akses adalah inti dari keamanan
    Tetapi jika sikap seperti ini pada akhirnya hanya menguntungkan segelintir pihak dan menyingkirkan mayoritas, maka publiklah yang harus menilai legitimasi itu
  • Klaim bahwa Mythos berbahaya berasal dari kemampuan model ini dalam menemukan kerentanan perangkat lunak secara otomatis
    Jika kemampuan seperti ini dibuka lewat API publik, potensi penyalahgunaannya besar
    Sudah banyak kasus penipuan skala besar atau deepfake yang memanfaatkan AI
    Jika saat diberi perintah pada kode open source seperti “temukan semua kerentanan yang mungkin” model ini menghasilkan jauh lebih banyak temuan dibanding model sebelumnya, maka rilis terbatas adalah pilihan yang masuk akal

• Bisa dipahami bahwa Anthropic memberikan akses hanya kepada perusahaan keamanan seperti Crowdstrike, Cisco, dan Microsoft
  Jika tujuan Glasswing adalah memperkuat keamanan infrastruktur, maka aneh kalau akses justru diblokir bagi mereka hanya karena pernah terjadi insiden keamanan
  Mythos mungkin akan dirilis suatu hari nanti, tetapi rilis terbatas kali ini tampak seperti tahap persiapan menuju rilis yang aman

• Di NVIDIA, mereka sedang mengembangkan Nemotron untuk menjawab kekhawatiran seperti ini
  Nemotron bukan hanya model dengan bobot terbuka, tetapi juga merilis data terbuka dan resep terbuka
  Tujuannya adalah membangun AI terbuka lewat kolaborasi banyak institusi
  Nemotron 3 Super saat ini yang paling sukses, dan Ultra serta Nemotron 4 akan segera hadir
  Seiring pertumbuhan AI, peluang NVIDIA juga makin besar, jadi ini strategi yang memungkinkan
  Tautan terkait

• Ucapan bahwa “ini adalah era ketika anak 16 tahun bisa membuat sesuatu tanpa modal” justru terasa lebih benar sekarang

  • Tetapi jika model-model seperti ini tidak dirilis, kebebasan itu akan hilang
  • Sekarang semua orang memang bisa membuat sesuatu, tetapi karena terlalu banyak orang yang membuat, daya distribusi dan pengenalan nama menjadi modal baru
  • Kreativitas dan karya memang bisa berbicara sendiri, tetapi pada akhirnya monetisasi tetap membutuhkan distribusi
  • Pada akhirnya janji seperti ini selalu berulang setiap kali ada teknologi baru, dan kebanyakan berakhir pada kondisi kerja yang lebih buruk

• Alasan Anthropic tidak bisa merilis Mythos adalah karena kekurangan sumber daya komputasi
  OpenAI akan mengamankan daya komputasi yang jauh lebih besar tahun ini dan tahun depan

  • Saya rasa ini alasan sebenarnya. Terlihat seperti pemasaran yang membungkus kekurangan sumber daya sebagai niat baik
  • Jika Mythos benar-benar revolusioner, maka kemungkinan merger antara Anthropic dan OpenAI juga menarik untuk dibahas
  • Jika sumber daya memang kurang, mereka sebenarnya bisa membuka lelang komputasi. Perusahaan besar mungkin bersedia membayar mahal, jadi aneh kenapa peluang itu dilepas

• Karena Mythos tidak terlalu berbeda dari model lain, saya setuju dengan pendapat bahwa ini “terlalu dini”
  Namun, kerangka pikir para pengkritik AI bahwa “perusahaan besar menjarah masyarakat” tampaknya berasal dari kesalahpahaman atas konsep hak kekayaan intelektual

  • Saya tidak setuju dengan kesimpulannya, tetapi ungkapan “masyarakat dijarah” menurut saya cukup tepat menggambarkan perasaan dirugikan yang dirasakan banyak orang

• Daripada menyembunyikan Mythos, lebih baik Anthropic memanfaatkannya sebagai layanan audit keamanan perusahaan
  Kalau dijadikan layanan yang menyerang infrastruktur lewat model untuk menemukan kerentanan, potensi keuntungannya juga besar

  • Tetapi secara realistis, ada risiko PR yang besar
    Misalnya jika pengelola paket npm populer sedang butuh uang lalu meminta Mythos memeriksa library miliknya, lalu sebulan kemudian dia diretas, itu akan menjadi masalah besar

• Analogi soal jaringan listrik cukup mengesankan
  Seperti tenaga surya, individu memang bisa memproduksi listrik sendiri, tetapi kebanyakan orang menggunakan listrik dengan membayar tagihan utilitas
  Dengan cara yang sama, akses terhadap kecerdasan pada dasarnya harus terbuka bagi semua orang
  Penggunaan berbahaya bisa dibatasi dengan pengaman, tetapi default-nya harus akses diizinkan

• Umat manusia selalu tergoda untuk mengubah ‘teknologi monster’ menjadi kebutuhan pokok
  Tetapi monster seperti itu tidak bisa dikurung lama-lama. Pada akhirnya ia akan lepas dari kendali

• Peluang pada masa frontier Amerika adalah fenomena yang luar biasa dan tidak biasa
  Pada masa ekspansi cepat, individu masih bisa berkembang, tetapi ketika pertumbuhan mandek, perusahaan akan mengungguli individu
  Seiring percepatan kemajuan teknologi, individu juga makin mendekati kemampuan untuk menghancurkan dunia
  Seperti senjata nuklir, AI kini mungkin sudah sampai pada titik yang membutuhkan pembatasan akses untuk individu

  • Sekarang, anak 16 tahun yang membangun unicorn itu sejarang menang lotre
    Untuk berhasil, layanannya harus terhubung dengan figur terkenal
  • Di balik mitos frontier ada tragedi dan pengorbanan. Jangan lupa bahwa itu adalah mitos yang dibangun di atas kematian penduduk asli

[cnaa97]

Pada akhirnya semua pesaing juga bakal ngikutin wkwk "Nah, sekarang berantemlah"

[happing94]

Tapi ini bukan konsep baru, kan?
Di sektor keuangan juga ada satu pusat keuangan yang melampaui hukum semua negara, jadi semua sistem keuangan dikendalikan dari sana.
Sekarang IT juga bisa dilihat seperti itu: sebuah hub IT terbentuk, lalu perusahaan-perusahaan IT saling mengendalikan dan melawan semua negara.
Dan kalau melihat performa Claude, itu jadi bisa dipahami.

[vwjdalsgkv]

Apakah yang Anda maksud dengan hub keuangan itu kelompok tertentu seperti jaringan Yahudi, atau sekadar hub perantara seperti Hong Kong dan Singapura?
Struktur seperti SWIFT atau kliring pembayaran pada praktiknya harus dilihat sebagai sesuatu yang berada di tangan negara-negara kuat.
Alih-alih melawannya, struktur itu justru cenderung digunakan sebagai alat oleh pihak yang berkuasa.
Kalau saya melihatnya dengan nuansa seperti itu, tulisan ini juga terasa lebih wajar jika pada akhirnya menjadi alat bagi mereka yang kuat, sesuai dengan maksud awalnya.

[tsboard]

Sepertinya unsur pemasarannya masih agak kuat untuk saat ini.

[botplaysdice]

Memang, kalau model dengan kemampuan yang secara ekstrem nyaris tak terbatas benar-benar diciptakan, rasanya juga tidak akan ada alasan untuk merilis model itu ke publik. Bagaimanapun, model itu kemungkinan bisa menciptakan nilai tambah sendiri yang lebih besar daripada biaya penggunaan model tersebut...

[ndrgrd]

Jika dipaksa untuk benar-benar dibuka, justru bisa saja hal itu menggantikan tenaga kerja dan kecerdasan, sehingga komunisme yang belum pernah benar-benar terwujud sekali pun dalam sejarah mungkin menjadi kenyataan.

[sunghyunzz]

Ini tulisan yang bagus karena menyoroti hal yang tidak terpikirkan sebelumnya. Terima kasih!

[kaboom45]

Melihat hal seperti GLM5.1, saya jadi merasa bahwa model terbuka pun, meskipun ada sedikit kesenjangan, tetap bisa terus mengejar model tertutup berbayar.

[jjw9512151]

Rasanya ini seperti sesuatu yang sudah bisa diperkirakan.. era ketika teknologi menjadi sihir dan segelintir penyihir memonopoli segalanya..

[kimjoin2]

Anthropic yang menciptakan b2b?