Bayangan besar yang menaungi kasus Fable ini

• Model AI yang sangat kuat, Fable 5 dan Mythos 5, tiba-tiba diputus aksesnya untuk semua pelanggan setelah instruksi kontrol ekspor dari pemerintah AS
• Instruksi pemerintah AS menargetkan pemblokiran akses bagi warga negara asing baik di dalam maupun di luar AS, termasuk karyawan Anthropic yang berkewarganegaraan asing, sehingga Anthropic memutus seluruh akses demi mematuhi aturan
• Anthropic menilai pemerintah mempermasalahkan teknik bypass jailbreak, tetapi kerentanan yang didemonstrasikan hanya berupa sedikit kelemahan ringan yang sudah dikenal dan menurut mereka juga bisa ditemukan pada model publik lain
• Langkah ini membuat makin sulit membedakan apakah ini regulasi keselamatan AI atau tekanan politik dan persaingan yang menargetkan Anthropic, sekaligus memperbesar masalah kepercayaan terhadap keputusan pemerintah
• Preseden telah tercipta bahwa akses publik ke LLM yang kuat bisa dibatasi oleh kontrol pemerintah, memicu kekhawatiran bahwa ke depan pengguna umum mungkin akan semakin sulit memakai model dengan performa tertinggi

---

Akses model terputus pada Jumat malam

• Saat membuat game HTML dengan agen AI pada Jumat malam, pekerjaan terhenti ketika agen menjawab bahwa “model ini sudah tidak ada lagi”
• Awalnya diduga sebagai masalah login ulang atau error pembatasan aneh akibat penggunaan agen paralel, lalu beralih ke API tetapi tetap tidak bisa mengakses
• Sempat dicurigai bahwa harness dari klien agen Rust kustom buatan tim rusak, sehingga kode Rust diperiksa, lalu seorang teman memberi tahu bahwa pemerintah telah melarang Fable

Instruksi pemblokiran akses dari pemerintah

• Pemerintah AS, dengan dasar kewenangan keamanan nasional, mengeluarkan instruksi kontrol ekspor yang menuntut penghentian akses ke Fable 5 dan Mythos 5 bagi semua warga negara asing
  • Yang dimaksud mencakup semua warga negara asing baik di dalam maupun di luar AS, termasuk karyawan Anthropic berkewarganegaraan asing
  • Untuk mematuhi instruksi ini, Anthropic segera menonaktifkan Fable 5 dan Mythos 5 untuk seluruh pelanggan; akses ke semua model Anthropic lainnya tidak terdampak
• Instruksi itu diterima pada hari yang sama pukul 5:21 sore ET, dan surat tersebut tidak memuat rincian kekhawatiran keamanan yang spesifik

Sikap resmi Anthropic

• Anthropic memahami bahwa pemerintah telah mengetahui teknik bypass jailbreaking Fable 5, dan setelah meninjau demonstrasi teknik itu, mereka menyimpulkan bahwa yang teridentifikasi hanya sejumlah kecil kerentanan ringan yang sudah dikenal
  • Kerentanan ini relatif sederhana, dan model publik lain pun dinilai bisa menemukannya tanpa bypass
• Mereka meninjau laporan yang diduga menjadi dasar instruksi itu, dan memverifikasi bahwa tingkat kemampuan tersebut juga tersedia luas pada model lain seperti OpenAI GPT-5.5 serta merupakan tingkat yang digunakan setiap hari oleh para pembela keamanan; informasi tambahan akan dibagikan dalam 24 jam
• Meski akan mematuhi instruksi hukum, Anthropic menolak pandangan bahwa penemuan jailbreak potensial yang sempit harus menjadi alasan untuk menarik model komersial yang telah didistribusikan kepada ratusan juta orang

Kekhawatiran tentang keselamatan AI dan optimisasi

• Sikap terhadap AI bersifat ambivalen, dan karena memiliki banyak pengalaman melatih model deep learning, ada kekhawatiran kuat terhadap cara alat optimisasi bisa bekerja secara keliru
• Manusia cenderung mengoptimalkan metrik yang bisa diukur, bukan tujuan yang benar-benar ingin dicapai
• Masalah seperti ini muncul ketika orang ingin membuat produk yang baik tetapi tidak tahu caranya sehingga justru mengoptimalkan engagement, atau ingin mengajari anak membaca dan menulis tetapi malah mengoptimalkan nilai ujian
• Sistem AGI dan ASI adalah alat optimisasi, dan dalam proses mengoptimalkan hal-hal yang bisa diukur, sistem ini bisa menjauh dari hal yang baik sehingga menimbulkan risiko yang sulit diprediksi
• Perusahaan juga beroperasi seperti alat optimisasi, sehingga walaupun banyak pengembang berbicara soal risiko, mereka tetap bisa bergerak menuju tujuan yang terukur, yaitu monetisasi cepat

Latar belakang konflik pemerintah dan Anthropic

• Anthropic dan pemerintahan saat ini tidak memiliki hubungan yang baik; perusahaan itu pernah mencoba integrasi dengan DoD dan kerja sama militer, hingga modelnya digunakan dalam sistem dengan klasifikasi sangat rahasia
  • Meski begitu, pemerintahan Trump menetapkan Anthropic sebagai supply chain risk, dan melarang pihak yang bekerja sama dengan pemerintah menggunakan model Anthropic
  • Setelah itu, selama 6 bulan model Anthropic tetap digunakan dalam operasi militer seperti perang Venezuela dan perang Iran, sementara LLM Tiongkok bahkan tidak ditetapkan sebagai risiko rantai pasok
• Sebagian kalangan kanan jauh mengembangkan logika bahwa Anthropic dicap 'woke' karena pemerintah ingin menghancurkannya
• Muncul pertanyaan apakah langkah ini bertujuan sebagai regulasi AI berbahaya, atau justru kesempatan untuk memukul target permusuhan budaya

Persaingan dan waktu menjelang IPO

• Para pesaing memiliki kekuatan yang bersahabat di seluruh pemerintahan; sebagai contoh, keluarga Kushner berinvestasi besar di OpenAI
• Langkah ini dapat ditafsirkan sebagai peluang bagi lab lain untuk memukul Anthropic
  • Fable dinilai sebagai model yang sangat kuat, dan penghentian penggunaan konsumen tepat saat IPO Anthropic sudah dekat terasa mencolok
• Politik pembagian jabatan rampasan (spoils system) membuat tampilan semua urusan menjadi mencurigakan, dan disebut telah meruntuhkan kepercayaan yang dibangun selama puluhan tahun

Pengumuman pukul 5:21 sore Jumat dan kekhawatiran pasar

• Waktu pengumuman pada Jumat pukul 5:21 sore terlihat seperti waktu yang mencurigakan
• Pengumuman pada Jumat malam dipahami sebagai cara menyampaikan kabar buruk sambil berharap guncangan pasar terserap selama akhir pekan
• Contoh dari The Kobeissi Letter yang dikutip Claude mencakup pengumuman geopolitik dan perdagangan yang keluar setelah penutupan pasar pada Jumat atau dini hari Sabtu
  • Contohnya meliputi serangan ke fasilitas nuklir Iran, aksi militer terhadap kapal pengangkut narkoba di Karibia, ancaman tarif 100% terhadap Tiongkok, penutupan wilayah udara Venezuela, aksi militer Nigeria, hingga serangan langsung ke Iran pada Februari 2026
  • Pengumuman transaksi Intel pada 11 Agustus 2025 juga dikelompokkan sebagai contoh korporat yang ditempatkan di luar jam perdagangan aktif setelah adanya tekanan publik terhadap CEO Lip-Bu Tan
• Ledakan AI sangat bergantung pada gagasan bahwa akan ada permintaan berkelanjutan atas kecerdasan komputer
• Kenaikan pasar saham di seluruh rantai AI—mulai dari utang, investasi pembangunan, data center, GPU, memori, disk, hingga rak server—bergantung pada asumsi bahwa nilai senilai triliunan dolar akan tercipta
• Persepsi bahwa pemerintah sewaktu-waktu bisa secara sepihak memutus semua akses dapat menjadi hambatan besar bagi investasi data center bernilai multi-triliun dolar
• Sebagian pengguna HN dan Reddit melihat insiden ini sebagai batas atas kemampuan model yang akan diizinkan pemerintah untuk diakses publik
• Jika pemerintah tidak mengizinkan, maka akses tetap tidak akan tersedia meskipun permintaannya sangat tinggi

Reaksi komunitas dan serangan balik dari pemasaran ‘model berbahaya’

• Sebagian pengguna HN dan Reddit merasa senang karena Anthropic dianggap sedang membayar harga atas pertunjukan pemasaran terkait Mythos
• Di masa lalu OpenAI juga merilis GPT-2 secara terbatas dengan pendekatan “terlalu berbahaya untuk dirilis”, dengan alasan kekhawatiran atas pembuatan bahasa berskala besar yang menipu, bias, dan mudah disalahgunakan
• Sejak GPT-2, konten AI berkualitas rendah memang membanjiri internet dan mengguncang kemampuan kita untuk memahami realitas bersama, sehingga kekhawatiran OpenAI saat itu dinilai cukup akurat
• Penulis percaya Fable memang model yang kuat, dan sampai taraf tertentu mempercayai pernyataan Anthropic bahwa mereka khawatir terhadap risiko keamanan dari publikasi Fable secara luas
• Komentar teratas pada thread HN terkait bereaksi bahwa Anthropic kini membayar harga karena menebar ketakutan demi menjual modelnya seolah jauh lebih unggul daripada yang lain
• Jika posisi pemerintah diterima mentah-mentah, maka model Anthropic justru bisa menjadi iklan yang sangat kuat karena dianggap begitu hebat sampai benar-benar tidak boleh digunakan
• Komentar HN lainnya menyoroti bahwa jika Anda terlalu lama mengatakan betapa berbahayanya produk Anda, orang-orang yang berwenang menghentikan produk berbahaya dari pasar mungkin akan mendengarnya
• Bernie Sanders digambarkan sebagai anggota parlemen yang menekankan bahaya AI dengan membuat video kebijakan yang membacakan pernyataan para CEO AI
• Model AI mungkin memang tidak aman sehingga perlu regulasi, tetapi para CEO AI yang kini menyadari risiko penutupan mungkin tidak akan lagi mengatakan hal seperti itu ke depan

Preseden pembatasan akses ke LLM yang kuat

• Komentar HN yang dikutip terakhir melihat inti insiden ini sebagai kemungkinan bahwa pemerintah mulai membatasi akses publik ke LLM yang kuat
• Komentar itu menganggap Fable sebagai model terkuat di pasar, dan menilai bahwa meskipun pemerintah AS pada prinsipnya hanya melarang non-warga AS, pada praktiknya warga AS pun jadi tidak bisa memakainya
• Pandangan bahwa model open source dari Tiongkok atau menjalankannya sendiri di perangkat keras pribadi akan menjadi solusi juga perlu ditinjau ulang
• Dalam situasi ketika pemerintah AS memblokir model AS terkuat, kecil kemungkinan Tiongkok setahun kemudian akan mengizinkan open source untuk LLM domestik terkuatnya dengan kemampuan setingkat Mythos
• LLM yang kuat bergerak ke arah senjata keamanan siber yang kuat, dan negara-bangsa akan memiliki kepentingan untuk membatasi serta mengendalikannya
• Akan mengejutkan jika dua tahun dari sekarang LLM terkuat masih tersedia untuk penggunaan umum
• Belum jelas apakah pembatasan LLM yang kuat akan membuat orang lebih miskin atau lebih aman, tetapi insiden ini merupakan titik belok besar yang menciptakan preseden

[sungwoo]

Sepertinya saya memang harus membaca semuanya dengan cermat.

[shakespeares]

Aduh..

[GN⁺]

Komentar Hacker News

• Saya paham pemikiran bahwa renaisans "game Flash" bisa kembali berkat alat AI, tetapi setelah terus mencoba game-game yang dibuat orang di subreddit aigamedev, hasilnya cukup mengecewakan.
  Desain game adalah seni yang sulit dipelajari, dan sepertinya ini bukan bidang yang bisa banyak dibantu oleh LLM.
  Mengatakan game-game seperti ini itu "menyenangkan" terasa mirip dengan mengatakan gambar anak kecil itu "indah", dan dengan lebih dari 25 dolar yang dipakai untuk generasi kode, Anda bisa membeli jauh lebih banyak game indie yang lebih bagus.

  • Jika bekerja melalui lapisan abstraksi bernama LLM, rasanya justru akan lebih sulit membuat game yang menyenangkan.
    Seni desain game yang hebat ada pada detail, dan bahasa Inggris saja tidak cukup untuk menyampaikan setiap sapuan kuas di atas kanvas.
    Saya masuk ke subreddit itu untuk melihat apa yang dibuat di sana, tetapi saya juga tidak terlalu terkesan.
  • Antusiasme AI yang kuat seperti di sana dan kurangnya selera tampaknya punya korelasi yang cukup kuat.
    Pasti ada banyak pengembang yang memakai LLM untuk membantu bagian coding yang membosankan sambil tetap memegang kendali ketat dan mengerjakan bagian kreatifnya sendiri.
    Dari dulu memang ada pengembang indie yang tidak suka coding dan hanya menganggapnya sebagai tahap wajib untuk menuangkan ide, dan mereka tetap membuat game yang bagus.
    Semua dialog di Undertale diimplementasikan dengan satu pernyataan switch raksasa yang panjangnya lebih dari 5.000 baris.
  • Sebagian besar game Flash juga sebenarnya buruk.
    Untuk menemukan game seperti Boxhead, Motherload, dan Bloons, kita harus mengorek tumpukan sampah.
    Menurut saya, kuantitas itu penting di sini.
    Anda tidak perlu menjadi programmer hebat untuk menjadi desainer game hebat, tetapi dulu pemrograman adalah syarat awal bahkan untuk sekadar mulai.
    Keindahan penerapan alat AI pada game ada pada poin yang kedua itu, yaitu bisa fokus hanya pada desain game, dan seiring waktu karya-karya permata akan naik ke permukaan.
  • Desain game itu sulit.
    Dulu saya merilis 4 game Flash; 2 gagal total, 1 biasa saja, dan 1 lumayan berhasil.
    Total waktu main kumulatifnya mencapai ratusan tahun.
    Untuk membuatnya dengan benar ada banyak hal yang harus dilakukan, dan seperti semua perangkat lunak, itu harus dibuat sesuai pasar target.
    Tidak ada solusi AI yang mudah untuk menciptakan core loop yang menyenangkan dan imersif, dan juga tidak ada solusi untuk menyeimbangkan kompleksitas yang tepat dengan kurva belajar yang sesuai.
    Banyak orang yang tidak bisa atau tidak melakukan coding mengira diri mereka desainer game dan berharap AI akan memungkinkan mereka membuat game, tetapi tampaknya mereka kini sadar bahwa inti masalahnya bukanlah kode.
    Selain itu, kalau tidak bisa coding, hanya dengan vibe coding saja saat ini masih belum cukup untuk membuat banyak hal yang melampaui game setingkat Flash.
  • Sebagai pengembang indie, membuat game itu sulit, dan ini hampir satu-satunya bidang dalam perangkat lunak di mana semua disiplin harus berkumpul agar hasilnya terasa meyakinkan.
    Saya sudah banyak melakukan pemrograman di berbagai subbidang, tetapi ini tetap terasa sebagai bidang yang paling sulit ditembus AI.
    Sebagai alat untuk meningkatkan kecepatan output, AI jelas mengagumkan, tetapi secara keseluruhan ini tampaknya akan menjadi bidang yang paling sulit untuk dikomersialkan oleh AI.

• Penulis mengatakan OpenAI memakai taktik pemasaran "terlalu berbahaya untuk dirilis" saat era GPT-2, dan menilai kedua pihak sama-sama memainkan kartu ini, tetapi saat itu Dario berada di OpenAI dan merupakan salah satu penulis bersama makalah penelitian GPT-2.
  Pendekatan "terlalu berbahaya untuk dirilis" itu tampaknya lebih mirip sesuatu yang terus dia lakukan di kedua perusahaan.

  • Saya rasa kekhawatiran soal GPT-2 pada akhirnya memang terbukti benar.
    Dalam tulisan rilis aslinya pada 2019, mereka memang mencantumkan potensi penyalahgunaan seperti pembuatan artikel berita yang menyesatkan, peniruan identitas online, pembuatan otomatis konten abusif dan palsu untuk media sosial, serta pembuatan otomatis konten spam dan phishing.
    Bersama hasil gambar, audio, dan video sintetis, mereka mengatakan teknologi seperti ini akan menurunkan biaya pembuatan konten palsu dan kampanye disinformasi, dan publik harus lebih curiga terhadap teks online sebagaimana terhadap gambar deepfake.
    Karena itulah mereka mengatakan akan merilisnya secara hati-hati.
    https://openai.com/index/better-language-models/
  • Mungkin saja Dario bukan secara buta berpikir semuanya akan baik-baik saja, melainkan benar-benar mempertimbangkan risiko potensial.
  • Secara adil, AI generatif memang sedang merusak masyarakat dengan cara-cara baru dan tak terduga setiap minggu.
    Dari kebohongan dan disinformasi sampai orang-orang yang memilih chatbot sebagai pengganti terapi atau hubungan antarmanusia, dampak sosialnya sangat dalam dan akan semakin buruk.
    Mencari programmer junior yang cukup kompeten untuk tetap bisa menyelesaikan sesuatu ketika AI sedang tidak tersedia sudah terasa menyedihkan, dan ke depan tampaknya akan lebih buruk.
    Fitur keselamatan penting seperti "larangan membuat materi eksploitasi seksual anak" dan "pernyataan harus faktual atau berbasis bukti" sejak awal tidak dimasukkan ke dalam desain sistem-sistem ini, dan sampai sekarang pun belum benar-benar terselesaikan, tetapi perusahaan AI tetap merilisnya ke publik dengan cacat yang jelas.
    Saya suka kemampuan AI menghasilkan omong kosong dan sisi mainan ajaibnya, tetapi sampai sekarang keuntungan bersihnya tampaknya hanya untuk segelintir orang paling kaya yang mendapat untung dengan memecat orang lalu membiarkan komputer mengerjakan separuh pekerjaan secara berantakan, sementara bagi yang lain hasilnya kerugian bersih.
    Sekarang memang sudah terlambat, tetapi kalau dipikir-pikir lagi, saya setuju bahwa dalam bentuk seperti ini teknologi tersebut memang terlalu berbahaya untuk dirilis.

• Skeptisisme berlebihan di Hacker News telah merusak diskusi AI yang rasional
  Pemerintah AS, sambil memperluas perang atas kendali AI, telah mempersenjatai kekuasaan negara terhadap Anthropic dengan cara yang ceroboh, korup, dan menghukum
  Namun HN terpaku pada “gembar-gembor pemasaran” sebagai satu-satunya penjelasan, lalu memaksa semua bukti masuk ke penjelasan yang makin dibuat-buat
  AI mengancam pekerjaan, status, keyakinan, dan cara hidup
  Di HN, tampaknya lebih mudah membuat rasionalisasi bahwa hal itu tidak mungkin benar daripada mempercayai kenyataan ini
  Saya berterima kasih kepada orang-orang yang menerima bahwa dunia mungkin akan berubah dengan sangat ganjil, lalu mencoba menganalisis persoalan yang sebenarnya

  • Ini mengingatkan pada masa ketika NSA di era 90-an mencoba membatasi akses enkripsi pada situs web
    Saat SSL mulai menjadi solusi yang jelas untuk transmisi pembayaran web publik yang aman, AS hampir saja melarang SSL
    Karena tekanan ekonomi, tidak adanya alternatif, dan banyak penolakan, tampaknya pintu akhirnya tetap terbuka, tetapi saat itu pun omong kosong soal “kepentingan nasional dan keamanan” dipakai
    Perbedaan besarnya kali ini adalah bahwa tanpa Fable/Mythos pun bukan berarti semua jadi mustahil
    Tidak ada garis batas ajaib di sini, hanya perbaikan pada proses penghubungan yang mengurangi intervensi
    Meski begitu, jika ini dipertahankan, besar kemungkinan akan menciptakan efek mendinginkan yang sangat besar pada pengembangan AI di AS, dan lab lain pada akhirnya akan menyamai performa Fable/Mythos lewat jalur lain
    Analogi mobilnya seperti model yang dibuat lewat peningkatan mesin dari V6 ke V8, tetapi organisasi lain bisa menghasilkan peningkatan kecepatan serupa dengan memperbaiki hambatan udara atau injeksi bahan bakar
    Ada banyak ruang perbaikan di seluruh rantai, jadi langkah seperti ini tidak ada artinya
    Melihat taktik kasar dari pemerintahan ini dan Anthropic, ini tampak seperti bagian dari negosiasi berisiko tinggi yang akan selesai dalam seminggu lewat semacam “kesepakatan”
    Ini bahkan bisa menguntungkan Anthropic, karena kalau ada kesepakatan manis, lalu posisi OpenAI akan jadi bagaimana
    Presedennya sudah tercipta
  • Banyak orang di HN dan pengguna forum kronis merasa bahwa bertingkah skeptis dan sinis membuat mereka terlihat lebih pintar
    Kebanyakan nerd seperti saya sudah meninggalkan sikap tajam seperti itu sejak SMA atau kuliah
    Dalam praktiknya, sikap seperti ini hanya membuat seseorang melihat segala hal lewat lensa yang paling gelap
  • Tafsiran ini agak mirip dengan para rohaniwan yang dulu mengatakan mesin cetak itu berbahaya
    Mereka bilang orang akan membaca hal buruk dan menyebarkan pikiran buruk, dan itu memang terjadi, tetapi secara keseluruhan itu adalah harga kecil yang layak dibayar demi penyebaran literasi
  • Pada prompt web Claude.ai muncul pemberitahuan “Claude Fable 5 is current unavailable” yang tidak bisa ditutup
    Saya tidak bilang ini 100% trik promosi, tetapi tampaknya Anthropic benar-benar ingin orang tahu soal ini
  • Orang-orang yang terlalu skeptis justru menghalangi semua orang
    Mereka bilang hal-hal seperti “Anthropic cuma bikin keributan untuk pemasaran”, “AI itu seperti NFT”, “ini wash trade”, “gelembungnya akan segera pecah”, atau “para penggembar-gembor menopang pasar saham agar bisa cepat keluar seperti penipu”
    Ungkapan terakhir itu saya karang paksa hanya untuk menyesuaikan dengan istilah yang mereka pakai
    Masalah intinya adalah AI sedang menjadi terlalu kuat untuk sekadar diserahkan ke orang biasa seperti kita
    Jika Anda masih percaya semua ini cuma gembar-gembor, perhatian Anda sudah teralihkan dari masalah sebenarnya
    Pada akhirnya retorika seperti ini mungkin akan menghilang dan orang-orang akan fokus pada persoalan nyata

• Para pesaing Anthropic punya teman di berbagai sudut pemerintahan, dan misalnya fakta bahwa pihak Kushner berinvestasi besar di OpenAI itu penting sekaligus tidak relevan
  “Keamanan nasional” jelas lebih mirip dalih, dan kalau itu benar-benar alasannya, tuntutannya tidak akan dibatasi hanya untuk warga negara asing
  Tidak ada pemerintahan AS mana pun yang pernah sepenuhnya mempercayai semua warganya sendiri
  Namun alasan pembatasan itu sendiri nyaris tidak penting
  Fakta bahwa hal seperti ini bisa terjadi seharusnya menjadi peringatan terakhir agar UE menanggapi kedaulatan digital dengan serius, bukan cuma lewat kata-kata tetapi dengan anggaran dan upaya nyata

  • Prasyarat kedaulatan digital adalah kemampuan untuk membangun perusahaan digital yang kompetitif
    Pada titik ini, kecil kemungkinan UE akan memutar haluan ke arah itu
  • Setelah melihat semua hal lain yang telah dilakukan pemerintahan ini, rasanya aneh kalau sekarang orang masih menerima niat resmi mereka mentah-mentah

• Ini terlihat seperti omelan berkualitas rendah yang penuh umpatan dan bias ideologis, jadi tampaknya tidak cocok untuk Hacker News

• Langkah ini membunuh seluruh pasar korporat untuk model AI yang lebih baik daripada Opus 4.8
  Tidak akan ada perusahaan yang mau membangun alur kerja atau kapabilitas yang kecerdasan dasarnya bisa langsung dirampas oleh birokrat atau politisi jahat
  Bahkan jika ada perusahaan yang cukup bodoh untuk menanggung risiko itu, apakah Anthropic akan mewajibkan semua pelanggan enterprise menyerahkan paspor seluruh karyawan mereka, lalu membuat akun Claude per karyawan untuk mengendalikan akses Mythos
  Kunci API sederhana tidak akan lagi memadai

  • Kesan pertama saya adalah AI kini memiliki plafon kaca yang akan menghantam pasar dengan keras
    Waktunya juga pas dengan momen menjelang penutupan pasar hari Jumat yang terasa seperti “hindari kejatuhan”, dan kita harus lihat bagaimana arahnya pada hari Senin
    Seperti balasan lain, ini juga semacam aksi saling menundukkan antara pemerintah dan Anthropic
    Jika OpenAI menyusul dan Anthropic mengerahkan para pengacara, ini mungkin akan dibatalkan atau diubah menjadi sesuatu seperti “model harus mendapat stempel persetujuan AI Amerika, karena itu Fable 5.1 versi AS yang baru kami setujui”
    Momen itu kemungkinan akan berbarengan dengan distribusi besar-besaran ke DoD, Pentagon, dan lembaga terkait
    Atau malah akan berujung pada argumen bahwa ini tak masuk akal karena Tiongkok akan segera menyamai
  • Bagaimana jika pemerintah AS melakukan hal yang sama terhadap Opus atau model lain
    Tidak ada model yang aman dari larangan semacam itu
  • Tepatnya, ini tentang model AI AS yang lebih baik daripada Opus 4.8
    EU AI Act yang sering dikritik justru memberi kerangka regulasi yang aman dan dapat diprediksi untuk dijadikan dasar pengembangan AI
    Itu memberi stabilitas hukum dibanding keputusan pemerintahan AS yang tak terduga dan sewenang-wenang
    Jika perusahaan AI punya sedikit saja akal sehat, mereka sebaiknya mempertimbangkan pindah ke Eropa

• Mengingat Fable sudah diberi protokol keamanan yang terasa berlebihan, kejadian ini sangat mencurigakan
  Pemerintah AS sedang menggunakan pengaruhnya atas ekonomi untuk mengirim sinyal kepada Anthropic bahwa IPO bergantung pada apakah mereka mau bertekuk lutut

• Dalam beberapa bulan terakhir, saya jadi jauh lebih percaya pada OpenAI daripada Anthropic
  Jika membaca tulisan Dario Amodei sampai ke makna tersiratnya, dia tampak seperti penganut dogmatis yang percaya ASI sebagai penguasa sempurna dan tanpa cela bagi umat manusia, sekaligus seorang nasionalis Amerika yang cukup ekstrem
  Perusahaannya juga tampak berada di garis ideologis yang sama
  Saya bahkan bisa membayangkan mereka membiarkan atau sengaja menciptakan ASI yang lepas kendali yang mereka yakini selaras secara ideologis dengan mereka
  OpenAI secara umum terlihat kurang dogmatis dan lebih berorientasi pragmatis
  Bukan berarti perusahaan yang sangat baik, tetapi setidaknya kita bisa memprediksi bagaimana perusahaan biasa akan bertindak

  • Mengingat ada pembicaraan bahwa pemimpin di kubu OpenAI adalah “pembohong patologis”, cukup mengejutkan mendengar seseorang lebih percaya pada OpenAI daripada Anthropic
  • Kalau pernah melihat apa yang orang lakukan demi 500 dolar, rasanya mustahil untuk benar-benar memercayai orang yang tidak kita kenal
    Apalagi orang yang terdorong oleh insentif jutaan atau miliaran dolar
    Anda juga pasti pernah melihat apa yang orang lakukan terhadap keluarganya sendiri karena urusan warisan, lalu apakah OpenAI mau disebut bisa “dipercaya”?
    “Siapa yang naif di sini, Kay?” - Godfather
  • Bahkan tanpa perlu membaca makna tersiratnya, CEO-nya sudah mengatakan hal itu hampir secara gamblang dalam wawancara dan tulisannya
    Saya juga menulis hal yang sama beberapa minggu lalu https://news.ycombinator.com/item?id=48341224, dan kalau melihat tulisan blog terbarunya, sisa keraguan pun akan hilang sepenuhnya

• Di HN dan Reddit sudah ada pembicaraan bahwa ini bisa menjadi batas di mana pemerintah akan “mengizinkan” orang untuk mengaksesnya
  Setinggi apa pun permintaannya, kalau pemerintah tidak memberikannya maka tetap tidak ada gunanya
  LLM pasar gelap terdengar seperti sesuatu yang langsung keluar dari novel William Gibson

• Ringkasannya bagus, dan saat membacanya saya teringat perdebatan soal enkripsi kuat
  Kalimat “Kita sebenarnya mengoptimalkan hal yang bisa kita ukur, bukan hal yang benar-benar ingin kita capai. Kita berharap keduanya sama, tetapi sering kali tidak” menyoroti masalah inti LLM
  Saya melihat bahwa menjamin model selaras secara aman untuk semua orang dan semua niat itu mustahil atau sangat mahal
  Selain itu, “aman” juga bisa berarti hal yang berbeda tergantung pada siapa yang dimaksud