- Berdasarkan perintah kontrol ekspor yang dikeluarkan pemerintah AS dengan dasar kewenangan keamanan nasional, akses ke Fable 5 dan Mythos 5 untuk semua pemegang kewarganegaraan asing diblokir baik di dalam maupun di luar AS, dan layanan untuk seluruh pelanggan segera dihentikan demi kepatuhan terhadap regulasi
- Perintah diterima pada pukul 5:21 sore ET, dan rincian spesifik kekhawatiran keamanan nasional tidak dijelaskan
- Dasar kekhawatiran pemerintah dipahami berkaitan dengan pengenalan teknik jailbreaking pada Fable 5, namun celah yang diidentifikasi melalui teknik tersebut sudah dikenal dan tergolong ringan, serta dapat ditemukan pada model publik lain tanpa bypass
- Anthropic menyatakan bahwa sebelum peluncuran, model tersebut telah melalui pengujian red team selama ribuan jam bersama pemerintah AS, UK AISI, dan lembaga eksternal, dan tidak ada penguji yang menemukan universal jailbreak
- Anthropic tidak setuju bahwa kemungkinan jailbreak dalam lingkup sempit dapat menjadi alasan untuk menarik model komersial yang digunakan ratusan juta orang, dan menilai bahwa jika standar yang sama diterapkan ke penyedia model lain maka peluncuran model baru praktis akan terhenti
Isi perintah dan dampak langsung
- Pemerintah AS mengeluarkan perintah kontrol ekspor dengan mengutip kewenangan keamanan nasional, sehingga akses ke Fable 5 dan Mythos 5 dihentikan untuk semua warga negara asing (termasuk karyawan Anthropic berkewarganegaraan asing), baik di dalam maupun di luar AS
- Akibat perintah tersebut, demi kepatuhan, Anthropic secara mendadak menonaktifkan Fable 5 dan Mythos 5 untuk seluruh pelanggan
- Akses ke semua model Anthropic lainnya tidak terdampak
- Perintah diterima pada pukul 5:21 sore ET pada hari yang sama, dan surat tersebut tidak memuat rincian spesifik mengenai kekhawatiran keamanan nasional
Perkiraan dasar kekhawatiran pemerintah
- Pemerintah dipahami telah mengetahui teknik bypass jailbreaking pada Fable 5
- Hasil peninjauan terhadap demonstrasi teknik tersebut menunjukkan bahwa teknik itu digunakan untuk mengidentifikasi sejumlah kecil kerentanan ringan yang sudah dikenal
- Kerentanan ini relatif sederhana, dan model publik lain juga dapat menemukannya tanpa bypass
Sikap Anthropic terhadap pengaman Fable
- Anthropic menyatakan telah menerapkan pengaman yang kuat yang secara signifikan menurunkan kemungkinan penyalahgunaan untuk tugas seperti keamanan siber, sampai-sampai banyak pengguna mengeluh bahwa pembatasannya terlalu luas
- Dalam beberapa minggu menjelang peluncuran, Anthropic melakukan verifikasi red team selama ribuan jam bersama pemerintah AS, UK AISI, berbagai lembaga pihak ketiga swasta, dan tim internal
- Dalam pengujian tersebut, pengaman Fable dipastikan secara nyata lebih efektif daripada model lain mana pun yang telah dirilis sebelumnya
- Tidak ada penguji yang menemukan universal jailbreak (cara yang secara luas membypass pengaman model untuk membuka berbagai kemampuan siber)
Batas pertahanan terhadap jailbreak sepenuhnya
- Saat ini, tidak ada penyedia yang tampaknya mampu mencapai ketahanan total terhadap jailbreak, dan seluruh pengaman di industri rentan terhadap non-universal jailbreak (mengarahkan model untuk mengeluarkan sebagian informasi siber dalam situasi tertentu)
- Bahkan universal jailbreak pun pada akhirnya mungkin akan ditemukan di masa depan, dan hal ini telah dinyatakan dengan jelas saat Fable 5 dirilis
Strategi Defense in Depth
- Menghadapi kenyataan bahwa pertahanan sempurna tidak mungkin, Anthropic mengadopsi strategi defense in depth, dengan membuat jailbreak terbatas pada lingkup sempit (non-universal) atau menjadi sangat mahal (universal), lalu mendeteksi dan memblokir serangan dengan cepat melalui pemantauan ketat
- Untuk itu, Fable mewajibkan retensi data pelanggan selama 30 hari; hal ini menimbulkan biaya nyata di sisi pelanggan, tetapi memungkinkan riset dan mitigasi jailbreak
- Anthropic tetap berpegang pada strategi defense in depth, yang menurut mereka telah menurunkan risiko ke tingkat yang sebanding dengan model-model lama yang sudah lebih dulu dirilis di industri
- Anthropic menyatakan belum menerima pengungkapan mengenai non-universal jailbreak yang mengkhawatirkan dan menghasilkan dampak berbahaya; semua potensi jailbreak yang diungkap sejauh ini hanya menghasilkan respons yang tidak berbahaya atau sekadar temuan ringan tanpa keunggulan khas Mythos
Verifikasi terhadap bukti yang diajukan pemerintah
- Hingga saat ini pemerintah hanya menyajikan bukti lisan, yang isinya berupa non-universal jailbreak dalam lingkup sempit: meminta model membaca codebase tertentu dan memperbaiki cacat perangkat lunak
- Anthropic memahami bahwa hanya ada satu potensi jailbreak yang dibagikan kepada pemerintah, dan setelah meninjau laporan yang diduga menjadi dasar perintah tersebut, Anthropic memastikan bahwa tingkat kemampuan yang ditunjukkan juga tersedia luas pada model lain seperti GPT-5.5 milik OpenAI
- Kemampuan tersebut berada pada tingkat yang digunakan setiap hari oleh para defender untuk menjaga sistem
- Rincian tambahan akan dibagikan dalam 24 jam ke depan
Tanggapan dan posisi Anthropic
- Anthropic mematuhi perintah hukum pemerintah dengan menghapus akses ke Fable 5 dan Mythos 5 untuk seluruh pengguna
- Namun, Anthropic tidak setuju bahwa ditemukannya potensi jailbreak dalam lingkup sempit dapat menjadi alasan untuk menarik model komersial yang telah didistribusikan kepada ratusan juta orang
- Jika standar yang sama diterapkan di seluruh industri, Anthropic menilai peluncuran model baru oleh semua penyedia frontier model praktis akan terhenti
- Pemerintah seharusnya memiliki wewenang untuk memblokir peluncuran yang tidak aman, tetapi itu harus menjadi bagian dari proses hukum yang transparan, adil, jelas, dan berlandaskan fakta teknis, dan tindakan kali ini dinilai tidak sesuai dengan prinsip tersebut
- Anthropic meminta maaf atas kebingungan pelanggan, menganggap ini sebagai kesalahpahaman, dan sedang berupaya memulihkan akses secepat mungkin
9 komentar
Sebanyak apa pun saya melihatnya, rasanya selama ini mereka ribut berlebihan sambil terus berkata bahwa model mereka berbahaya, jadi bukankah ini seperti menembak kaki sendiri.
Entah ini nantinya akan jadi keberhasilan atau kegagalan pemasaran, masa depan memang belum tahu, tetapi untuk saat ini terlihat seperti kegagalan.
Melihat arus masuk pengguna Anthropic setelah insiden Pentagon, saya rasa pada titik menjelang IPO ini sama sekali bukan hal yang akan merugikan Anthropic.
Bahkan untuk menutupi isu seperti guardrail, kalau sejak awal modelnya memang tidak dilayani, tidak akan ada lagi yang bisa memverifikasinya, jadi ini juga pas sekali.
Kalau cuma Mythos dan Fable yang begini mungkin masih lain cerita, tapi kalau model-model masa depan juga terus diblokir seperti itu, jadinya nyaris sama saja dengan bilang mereka tidak akan dibiarkan menghasilkan uang.. mungkin..
Ah, itu tidak terpikir oleh saya.
Perusahaan AI sekarang tampaknya tidak punya alasan lagi untuk mengembangkan model yang berkinerja lebih baik. Sepertinya perkembangan AI sampai di sini saja.
Wkwkwkwkwkwkwkwkwkwkwk
Komentar Lobste.rs
Menurut saya, strategi pemerintah AS yang menyiarkan ke seluruh dunia bahwa layanan digital AS tidak bisa dipercaya dan diandalkan itu picik, dan akan menjadi peluang besar bagi para pesaing di negara lain
Saya suka melihat pemerintahan ini benar-benar menorpedo hegemoni AS di dunia
Saya rasa kemungkinan besar ini adalah manipulasi pasar yang dilakukan pemerintah AS demi kepentingan pribadi
Jika pasar ambruk pada hari Senin, mereka akan memborong, lalu ketika waktunya menjual mereka akan membalikkan keputusan. Hal seperti ini sudah beberapa kali terjadi saat mereka mengguncang tarif, dan terus berulang sampai pasar menyadari polanya
Setidaknya ada sedikit hasil positif, yaitu kedaulatan AI Eropa kini bisa mulai dianggap serius. Di hadapan situasi yang dipersepsikan sebagai serangan, sikap ragu-ragu UE terhadap AI tampaknya akan menghilang
Ini cara pemasaran yang aneh. Mari kita lihat bagaimana arahnya
Saya sering melihat reaksi seperti ini, tapi menurut saya sama sekali tidak masuk akal
Saya tidak paham. Apa sebenarnya yang begitu berbahaya dari model bahasa besar? Mencari cara membuat bom atau senjata kimia di internet rasanya tidak sesulit itu
Mungkin perlu memasang browser Tor, tapi saya pun tidak yakin itu wajib. Terorisme jarang terjadi bukan karena informasi terkait tersembunyi dengan baik, melainkan karena kebanyakan orang memang tidak ingin membuat bom dan membunuh orang di sekitarnya
Apa saya sudah terlalu tenggelam dalam gelembung Luddite? Di tempat kerja saya memang cukup menonjol sebagai skeptis terhadap vibe coding, jadi saya mengikuti arus terbaru mulai dari MCP, agent, sampai skill lewat rekan-rekan yang antusias memamerkan produktivitas mereka
Atau apakah ada materi rahasia di dalam data pelatihannya?
Dugaan saya, pemerintah AS mungkin sedang membalas karena tidak suka Anthropic menolak mengerjakan robot pembunuh untuk militer. Atau mungkin ada seseorang yang sedang menghasilkan banyak uang di Polymarket
Bisa juga ini benar-benar karena ketakutan terhadap peretasan dan semacamnya. Tapi kalau begitu, mestinya GPT 5.5 juga ikut dilarang
Gagasannya adalah bahwa model bahasa besar di dalam rangkaian alat yang cukup mumpuni bisa mengotomatisasi pengembangan virus atau memandu langkah demi langkah. Apakah itu benar, apakah Anthropic benar-benar meyakininya, dan apakah pemerintah AS mempercayai klaim itu, saya juga tidak yakin. Tentu saja bisa ada motif lain juga
Anthropic memang pada dasarnya mengatakan Mythos adalah bom atom bagi dunia keamanan komputer
Sedikit keluar topik, tapi saya rasa isu seperti jailbreak bisa mengarah ke diskusi yang berharga
Ini alat pemasaran yang hebat. Pesannya adalah model kami sudah begitu canggih sampai membuat pemerintah takut
Cukup menarik bahwa langkah ini juga berdampak pada warga non-AS yang tinggal di AS dan bekerja di Anthropic
Secara internal sepertinya akan sangat merepotkan untuk ditangani. Saya tidak terlalu paham situasi bidang ini di AS, jadi saya penasaran bagaimana langkah seperti ini berinteraksi dengan aturan ketenagakerjaan anti-diskriminasi
Ini apaan.. wkwk
Komentar Hacker News
Mereka terus melakukan pemasaran ketakutan untuk menjual modelnya seolah jauh lebih unggul dari yang lain, jadi sekarang bisa dibilang mereka sedang menuai akibatnya
Akhirnya tampaknya mereka menemukan audiens berupa orang-orang bodoh yang tepat untuk mempercayai itu
Sepertinya terdengar banyak perusahaan dan pengguna akan bertaruh lebih kuat pada model Tiongkok
Akses negara lain ke model semacam ini mungkin bisa menjadi isu keamanan nasional bagi AS. Tetapi sekarang ketergantungan negara lain pada model seperti ini, dan lebih luas lagi pada teknologi AS secara keseluruhan, juga menjadi isu keamanan nasional dengan cara yang sama
Secara logis, bukankah satu-satunya kesimpulan adalah bahwa AS telah mencapai batas atas kemampuan model yang diizinkan untuk dibuka ke publik? Setelah preseden seperti ini muncul, untuk apa berinvestasi pada model yang lebih pintar
Mungkin yang lebih penting, jika model seperti Mythos yang paling banter hanya peningkatan bertahap dibanding Opus diperlakukan seperti ini, bagaimana semua investasi AI yang bergantung pada ASI/AGI/model yang jauh lebih baik bisa menghasilkan balik modal?
Jika OpenAI atau Grok beroperasi pada tingkat yang sama, rasanya mereka tidak akan kena pentungan tajam dari pemerintah
ChatGPT 2 juga pernah dianggap terlalu kuat untuk dirilis ke publik
AI bergerak lebih cepat daripada budaya dan pola pikir. Setelah kita beradaptasi dengan apa yang bisa dilakukan model-model ini, aturan akan sedikit dilonggarkan, lalu peningkatan bertahap berikutnya akan mengulang semuanya lagi. Selalu begini jalannya
Ini adalah hasil dari spektakel ala Amerika seputar large language model. Kali ini itu justru berbalik merugikan mereka sendiri
Ke depan, entah modelnya benar-benar berbahaya atau tidak, klaim risiko tentang model masa depan tampaknya akan lenyap
Jika pemerintah bisa secara acak memerintahkan penghentian penggunaan model kepada semua orang asing di dalam dan luar AS, tak seorang pun akan mau mengambil risiko membangun sesuatu yang penting di atas model ini. Pada akhirnya, hanya soal waktu sampai perusahaan asing menyusul dan mengambil pasar komersial model seperti ini. Hanya saja AS kemungkinan akan melarang pesaing, seperti yang sering dilakukannya, sehingga dalam praktiknya bisa saja hanya terjadi situasi di mana backend yang dipakai di AS berbeda modelnya
Di saat seperti ini, dengan kekurangan minyak global, kekurangan pupuk, dan intervensi kikuk terhadap perluasan gelembung, kita bahkan sampai harus bersyukur kemudi dipegang oleh stable genius pikun berusia 80-an yang meremehkan rule of law dan dikelilingi dua puluh dua dokter spesialis
Dari sudut pandang perusahaan besar atau organisasi yang punya skala tertentu, sulit menanggung ancaman bahwa inti infrastruktur bisa tiba-tiba dinonaktifkan karena hal seperti ini. Tekanan untuk on-premises dan akses offline akan meningkat secara luar biasa, dan saya rasa seseorang akan memenuhi permintaan itu, entah lewat lisensi bobot maupun lingkungan terbatas seperti TEE/CC
Sebagian akan mengambil risiko lebih besar lalu menang atau kalah, sementara yang lain akan bergerak lebih aman dan perlahan mengumpulkan hasil atau tersingkir
Belum lagi ancaman saat model-model ini mulai menulis kode yang menjalankan pekerjaan perusahaan, atau beroperasi seperti agen. Bisa jadi itu model yang dilatih oleh aktor yang kepentingannya sepenuhnya berlawanan dengan kepentingan kita, baik perusahaan maupun negara
Sekarang ada jauh lebih banyak hal yang perlu dipertimbangkan, dan ini masa yang menarik untuk berbisnis
Bahkan jika memakai model terbuka dari perusahaan Tiongkok, bila akses diputus atau syarat layanannya diubah jadi tidak masuk akal, Anda masih bisa beralih ke on-premises. Itu mungkin merepotkan, tetapi tidak mengancam kelangsungan hidup. Sebaliknya, jika Anda bergantung pada model tertutup lalu aksesnya diputus, rasa sakitnya akan besar
Gambaran besarnya di sini adalah dominasi infrastruktur. Model Tiongkok akan menjadi model yang benar-benar dipakai orang dan dengan begitu menetapkan standar. Lalu akan muncul lebih banyak riset, lebih banyak alat, dan seluruh ekosistem di sekitarnya
Bahkan sebelum keributan ini, arus itu sudah mulai terlihat ketika model Tiongkok menjadi model yang paling banyak dipakai di seluruh dunia. https://www.indiatoday.in/amp/technology/features/story/clau...
Jika Anda terlalu lama mengoceh tentang betapa berbahayanya produk Anda, orang-orang yang punya wewenang untuk melarang produk berbahaya di pasar bisa saja mendengarkannya
Terutama jika orang-orang itu saat ini juga sudah kesal pada Anthropic karena dianggap tidak terlalu cerdas dan karena tidak membantu pencapaian tujuan otoriter yang terpisah
Saya tidak menganggap ini sebagai catur 3D dari Anthropic. Mereka bukan ahli strategi jenius di balik layar seperti yang ingin mereka bayangkan. Siapa pun yang benar-benar pernah memakai produknya tahu bahwa Fable dan Mythos bukan mesin kiamat, melainkan perbaikan bertahap. Ini adalah tindakan hukuman dari pemerintahan yang suka menghukum, dan menurut saya Anthropic tanpa sengaja memperkuat pembenarannya lewat retorika bodoh mereka sendiri
Disebutkan bahwa ini terjadi hari ini pada pukul 5:21 PM waktu Timur
Halaman itu menampilkan tanggal 11 Juni 2026, dan dalam 10 menit terakhir telah diperbarui menjadi 12 Juni 2026
https://imgur.com/a/lx7HCW9
Google menunjukkan bahwa halaman ini telah di-crawl beberapa hari lalu
Cukup cari “the us government directive to suspend access to fable”
https://imgur.com/a/EOWWUbD
Tampaknya terlalu luas dan keras untuk melarang warga negara asing menggunakan ini, bahkan jika mereka berada di AS atau merupakan karyawan Anthropic, apa pun negara asalnya. Apalagi kalau alasannya hanya satu potensi kerentanan jailbreak yang sekilas tampak sepele; rasanya ada sesuatu yang lebih besar dari yang terlihat
Bukan berarti itu hasil yang baik bagi para peneliti atau risetnya sendiri. Itu lebih mirip asuransi atas penggunaan dana yang diarahkan oleh AS