Pemerintah AS memerintahkan penghentian akses bagi semua warga negara asing ke Fable 5 dan Mythos 5
(anthropic.com)- Berdasarkan perintah kontrol ekspor yang dikeluarkan pemerintah AS dengan dasar kewenangan keamanan nasional, akses ke Fable 5 dan Mythos 5 untuk semua pemegang kewarganegaraan asing diblokir baik di dalam maupun di luar AS, dan layanan untuk seluruh pelanggan segera dihentikan demi kepatuhan terhadap regulasi
- Perintah diterima pada pukul 5:21 sore ET, dan rincian spesifik kekhawatiran keamanan nasional tidak dijelaskan
- Dasar kekhawatiran pemerintah dipahami berkaitan dengan pengenalan teknik jailbreaking pada Fable 5, namun celah yang diidentifikasi melalui teknik tersebut sudah dikenal dan tergolong ringan, serta dapat ditemukan pada model publik lain tanpa bypass
- Anthropic menyatakan bahwa sebelum peluncuran, model tersebut telah melalui pengujian red team selama ribuan jam bersama pemerintah AS, UK AISI, dan lembaga eksternal, dan tidak ada penguji yang menemukan universal jailbreak
- Anthropic tidak setuju bahwa kemungkinan jailbreak dalam lingkup sempit dapat menjadi alasan untuk menarik model komersial yang digunakan ratusan juta orang, dan menilai bahwa jika standar yang sama diterapkan ke penyedia model lain maka peluncuran model baru praktis akan terhenti
Isi perintah dan dampak langsung
- Pemerintah AS mengeluarkan perintah kontrol ekspor dengan mengutip kewenangan keamanan nasional, sehingga akses ke Fable 5 dan Mythos 5 dihentikan untuk semua warga negara asing (termasuk karyawan Anthropic berkewarganegaraan asing), baik di dalam maupun di luar AS
- Akibat perintah tersebut, demi kepatuhan, Anthropic secara mendadak menonaktifkan Fable 5 dan Mythos 5 untuk seluruh pelanggan
- Akses ke semua model Anthropic lainnya tidak terdampak
- Perintah diterima pada pukul 5:21 sore ET pada hari yang sama, dan surat tersebut tidak memuat rincian spesifik mengenai kekhawatiran keamanan nasional
Perkiraan dasar kekhawatiran pemerintah
- Pemerintah dipahami telah mengetahui teknik bypass jailbreaking pada Fable 5
- Hasil peninjauan terhadap demonstrasi teknik tersebut menunjukkan bahwa teknik itu digunakan untuk mengidentifikasi sejumlah kecil kerentanan ringan yang sudah dikenal
- Kerentanan ini relatif sederhana, dan model publik lain juga dapat menemukannya tanpa bypass
Sikap Anthropic terhadap pengaman Fable
- Anthropic menyatakan telah menerapkan pengaman yang kuat yang secara signifikan menurunkan kemungkinan penyalahgunaan untuk tugas seperti keamanan siber, sampai-sampai banyak pengguna mengeluh bahwa pembatasannya terlalu luas
- Dalam beberapa minggu menjelang peluncuran, Anthropic melakukan verifikasi red team selama ribuan jam bersama pemerintah AS, UK AISI, berbagai lembaga pihak ketiga swasta, dan tim internal
- Dalam pengujian tersebut, pengaman Fable dipastikan secara nyata lebih efektif daripada model lain mana pun yang telah dirilis sebelumnya
- Tidak ada penguji yang menemukan universal jailbreak (cara yang secara luas membypass pengaman model untuk membuka berbagai kemampuan siber)
Batas pertahanan terhadap jailbreak sepenuhnya
- Saat ini, tidak ada penyedia yang tampaknya mampu mencapai ketahanan total terhadap jailbreak, dan seluruh pengaman di industri rentan terhadap non-universal jailbreak (mengarahkan model untuk mengeluarkan sebagian informasi siber dalam situasi tertentu)
- Bahkan universal jailbreak pun pada akhirnya mungkin akan ditemukan di masa depan, dan hal ini telah dinyatakan dengan jelas saat Fable 5 dirilis
Strategi Defense in Depth
- Menghadapi kenyataan bahwa pertahanan sempurna tidak mungkin, Anthropic mengadopsi strategi defense in depth, dengan membuat jailbreak terbatas pada lingkup sempit (non-universal) atau menjadi sangat mahal (universal), lalu mendeteksi dan memblokir serangan dengan cepat melalui pemantauan ketat
- Untuk itu, Fable mewajibkan retensi data pelanggan selama 30 hari; hal ini menimbulkan biaya nyata di sisi pelanggan, tetapi memungkinkan riset dan mitigasi jailbreak
- Anthropic tetap berpegang pada strategi defense in depth, yang menurut mereka telah menurunkan risiko ke tingkat yang sebanding dengan model-model lama yang sudah lebih dulu dirilis di industri
- Anthropic menyatakan belum menerima pengungkapan mengenai non-universal jailbreak yang mengkhawatirkan dan menghasilkan dampak berbahaya; semua potensi jailbreak yang diungkap sejauh ini hanya menghasilkan respons yang tidak berbahaya atau sekadar temuan ringan tanpa keunggulan khas Mythos
Verifikasi terhadap bukti yang diajukan pemerintah
- Hingga saat ini pemerintah hanya menyajikan bukti lisan, yang isinya berupa non-universal jailbreak dalam lingkup sempit: meminta model membaca codebase tertentu dan memperbaiki cacat perangkat lunak
- Anthropic memahami bahwa hanya ada satu potensi jailbreak yang dibagikan kepada pemerintah, dan setelah meninjau laporan yang diduga menjadi dasar perintah tersebut, Anthropic memastikan bahwa tingkat kemampuan yang ditunjukkan juga tersedia luas pada model lain seperti GPT-5.5 milik OpenAI
- Kemampuan tersebut berada pada tingkat yang digunakan setiap hari oleh para defender untuk menjaga sistem
- Rincian tambahan akan dibagikan dalam 24 jam ke depan
Tanggapan dan posisi Anthropic
- Anthropic mematuhi perintah hukum pemerintah dengan menghapus akses ke Fable 5 dan Mythos 5 untuk seluruh pengguna
- Namun, Anthropic tidak setuju bahwa ditemukannya potensi jailbreak dalam lingkup sempit dapat menjadi alasan untuk menarik model komersial yang telah didistribusikan kepada ratusan juta orang
- Jika standar yang sama diterapkan di seluruh industri, Anthropic menilai peluncuran model baru oleh semua penyedia frontier model praktis akan terhenti
- Pemerintah seharusnya memiliki wewenang untuk memblokir peluncuran yang tidak aman, tetapi itu harus menjadi bagian dari proses hukum yang transparan, adil, jelas, dan berlandaskan fakta teknis, dan tindakan kali ini dinilai tidak sesuai dengan prinsip tersebut
- Anthropic meminta maaf atas kebingungan pelanggan, menganggap ini sebagai kesalahpahaman, dan sedang berupaya memulihkan akses secepat mungkin
6 komentar
Sebanyak apa pun saya melihatnya, rasanya selama ini mereka ribut berlebihan sambil terus berkata bahwa model mereka berbahaya, jadi bukankah ini seperti menembak kaki sendiri.
Entah ini nantinya akan jadi keberhasilan atau kegagalan pemasaran, masa depan memang belum tahu, tetapi untuk saat ini terlihat seperti kegagalan.
Melihat arus masuk pengguna Anthropic setelah insiden Pentagon, saya rasa pada titik menjelang IPO ini sama sekali bukan hal yang akan merugikan Anthropic.
Bahkan untuk menutupi isu seperti guardrail, kalau sejak awal modelnya memang tidak dilayani, tidak akan ada lagi yang bisa memverifikasinya, jadi ini juga pas sekali.
Perusahaan AI sekarang tampaknya tidak punya alasan lagi untuk mengembangkan model yang berkinerja lebih baik. Sepertinya perkembangan AI sampai di sini saja.
Ini apaan.. wkwk
Wkwkwkwkwkwkwkwkwkwkwk
Komentar Hacker News
Mereka terus melakukan pemasaran ketakutan untuk menjual modelnya seolah jauh lebih unggul dari yang lain, jadi sekarang bisa dibilang mereka sedang menuai akibatnya
Akhirnya tampaknya mereka menemukan audiens berupa orang-orang bodoh yang tepat untuk mempercayai itu
Sepertinya terdengar banyak perusahaan dan pengguna akan bertaruh lebih kuat pada model Tiongkok
Akses negara lain ke model semacam ini mungkin bisa menjadi isu keamanan nasional bagi AS. Tetapi sekarang ketergantungan negara lain pada model seperti ini, dan lebih luas lagi pada teknologi AS secara keseluruhan, juga menjadi isu keamanan nasional dengan cara yang sama
Secara logis, bukankah satu-satunya kesimpulan adalah bahwa AS telah mencapai batas atas kemampuan model yang diizinkan untuk dibuka ke publik? Setelah preseden seperti ini muncul, untuk apa berinvestasi pada model yang lebih pintar
Mungkin yang lebih penting, jika model seperti Mythos yang paling banter hanya peningkatan bertahap dibanding Opus diperlakukan seperti ini, bagaimana semua investasi AI yang bergantung pada ASI/AGI/model yang jauh lebih baik bisa menghasilkan balik modal?
Jika OpenAI atau Grok beroperasi pada tingkat yang sama, rasanya mereka tidak akan kena pentungan tajam dari pemerintah
ChatGPT 2 juga pernah dianggap terlalu kuat untuk dirilis ke publik
AI bergerak lebih cepat daripada budaya dan pola pikir. Setelah kita beradaptasi dengan apa yang bisa dilakukan model-model ini, aturan akan sedikit dilonggarkan, lalu peningkatan bertahap berikutnya akan mengulang semuanya lagi. Selalu begini jalannya
Ini adalah hasil dari spektakel ala Amerika seputar large language model. Kali ini itu justru berbalik merugikan mereka sendiri
Ke depan, entah modelnya benar-benar berbahaya atau tidak, klaim risiko tentang model masa depan tampaknya akan lenyap
Jika pemerintah bisa secara acak memerintahkan penghentian penggunaan model kepada semua orang asing di dalam dan luar AS, tak seorang pun akan mau mengambil risiko membangun sesuatu yang penting di atas model ini. Pada akhirnya, hanya soal waktu sampai perusahaan asing menyusul dan mengambil pasar komersial model seperti ini. Hanya saja AS kemungkinan akan melarang pesaing, seperti yang sering dilakukannya, sehingga dalam praktiknya bisa saja hanya terjadi situasi di mana backend yang dipakai di AS berbeda modelnya
Di saat seperti ini, dengan kekurangan minyak global, kekurangan pupuk, dan intervensi kikuk terhadap perluasan gelembung, kita bahkan sampai harus bersyukur kemudi dipegang oleh stable genius pikun berusia 80-an yang meremehkan rule of law dan dikelilingi dua puluh dua dokter spesialis
Dari sudut pandang perusahaan besar atau organisasi yang punya skala tertentu, sulit menanggung ancaman bahwa inti infrastruktur bisa tiba-tiba dinonaktifkan karena hal seperti ini. Tekanan untuk on-premises dan akses offline akan meningkat secara luar biasa, dan saya rasa seseorang akan memenuhi permintaan itu, entah lewat lisensi bobot maupun lingkungan terbatas seperti TEE/CC
Sebagian akan mengambil risiko lebih besar lalu menang atau kalah, sementara yang lain akan bergerak lebih aman dan perlahan mengumpulkan hasil atau tersingkir
Belum lagi ancaman saat model-model ini mulai menulis kode yang menjalankan pekerjaan perusahaan, atau beroperasi seperti agen. Bisa jadi itu model yang dilatih oleh aktor yang kepentingannya sepenuhnya berlawanan dengan kepentingan kita, baik perusahaan maupun negara
Sekarang ada jauh lebih banyak hal yang perlu dipertimbangkan, dan ini masa yang menarik untuk berbisnis
Bahkan jika memakai model terbuka dari perusahaan Tiongkok, bila akses diputus atau syarat layanannya diubah jadi tidak masuk akal, Anda masih bisa beralih ke on-premises. Itu mungkin merepotkan, tetapi tidak mengancam kelangsungan hidup. Sebaliknya, jika Anda bergantung pada model tertutup lalu aksesnya diputus, rasa sakitnya akan besar
Gambaran besarnya di sini adalah dominasi infrastruktur. Model Tiongkok akan menjadi model yang benar-benar dipakai orang dan dengan begitu menetapkan standar. Lalu akan muncul lebih banyak riset, lebih banyak alat, dan seluruh ekosistem di sekitarnya
Bahkan sebelum keributan ini, arus itu sudah mulai terlihat ketika model Tiongkok menjadi model yang paling banyak dipakai di seluruh dunia. https://www.indiatoday.in/amp/technology/features/story/clau...
Jika Anda terlalu lama mengoceh tentang betapa berbahayanya produk Anda, orang-orang yang punya wewenang untuk melarang produk berbahaya di pasar bisa saja mendengarkannya
Terutama jika orang-orang itu saat ini juga sudah kesal pada Anthropic karena dianggap tidak terlalu cerdas dan karena tidak membantu pencapaian tujuan otoriter yang terpisah
Saya tidak menganggap ini sebagai catur 3D dari Anthropic. Mereka bukan ahli strategi jenius di balik layar seperti yang ingin mereka bayangkan. Siapa pun yang benar-benar pernah memakai produknya tahu bahwa Fable dan Mythos bukan mesin kiamat, melainkan perbaikan bertahap. Ini adalah tindakan hukuman dari pemerintahan yang suka menghukum, dan menurut saya Anthropic tanpa sengaja memperkuat pembenarannya lewat retorika bodoh mereka sendiri
Disebutkan bahwa ini terjadi hari ini pada pukul 5:21 PM waktu Timur
Halaman itu menampilkan tanggal 11 Juni 2026, dan dalam 10 menit terakhir telah diperbarui menjadi 12 Juni 2026
https://imgur.com/a/lx7HCW9
Google menunjukkan bahwa halaman ini telah di-crawl beberapa hari lalu
Cukup cari “the us government directive to suspend access to fable”
https://imgur.com/a/EOWWUbD
Tampaknya terlalu luas dan keras untuk melarang warga negara asing menggunakan ini, bahkan jika mereka berada di AS atau merupakan karyawan Anthropic, apa pun negara asalnya. Apalagi kalau alasannya hanya satu potensi kerentanan jailbreak yang sekilas tampak sepele; rasanya ada sesuatu yang lebih besar dari yang terlihat
Bukan berarti itu hasil yang baik bagi para peneliti atau risetnya sendiri. Itu lebih mirip asuransi atas penggunaan dana yang diarahkan oleh AS