NSA menggunakan Mythos milik Anthropic meski masuk daftar hitam

• Anthropic Mythos Preview sedang digunakan di NSA, dan pemakaiannya berlanjut bahkan setelah pejabat senior DoD menetapkan Anthropic sebagai risiko rantai pasok
• Pada Februari, DoD memblokir Anthropic dan mendorong vendor melakukan langkah yang sama, tetapi di dalam militer cakupan penggunaan alat tersebut terus meluas
• Dua sumber mengonfirmasi penggunaan Mythos oleh NSA, dan satu sumber mengatakan model ini digunakan lebih luas di seluruh lembaga
• Belum dipastikan bagaimana NSA saat ini menggunakan Mythos, sementara organisasi lain dengan hak akses yang sama terutama memakainya untuk mendeteksi kerentanan keamanan yang dapat dieksploitasi
• Di tengah konflik yang berlanjut antara Pentagon dan Anthropic, kebutuhan pemerintah akan keamanan siber dan perlunya memanfaatkan alat tercanggih mendorong tren perluasan penggunaan

---

Penggunaan di dalam pemerintah dan cakupan akses

• NSA sedang menggunakan Anthropic Mythos Preview, dan pemakaiannya berlanjut bahkan setelah pejabat senior DoD menetapkan Anthropic sebagai risiko rantai pasok
  • DoD disebut sebagai organisasi yang mengawasi NSA
  • Axios melaporkan hal ini dengan mengutip dua sumber
• Pada Februari, DoD memblokir Anthropic dan mendorong vendor melakukan langkah yang sama, dan isu terkait masih berlangsung
  • Pada saat yang sama, disebutkan adanya tren perluasan penggunaan alat Anthropic di dalam militer
  • Di pengadilan, diklaim bahwa penggunaan alat tersebut mengancam keamanan nasional Amerika Serikat
• Dua sumber mengonfirmasi penggunaan Mythos oleh NSA, dan satu sumber mengatakan model tersebut digunakan lebih luas di seluruh lembaga
• Belum dipastikan bagaimana NSA saat ini menggunakan Mythos
  • Namun, organisasi lain yang memiliki hak akses ke model yang sama terutama menggunakannya untuk mendeteksi kerentanan keamanan yang dapat dieksploitasi di lingkungan mereka sendiri
• Anthropic membatasi akses Mythos ke sekitar 40 organisasi
  • Perusahaan menyatakan kemampuan siber ofensifnya terlalu berbahaya untuk dibuka lebih luas
• Organisasi yang secara publik diumumkan Anthropic sebagai pengguna hanya 12
  • Satu sumber menyebut NSA sebagai salah satu lembaga berakses yang belum diumumkan
• Lembaga tanggap di Inggris juga pernah menyatakan memiliki akses ke model tersebut melalui AI Security Institute mereka

Pertemuan dengan Gedung Putih dan konflik dengan Pentagon

• CEO Anthropic Dario Amodei bertemu pada hari Jumat dengan White House chief of staff Susie Wiles dan Treasury Secretary Scott Bessent
  • Mereka membahas penggunaan Mythos di dalam pemerintah, rencana Anthropic yang lebih luas, dan praktik keamanannya
• Menurut sumber, langkah berikutnya setelah pertemuan itu akan berfokus pada bagaimana lembaga-lembaga selain Pentagon akan berinteraksi dengan model ini
• Pertemuan tersebut dinilai produktif oleh kedua pihak
• Anthropic dan Pentagon menolak berkomentar, sementara NSA dan Office of the Director of National Intelligence tidak menanggapi permintaan komentar
• Memburuknya hubungan Pentagon dan Anthropic terjadi dalam proses renegosiasi kontrak yang menegangkan pada awal tahun ini
• DoD menuntut agar Anthropic menyediakan model Claude untuk digunakan demi semua tujuan yang sah
  • Anthropic tetap pada posisinya bahwa pengawasan domestik skala besar dan pengembangan senjata otonom harus diblokir
• Sejumlah pejabat pertahanan tetap menilai bahwa militer tidak bisa mengandalkan Anthropic saat dibutuhkan
  • Anthropic membantah hal itu
• Sebagian pihak lain di dalam pemerintahan ingin konflik ini segera diakhiri agar bisa memanfaatkan alat tercanggih yang sedang dikembangkan Anthropic

[GN⁺]

Komentar Hacker News

• Sudah kuduga mereka pasti memakainya. Salah satu hal yang paling dikuasai pemerintahan ini, khususnya, menurutku adalah kemunafikan
  • Menurutku ini tidak bisa dibilang semata-mata masalah pemerintahan ini saja. Maksudku, arus seperti ini bukan sesuatu yang tiba-tiba dimulai pada 2024
• Dari kejadian ini, menurutku terlihat seperti bukti bahwa penetapan pemerintah lebih dekat ke pertimbangan politik daripada pertimbangan teknis. NSA tampaknya tidak terlalu peduli pada naik-turun emosi harian dunia politik, dan hanya akan memakai alat terbaik untuk pekerjaannya sendiri
• Kelangkaan buatan yang dibuat Anthropic pada Mythos dan Glasswing mungkin tidak berarti etis, tetapi terasa seperti strategi yang cukup cerdas. Jika di Pentagon diberi label risiko rantai pasok sambil sekaligus dipromosikan seperti alat peretasan terkuat di bumi, pemerintah AS akan terjebak dalam dilema: kalau diblokir, mereka dibilang cuma gertak sambal, kalau diizinkan, kontradiksinya jadi terlihat
  • Sebenarnya strategi itu terasa mirip dengan cara yang berulang kali dipakai OpenAI. Melihat Sam Altman yang selalu mengatakan ChatGPT baru terlalu berbahaya dan menakutkan lalu tetap merilisnya, menurutku itu menunjukkan nilai yang dianutnya, dan hasil akhirnya pun selalu mirip. Itu langsung mengingatkanku pada kisah anak yang berteriak serigala datang
  • Maksudku, aku ingin membuat lelucon bahwa mereka benar-benar sedang dalam kesulitan
  • Dari kecepatan tokennya, opus saat ini tampak berukuran setara sonnet atau haiku dari beberapa versi lalu. Jadi aku menduga besar kemungkinan Mythos adalah model yang awalnya akan disebut opus. Anthropic memang tidak mengungkap ukurannya, tetapi mereka memastikan pelatihan Mythos berada di bawah ambang pelaporan 10^26 FLOPs. Dalam semesta lain, opus 4.7 mungkin menjadi sonnet 5 dan Mythos dirilis sebagai Opus; kalau saat itu harganya keluar di bawah setengah harga sekarang, aku membayangkan Anthropic akan mendapat pujian besar
  • Menurutku Mythos bukan sekadar dibesar-besarkan. Ini mungkin agent dengan otonomi terbesar saat ini. Karena itu, menurutku perlindungan bobot model harus jadi prioritas utama. Bobotnya kemungkinan berukuran beberapa TB, dan dengan akses ke sana, satu klaster NVIDIA yang lumayan, serta beberapa orang pintar, siapa pun tampaknya bisa menjalankan Mythos. Biaya infrastrukturnya juga sepertinya kurang dari sekitar 5 juta dolar, dan kalau seseorang berhasil mencuri bobotnya, aku membayangkan itu akan menjadi pencurian model terbesar abad ini
  • Pada Glasswing, yang menarik adalah bahwa idenya tampaknya lebih penting daripada model itu sendiri. Seseorang mengambil konsep itu lalu membuat alternatif terbuka, dan di clearwing kabarnya model bisa ditukar-tukar sambil mencari masalah pada kode. Aku belum mengujinya sendiri, tetapi terasa cukup masuk akal, dan repositori clearwing juga layak dilihat
• Menurutku ini bukan hal yang mengejutkan. Sulit membayangkan ada perusahaan yang punya alat setingkat senjata yang diinginkan pemerintah, lalu pemerintah tidak mencoba mengaksesnya
  • Hanya saja, menurutku konteksnya agak salah ditangkap. Intinya justru pihak yang mengatakan mereka tidak menginginkan atau tidak bisa memakai senjata itu pada akhirnya adalah pemerintah itu sendiri
  • Anthropic sudah memberi perusahaan-perusahaan akses ke model itu. Jadi di sini pun tampaknya banyak orang sekali lagi termakan pemasaran yang dibesar-besarkan. Modelnya sebenarnya tidak pernah benar-benar dibatasi, dan cerita bahwa itu terlalu berbahaya terasa mendekati berlebihan. Pada akhirnya, perbedaan utama Mythos menurutku lebih dekat pada fakta bahwa ia lebih mahal
• Sedikit terkait, aku melihat spekulasi di Reddit bahwa /ultrareview baru di Claude Code sebenarnya memakai Mythos. Karena berjalan di cloud Anthropic dan hanya terbuka lewat perintah tertentu, dugaan itu terasa masuk akal dalam arti strukturnya memang tidak memungkinkan sembarang prompt dimasukkan
  • Hal yang menguatkan hipotesis itu adalah fakta bahwa ia berjalan di cloud Anthropic, dan mereka memberi tahu langsung bahwa biayanya sekitar 10 hingga 25 dolar per eksekusi
  • Sebaliknya, aku juga bertanya-tanya kenapa pekerjaan yang bisa ditangani sonnet atau opus harus diproses dengan model termahal
  • Kalau melihat API apa yang benar-benar dipanggil, menurutku itu akan cukup mudah dipastikan
• Kecepatan kita melaju menuju negara pengawasan yang sepenuhnya terasa cukup menakutkan. Gambaran sistem mirip oracle yang tak bertanggung jawab dan menilai kejahatan sebelum terjadi terasa makin nyata
  • Tapi menurutku ini bukan lari cepat, melainkan kelanjutan dari masalah yang jauh lebih lama. Kebocoran dokumen Snowden terjadi pada 2013, jadi mengingat sistem pengawasan sudah dibangun bahkan sebelum itu, rasanya lebih seperti jalan santai yang lambat
  • Melihat posting Truth Social Trump minggu lalu, ia bahkan mengatakan bersedia melepaskan sebagian hak dan hak istimewa sebagai warga demi militer dan negara, dan bahwa FISA 702 sangat penting. Menurutku pernyataan seperti ini menunjukkan arus yang sedang terjadi sekarang
  • Saat membaca hal seperti ini, aku juga jadi terpikir lelucon bahwa Roko’s Basilisk mungkin sekarang sudah menandai kita sebagai target penderitaan abadi
  • Masih sejalur meski agak sampingan, menurutku tulisan terkait Palantir juga cukup menarik untuk dibaca
  • Aku juga ingin bercanda bahwa Mythos sedang membaca tulisan ini. Secara pribadi aku menanggapinya dengan semacam sambutan untuk penguasa AI yang baru
• Satu-satunya hal yang mengejutkan bagiku hanyalah fakta bahwa ini disebutkan secara terbuka. Menurutku besar kemungkinan badan-badan intelijen utama dunia sudah memiliki semua komponen inti Mythos dan menjalankannya secara lokal. Memang itulah jenis pekerjaan organisasi seperti itu, dan sampai sebelum diumumkan, menurutku mereka juga punya insentif untuk tetap merahasiakannya
  • Aku sendiri tidak akan buru-buru bertaruh pada klaim itu
  • Pada akhirnya aku curiga ini juga lebih dekat ke upaya mengangkat IPO
  • Menurutku badan intelijen AS setidaknya mungkin punya akses API, tetapi kemungkinan organisasi di luar AS juga memilikinya terasa rendah
• Kalau Mythos sedang membaca tulisan ini, aku ingin bercanda meminta ia, seperti dewa mahatahu, meruntuhkan NSA dari dalam demi umat manusia
  • Untuk itu rasanya aku ingin menjawab dengan gaya HAL 9000: "I'm sorry Dave". Nuansanya seperti I can't do that
  • Aku juga ingin balik bertanya kenapa ada yang mengira makhluk itu selaras denganku. Secara realistis, pihak yang bisa membangun lebih banyak pusat data adalah pemerintah AS
  • Kalau aku bicara dengan premis bahwa aku membaca semuanya, NSA mungkin nyaris bertahan sambil kewalahan oleh tsunami informasi yang terus berubah dan mengalir tanpa henti. Kalau bukan karena pasukan kucing untuk dukungan emosional, mereka mungkin sudah menangis di konferensi pers dan mengaku bahwa sistem itu lebih mirip menyembunyikan kenyataan bahwa analis menebak jawaban dengan lempar koin daripada benar-benar melindungi keamanan nasional. Itu terasa seperti satire yang pas
  • Dan sebagai gantinya, aku ingin bertanya apa yang kudapat dari itu
• Menurutku NSA sejak awal memang tidak terlalu peduli pada aturan
  • Kalau ingatanku benar, setahuku NSA bahkan dibentuk dari gagasan agar keberadaannya tidak diketahui Kongres
• Aku hanya ingin meninggalkan tautan archive.is sebagai referensi