2 poin oleh GN⁺ 4 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Beberapa hari sebelum Gedung Putih memerintahkan pemblokiran model AI Anthropic, mereka meminta pencabutan akses Claude Mythos milik SK Telecom, dengan latar belakang dugaan keterkaitan SK Telecom dengan Tiongkok
  • Otoritas AS mempermasalahkan hubungan SK Telecom dengan Tiongkok, dan kekhawatiran meningkat setelah Amazon melaporkan kerentanan di Fable 5 kepada Gedung Putih
  • Gedung Putih menilai Anthropic tidak dapat dipercaya untuk mengelola teknologi AI paling mutakhir dengan aman, lalu memerintahkan pencabutan akses Mythos dan Fable 5 untuk semua warga negara asing
  • Anthropic menilai pemblokiran akses berdasarkan kewarganegaraan sulit dilakukan, sehingga memilih menonaktifkan model sepenuhnya, dan hingga kini masih berbeda pendapat dengan Gedung Putih
  • SK Telecom membantah dugaan tersebut, dan dalam surat permintaan pembatasan dari pemerintah AS juga tidak ada penyebutan langsung terhadap perusahaan Korea atau Tiongkok

Kontrol ekspor dan kontroversi akses SK Telecom

  • Langkah kontrol ekspor pemerintahan Trump terhadap teknologi AI terkuat Anthropic bermula dari konflik seputar pemberian akses Claude Mythos oleh Anthropic kepada raksasa telekomunikasi Korea, SK Telecom
    • Pejabat AS menyatakan kekhawatiran dengan mengklaim bahwa SK Telecom terhubung dengan Tiongkok
  • Kekhawatiran bertambah setelah Amazon melaporkan kerentanan yang mereka identifikasi di Fable 5 kepada Gedung Putih
    • Fable 5 adalah versi dengan pengamanan lanjutan dari Mythos yang dibuka untuk publik pada 9 Juni
    • Peneliti Amazon mengklaim dapat melewati sebagian guardrail Fable 5 untuk mengakses kapabilitas siber kuat milik Mythos
    • Anthropic dan pakar keamanan siber eksternal membantah bahwa risiko semacam ini hanya terbatas pada Claude

Perintah Gedung Putih untuk mencabut akses dan respons Anthropic

  • Setelah serangkaian peristiwa ini bertumpuk, Gedung Putih menyimpulkan Anthropic tidak dapat dipercaya, lalu pada Jumat memerintahkan pencabutan akses Mythos dan Fable 5 bagi semua warga negara asing, termasuk imigran di AS
  • Anthropic menilai pemblokiran akses berdasarkan kewarganegaraan sulit dilakukan bersamaan dengan perlindungan privasi, sehingga memutuskan bahwa penonaktifan penuh model adalah pilihan yang lebih baik
    • Gedung Putih dan Anthropic masih berbeda pendapat bahkan setelah negosiasi selama beberapa hari terkait pemulihan Mythos dan Fable 5

Project Glasswing dan bergabungnya SK Telecom

  • Karena Claude Mythos sangat unggul dalam mengidentifikasi kerentanan perangkat lunak, Anthropic membatasi akses awal hanya kepada sejumlah kecil organisasi tepercaya melalui program bernama Project Glasswing
  • Awal bulan ini, operator seluler terbesar Korea, SK Telecom, menjadi salah satu dari sekitar 150 perusahaan yang mendapat akses Mythos ketika program diperluas setelah berminggu-minggu kolaborasi erat dengan pakar eksternal dan pemerintah AS
  • Anthropic menolak berkomentar, sementara Gedung Putih dan SK Telecom tidak segera merespons

Dugaan keterkaitan dengan Tiongkok dan bantahan SK Telecom

Permintaan pencabutan sebelumnya dan investasi SK Telecom di Anthropic

  • Awal bulan ini, segera setelah pengumuman perluasan Project Glasswing, Gedung Putih meminta Anthropic untuk mencabut akses Mythos milik SK Telecom
    • Anthropic segera mematuhinya, dan saat itu pemerintah AS tidak mengancam kontrol ekspor terhadap model tersebut
  • SK Telecom telah beberapa kali menanamkan modal ke Anthropic, dan investasi $100 juta pada 2023 beriringan dengan pembentukan kemitraan komersial untuk mengembangkan model AI yang disesuaikan bagi industri telekomunikasi
  • SK Telecom adalah salah satu dari beberapa organisasi Korea yang berpartisipasi dalam Project Glasswing bersama Samsung Electronics dan Korea Internet and Security Agency

SK Group dan hubungan bisnisnya dengan Tiongkok

  • SK Telecom sendiri tampaknya tidak memiliki bisnis berskala besar di Tiongkok, tetapi merupakan bagian dari konglomerat SK Group, yang memiliki bisnis luas di Tiongkok di bidang semikonduktor, energi, dan lain-lain
  • Pada 2024, SK Telecom membukukan sekitar $1,9 juta pendapatan di Tiongkok, terutama dari aktivitas terkait investasi, dan hanya memiliki 7 karyawan lokal

Jejak bisnis telekomunikasi di Tiongkok selama lebih dari 20 tahun

  • Keterlibatan di industri telekomunikasi Tiongkok telah berlangsung lebih dari 20 tahun
  • Pada 2004, SK Telecom dan operator milik negara China Unicom mendirikan usaha patungan bernama UNISK untuk menyediakan layanan internet nirkabel dan konten mobile di Tiongkok
    • Ini merupakan salah satu usaha patungan pertama antara perusahaan asing dan operator telekomunikasi Tiongkok
  • Pada 2006, SK Telecom menginvestasikan $1 miliar dalam obligasi konversi entitas China Unicom yang terdaftar di Hong Kong, yang kemudian dikonversi menjadi sekitar 6,6% saham
  • Setelah itu kemitraan mulai dibubarkan, dan pada 2009 SK Telecom menjual kembali saham China Unicom senilai sekitar $1,3 miliar, tetapi tetap mempertahankan kepentingan finansial kecil terkait

Arah sanksi AS terhadap China Unicom

  • Pada 2021, pemerintahan Trump pertama membatasi investasi AS di China Unicom sebagai bagian dari langkah yang menyasar perusahaan Tiongkok yang dinilai terkait dengan sektor militer dan intelijen
  • Pada April tahun ini, Federal Communications Commission (FCC) AS mengusulkan pelarangan operator telekomunikasi AS untuk saling terhubung dengan operator Tiongkok seperti China Unicom karena kekhawatiran keamanan nasional

1 komentar

 
GN⁺ 4 jam lalu
Opini Hacker News
  • Melihat artikel dan diskusi terkait Amazon tentang isu ini, tampaknya media teknologi dan komunitas yang serius sedang mencoba mencari alasan sebenarnya pemerintah memblokir model Anthropic
    Tetapi jika mengingat benturan dengan DoD, serta bahwa pemerintahan saat ini jauh lebih mendukung OpenAI dan XAI sekaligus mendapat dukungan dari pihak itu, ini juga bisa jadi hanya satu babak lagi dari pertarungan antara perusahaan yang dianggap “berhaluan progresif” melawan pesaing dan pemerintah
    Mungkin saja ada seseorang dari Amazon yang mengatakan sesuatu, tetapi menurut pisau cukur Occam, tampaknya pemerintah memanfaatkan kesempatan setelah sanksi terhadap pemasok tidak banyak berpengaruh

    • Anthropic sedang melewati fase perlawanan ideologis yang biasanya dialami perusahaan teknologi besar sekali dalam siklus hidupnya. Google, Facebook, Apple, Reddit, Microsoft, terutama Microsoft, semuanya pernah mengalaminya
      Pada akhirnya mereka sadar bahwa melawan pemerintah AS itu sulit, mahal, dan cuma menimbulkan keributan besar, sehingga lebih mudah mencapai titik kompromi kepentingan dengan satu sama lain
    • Ini cuma soal mencari judul yang bisa menarik klik. Semua orang tahu tidak ada ketulusan dalam apa yang dilakukan pemerintahan ini, tetapi berpura-pura seolah ada kontroversi “mungkin ini benar terjadi” sudah jadi bisnis yang menghasilkan uang selama 10 tahun terakhir
    • Sangat tercium upaya pemerintah untuk memilih pemenang. Paling tidak, tampaknya mereka sedang berusaha memilih siapa yang kalah
  • “SK Telecom telah menyuntikkan modal ke Anthropic beberapa kali, dan pada 2023 menginvestasikan 100 juta dolar bersama kemitraan komersial untuk mengembangkan model AI yang disesuaikan untuk industri telekomunikasi”
    “White House meminta Anthropic mencabut akses Mythos milik SK Telecom, dan Anthropic langsung mematuhinya”
    Pelajaran di sini adalah jangan berinvestasi di perusahaan AS

    • Berinvestasi di sebuah perusahaan dan bisa menggunakan layanan perusahaan itu adalah dua hal yang berbeda
      Kehilangan akses model memang tidak menyenangkan, tetapi uang yang didapat dari investasinya kemungkinan jauh melebihi kerugian itu
    • Bukan itu pelajarannya. Uang yang bisa dihasilkan dari investasi di AS sangat besar
      Pelajaran sebenarnya adalah jangan bergantung pada model AI AS. Kita harus berinvestasi dan membangun model dasar yang bisa bersaing, dan kalau bisa juga memiliki bobot terbuka serta infrastruktur bobot terbuka
  • Jika melihat komentar di artikel politik Korea, intinya bukan apakah SKT benar-benar terkait dengan China, tetapi bahwa saklar pemutus pemasok AI kini sudah melampaui ranah spesifikasi performa model
    Saat perusahaan asing mengintegrasikan AI ke alur kerja mereka, tampaknya mereka harus menambahkan keberlanjutan pemasok sebagai salah satu kriteria evaluasi
    Dari sudut pandang perusahaan, kesinambungan tanpa putus itu penting, dan dalam kasus ini Anthropic kemungkinan akan sangat kehilangan kepercayaan karena bertindak bertentangan dengan kebijakan yang mereka sendiri gembar-gemborkan

  • Judul Wired membingkai ulang isu ini dengan cara yang menyesatkan. Masalah SK Telecom sudah dibereskan sebelum peluncuran Fable
    Itu mungkin faktor yang berpengaruh, tetapi inti penghentian ini adalah liputan industri soal jailbreak Fable, dan ada laporan bahwa CEO Amazon Andy Jassy yang mendorongnya
    Sudut pandang yang lebih menarik dan jujur adalah bahwa industri yang tadinya menerima begitu saja keseriusan Glasswing mendadak lengah oleh peluncuran Fable, lalu merasa sepenuhnya terekspos pada sisa risiko sementara antrean perbaikan bug selama berbulan-bulan yang terungkap karena Glasswing masih belum selesai, sehingga mereka ingin membeli lebih banyak waktu
    Terlihat seperti Wired sengaja menyesatkan agar tampak seolah mendapat berita eksklusif, dan kalau benar begitu, ini memalukan karena merupakan peliputan yang tidak jujur

    • Ada dua masalah dengan teori ini
      Pertama, kecil kemungkinan langkah pertama Amazon adalah mengadu ke White House. Jauh lebih mudah bagi Amazon dan Anthropic untuk bicara langsung satu sama lain daripada lewat White House. Diperlukan bukti bahwa Amazon, dan mungkin juga pihak lain, sudah meminta Anthropic agar tidak merilis model setingkat Mythos tetapi Anthropic mengabaikannya dan tetap meluncurkannya. Apakah ada pernyataan seperti itu yang tercatat secara publik?
      Kedua, jailbreak yang ditemukan Amazon itu harus benar-benar nyata. Para staf White House mungkin bukan ahli AI dan bisa saja tidak paham apa itu jailbreak, tetapi jauh lebih sulit melontarkan klaim itu kepada Andy Jassy. Jika alasan sebenarnya di balik perintah kontrol ekspor adalah jailbreak tersebut, maka jailbreak itu harus signifikan dan cukup merugikan Amazon secara nyata. Dan harus diasumsikan juga bahwa Dario sebelumnya sudah menolak, barulah masuk akal Jassy membawanya ke White House
      Tetapi tidak ada bukti bahwa jailbreak itu benar-benar nyata. Yang ada hanya satu cerita bahwa itu sebatas permintaan seperti “tolong perbaiki kode ini”. Bagaimanapun, Anthropic sendiri secara terbuka menyatakan bahwa apa yang disebut jailbreak itu tidak memungkinkan pengerjaan kerentanan yang sebelumnya belum bisa dilakukan dengan model lain
    • Sejak beberapa tahun lalu Wired sudah jadi semacam NY Post versi kubu seberang
    • Kalau Amazon memang terlibat, adakah tafsir lain selain mereka sedang berusaha menjegal Anthropic? Amazon punya kontrak untuk menyediakan model Anthropic di AWS, jadi saya tidak paham kenapa mereka mau bergerak merugikan Anthropic
    • Akhir-akhir ini kebanyakan judul berita memang terasa menyesatkan. Media sosial sudah merusak jurnalisme
    • Betul. Perusahaan yang ada di pusat isu ini adalah Amazon. Meski begitu, bukan hanya Amazon; minggu lalu saya juga kebetulan bisa menjailbreak Fable: https://news.ycombinator.com/item?id=48576628
  • Kalau begitu, kenapa ini bahkan tidak bisa dipakai di dalam AS sendiri?

  • Jika China merilis model serupa dalam 6 bulan, seluruh kontroversi Fable 5 ini akan terlihat cukup konyol

    • Fable/Mythos adalah model pertama dari Anthropic yang menyembunyikan token penalaran 100%. Sekarang tampaknya akan ada jauh lebih banyak data tentang seberapa besar kemajuan model China selama ini ditopang oleh teknik distilasi
    • Google tidak bisa, OpenAI juga tidak melakukannya, Meta juga tidak
      Saya tidak tahu kenapa orang mengira China bisa
      Saya cukup yakin kesenjangannya justru akan makin lebar
    • Kalau tidak ada pembatasan, mungkin tidak sampai sebulan. Salah satu alasannya mungkin karena China bisa memakai distilasi untuk mencapai performa setara
  • Sangat realistis bahwa modal China merembes ke seluruh masyarakat Korea melalui perusahaan domestik Korea dan politisi Korea

  • Lebih dari 10 tahun lalu, saya pernah ikut komunitas teknologi yang di dalamnya ada seorang pemimpin keamanan yang belakangan diketahui perusahaannya diakuisisi besar-besaran oleh Cisco beberapa tahun kemudian
    Seorang mahasiswa ingin membuat proyek untuk menembus Great Firewall China, tetapi pemimpin keamanan itu mengatakan kepada mahasiswa tersebut bahwa idenya bodoh dan mustahil, jadi jangan coba-coba sekalipun. Padahal dia mantan hacker dan mengaku mendukung kebebasan berekspresi
    Saya menilai alasan sebenarnya dia berkata begitu kepada mahasiswa itu adalah karena dia mendukung pemerintah China. Beberapa pernyataan lain yang saya dengar setelahnya membuat saya yakin itu benar, dan saya menduga startup tersebut bahkan menerima dana dari pemerintah China
    Sangat mengecewakan bahwa para pemimpin teknologi bisa selama puluhan tahun secara terbuka mendukung rezim pembunuh seperti pemerintah China tanpa menerima reaksi balik apa pun. Pemerintah China jauh lebih buruk daripada Putin dan pemerintah Rusia, dan punya uang serta teknologi sekitar 100 kali lebih besar
    Kalau dia mendukung Rusia, kemungkinan dia sudah diboikot dan tidak akan bisa lagi bertahan di industri teknologi

  • Banyak dari kita mengenal programmer dan pakar keamanan siber yang lebih hebat daripada Claude Fable atau Mythos
    Mengejutkan melihat model seperti ini diperlakukan dengan pujian besar dan kehati-hatian berlebihan, sementara pada saat yang sama manusia yang punya keahlian lebih tinggi justru dibuang dan di-PHK

    • Orang-orang seperti itu memang ada, tetapi langka, sulit diidentifikasi dan direkrut, serta butuh bertahun-tahun untuk dilatih. Mythos/Fable bisa langsung dipakai seperti keran air
    • Rasanya Anda mengabaikan bahwa pujian dan perhatian seperti itu bukanlah kebetulan. Itu adalah hasil langsung dari kampanye promosi besar-besaran Anthropic
      AGI dan Skynet adalah pemasaran mereka, dan Dario berada di garis depan promosi berlebihan itu
      Jangan salah paham. Ini bukan startup biasa, melainkan perusahaan bernilai 1 triliun dolar yang punya uang dan potensi kekuasaan untuk memengaruhi kebijakan, termasuk dengan cara melarang pesaing