Kantor X di Prancis digeledah, Inggris mulai penyelidikan baru terhadap Grok

 (bbc.com)
1 poin oleh GN⁺ 2026-02-04 | 1 komentar | Bagikan ke WhatsApp
  • Unit investigasi kejahatan siber Prancis menggeledah kantor X di Paris dan sedang menyelidiki dugaan ekstraksi data ilegal serta persekongkolan kepemilikan materi pornografi anak
  • Elon Musk dan mantan CEO Linda Yaccarino telah diberi pemberitahuan untuk hadir dalam sidang dengar pendapat pada April, sementara X membantah penyelidikan ini sebagai “serangan politik”
  • Information Commissioner's Office (ICO) di Inggris juga memulai penyelidikan terpisah atas alat AI Grok karena kemungkinan pembuatan gambar dan video seksual
  • Ofcom menyatakan masalah penyebaran deepfake seksual di platform X ditangani sebagai isu mendesak, tetapi kewenangannya terkait chatbot masih terbatas
  • Dengan penyelidikan serentak di Eropa dan Inggris, tanggung jawab X dan Grok atas pemrosesan data serta moderasi konten kini meluas secara internasional

Penggeledahan kantor X di Prancis

  • Unit kejahatan siber Kejaksaan Paris menggeledah kantor X
    • Tuduhannya mencakup ekstraksi data ilegal, persekongkolan kepemilikan materi pornografi anak, dan pelanggaran hak citra melalui deepfake seksual
    • Penyelidikan dimulai pada Januari 2025 dari pemeriksaan atas konten algoritme rekomendasi X, lalu diperluas pada Juli tahun yang sama ke chatbot AI Grok
  • Jaksa sedang menyelidiki apakah X melanggar sejumlah hukum, dan Musk serta Yaccarino diperintahkan hadir dalam sidang dengar pendapat pada April
  • Dalam pernyataannya, X membantah tuduhan tersebut dan menyebutnya sebagai “penyalahgunaan yang mengancam kebebasan berekspresi”
    • Musk memposting di X bahwa ini adalah “serangan politik”, dan Yaccarino menyebutnya “pembalasan politik terhadap warga Amerika”

Penyelidikan Inggris terkait Grok

  • Ofcom Inggris masih menyelidiki kasus gambar deepfake seksual yang dibuat oleh Grok dan disebarkan di X
    • Korban, politisi, dan kelompok keselamatan daring telah melontarkan kritik keras pada Januari
    • X kemudian memblokir tindakan tersebut, dan Ofcom menanganinya sebagai “isu mendesak”
  • Namun, Ofcom menyatakan kewenangannya tidak cukup untuk langsung menyelidiki pembuatan gambar ilegal terkait chatbot
  • Karena itu, ICO akan bekerja sama dengan Ofcom untuk menyelidiki cara Grok memproses data pribadi
    • William Malcolm dari ICO mengatakan bahwa “penggunaan data pribadi tanpa persetujuan untuk membuat gambar seksual adalah masalah serius”
  • Pada akhir Januari, Komisi Eropa juga mengumumkan penyelidikan terpisah terhadap perusahaan induk Grok, xAI
    • Juru bicara Komisi mengatakan pihaknya sedang berdiskusi dengan otoritas Prancis terkait penggeledahan kantor X

Kritik Pavel Durov

  • Pendiri Telegram Pavel Durov mengkritik otoritas Prancis dan menyatakan bahwa “ini bukan negara yang bebas”
    • Ia memposting bahwa “Prancis adalah satu-satunya negara yang menindak secara pidana semua jejaring sosial yang mengizinkan kebebasan”
  • Durov ditangkap di Prancis pada Agustus 2024 atas tuduhan membiarkan aktivitas kriminal di dalam platform, lalu setelah sebagian mengubah cara operasionalnya, ia mendapat izin keluar negeri pada Maret 2025
    • Perubahan itu mencakup penyediaan data pengguna bila ada permintaan hukum

Bacaan terkait

1 komentar

 
GN⁺ 2026-02-04
Komentar Hacker News

  • Kepada orang-orang yang bilang penggeledahan dan penyitaan fisik itu tidak ada gunanya, saya ingin mengatakan ini
    Jika diasumsikan perusahaannya normal dan taat hukum, mungkin memang begitu, tetapi begitu ada aktivitas mencurigakan, semua praktik baik hilang
    Email ditulis seperti sandi atau dihapus, catatan disembunyikan, tetapi pada akhirnya tetap ada jejak yang tertinggal
    Karena alasan ini, untuk melacak aktivitas yang kompleks, penggeledahan nyata memang diperlukan

    • Ini hanyalah prosedur penyidikan yang mendasar
      Jika ada dugaan tindak pidana, bukti harus diamankan. Menuntut tanpa penggeledahan dan penyitaan tidak masuk akal
    • Kalau hanya karena “AI nude”, menurut saya ini berlebihan
      Gambar yang dibuat AI hanyalah ilustrasi digital palsu, tetapi ini terlihat seperti memicu kemarahan pada tingkat negara
      Ini cuma setara mainan anak laki-laki remaja, jadi membuat pertunjukan kemarahan nasional gara-gara ini terasa konyol
    • Sebenarnya penggeledahan ini tampaknya hanya alat untuk menghukum perusahaan, bukan untuk memperoleh data terkait Grok

  • Tidak ada platform yang boleh membiarkan CSAM (materi eksploitasi seksual anak)
    Namun X tidak mengeluarkan uang untuk pengaman atau pemfilteran konten. Ini bukan soal sensor, melainkan soal menghindari tanggung jawab

    • Saya tidak setuju. Yang harus dihukum adalah pengguna, bukan pembuat alatnya
      Jika kita mulai meminta pertanggungjawaban penyedia alat, pada akhirnya itu akan mengarah pada penyusutan kebebasan
    • Dulu di Twitter lama, BlueSky, dan Mastodon juga banyak konten seperti itu. Tidak ada yang baru
    • Pada 1990-an pun CSAM tersebar di internet, dan saat itu masyarakat juga terkejut
      Tetapi kenapa sekarang tiba-tiba ditanggapi sekeras ini, saya jadi bertanya-tanya
      Mungkin ini “penindakan palsu” untuk menutupi kecurigaan terkait kalangan elite setelah kasus Epstein?
    • Dulu CSAM berarti anak sungguhan, tetapi sekarang bahkan mencakup gambar buatan AI
      Kalau begitu, apakah gambar AI yang penuh kekerasan juga harus dilarang? Apakah kekejaman setingkat film masih boleh?
      Tidak jelas sampai titik mana sesuatu dianggap “tidak dapat diterima”
    • Saya belum pernah melihat bukti bahwa Grok benar-benar menghasilkan CSAM
      Saya pernah melihat manipulasi gambar pakaian renang, tetapi itu bukan CSAM menurut definisi hukum

  • Ada tuduhan “penipuan data terorganisasi”, dan kalau ini diterapkan luas, saya rasa dampaknya akan besar bagi seluruh industri media sosial

    • Ini terlihat seperti penyelidikan dengan model “tetapkan orangnya dulu, lalu cari kejahatannya”
      Ini tampak seperti langkah UE untuk memperkuat kontrol atas media sosial asing seperti China atau Rusia
      Jika AS tidak mau menerima lebih banyak regulasi ekspresi, UE tampaknya akan mendorong alternatifnya sendiri

  • Seperti khas HN, semua orang sedang berdebat panas soal rule of law dan masalah CSAM

  • Ada laporan bahwa saudara pemilik X/Grok terhubung dengan pelaku perdagangan seks anak yang pernah dihukum
    Grok sampai disebut sebagai generator pornografi anak, tetapi masih ada orang yang mengabaikannya sambil menyebutnya “teori konspirasi”

  • Kejaksaan Prancis sedang menyelidiki X atas berbagai dugaan pelanggaran hukum, tetapi ini tampak hanya sebagai tekanan politik
    Selain mengganggu karyawan lokal, tidak ada manfaat nyatanya

    • Namun penyitaan catatan juga merupakan prosedur penyidikan yang normal
      Sistem peradilan Prancis masuk akal, jadi tanpa bukti khusus sebaliknya, saya menganggap ini penyidikan yang sah
    • Ada bukti bahwa perusahaan benar-benar menyebarkan CSAM dan pornografi deepfake lalu memperoleh keuntungan darinya
      Untuk memeriksa apakah ada unsur kesengajaan, penggeledahan dan penyitaan diperlukan
      Pembahasan hukum terkait juga dibahas dalam makalah ini
    • Bagaimanapun juga, ini adalah tekanan politik. UE tidak mentoleransi perbedaan pendapat
    • OpenAI dan Google juga menghadapi masalah serupa
      Sebanyak apa pun uang digelontorkan, sulit untuk sepenuhnya mencegah penyalahgunaan AI

  • Saya penasaran apa yang ingin mereka temukan dengan menggerebek kantor Prancis. Apakah ada semacam “dokumen rencana CSAM Grok”?

    • Mungkin mengejutkan, tetapi orang memang benar-benar menulis rencana kejahatan dalam email
      Contohnya ada di dokumen internal Facebook
    • Tampaknya mereka ingin mencari catatan pengambilan keputusan internal tentang apakah Grok diketahui menghasilkan gambar bermasalah namun dibiarkan begitu saja
    • Mungkin ada email dari cabang Prancis yang memperingatkan kantor pusat soal potensi pelanggaran hukum
    • Menurut artikel WaPo, xAI dengan sengaja melonggarkan pembatasan konten seksual
      Ada juga kesaksian bahwa karyawan melatih model dengan konten berisiko
      Tim penyidik tampaknya sedang mencari komunikasi internal seperti ini dan peringatan yang diabaikan
    • Setelah publikasi berkas Epstein, saya rasa kemungkinan adanya “email rencana kejahatan” sungguh meningkat

  • Insiden kali ini praktis memberi pembenaran bagi para pendukung sensor AI
    Kini kita memasuki era di mana perusahaan AI harus memikul tanggung jawab model itu sendiri, bukan pengguna
    Pada akhirnya tampaknya model tertutup dan verifikasi identitas akan makin diperkuat

    • Tidak berbeda dari platform lain. Hanya saja kali ini bedanya bukan “distribusi”, melainkan “generasi”
    • Masalahnya bukan kemungkinan untuk menghasilkan, melainkan fakta bahwa mereka mempromosikannya sambil tahu
      Apakah benar-benar ada pengetahuan tentang hal itu adalah inti tanggung jawab hukumnya
    • Diragukan apakah X telah mengambil langkah yang cukup untuk mencegah distribusi konten ilegal
      Dengan menambahkan fitur generatif AI, mereka justru mendorong produksi konten ilegal
    • Ini bukan sensor, melainkan sanksi terhadap platform yang tidak selaras
      UE sudah menganggap platform ini sebagai duri dalam daging sejak akuisisi X
    • Ini bukan “sensor”, melainkan semata soal tanggung jawab operasional
      Jika dibiarkan tanpa pemfilteran, itu jelas merupakan kelalaian

  • Kontroversi seperti ini tampaknya juga akan berdampak buruk pada IPO SpaceX

    • Jika penyelidikan xAI juga memengaruhi kontrak dengan SpaceX, besar kemungkinan akan muncul gugatan karena masalah benturan kepentingan

  • Ada ironi dalam ungkapan “orang Rusia membahas kebebasan dari penjara Prancis”
    Ini terdengar seperti pesan bahwa Prancis tidak menyambut para pelaku kejahatan seperti itu