X/Twitter memperbarui ketentuan yang mengizinkan penggunaan postingan untuk pelatihan AI

 (stackdiary.com)
1 poin oleh GN⁺ 2023-09-02 | 1 komentar | Bagikan ke WhatsApp
  • Ketentuan Layanan baru X/Twitter memungkinkan postingan pengguna digunakan untuk pelatihan AI, dan isu utamanya adalah X memperluas cakupan pemanfaatan datanya sendiri setelah selama ini membatasi scraper eksternal
  • Elon Musk sebelumnya mempersoalkan penggunaan data Twitter oleh Microsoft, tetapi kini X bergerak ke arah yang memungkinkan konten pengguna dimanfaatkan untuk pelatihan model AI
  • Ajakan kepada jurnalis untuk memposting langsung di X, ditambah struktur kerja sama xAI dengan X dan Tesla, memicu kekhawatiran bahwa data X dapat menjadi sumber pasokan data berkelanjutan bagi xAI
  • Definisi berbasis AI dalam ketentuan yang diperbarui dapat berujung pada pembatasan atau pemblokiran akses ke konten, yang dapat memengaruhi paparan tweet atau tagar tertentu serta penyebaran konten
  • Pengalaman platform bisa menjadi lebih mirip ruang yang dipersonalisasi berdasarkan identitas pengguna yang didefinisikan AI, alih-alih ruang publik yang sama untuk semua orang

Pemanfaatan data yang dibidik oleh perubahan ketentuan X/Twitter

  • Ketentuan baru memungkinkan postingan pengguna digunakan untuk pelatihan AI
  • Perubahan ini sejalan dengan arus kontroversi yang melibatkan data pelatihan AI dan ketentuan layanan di berbagai perusahaan
    • Brave disebut dalam isu penjualan data berhak cipta untuk pelatihan AI
    • Zoom disebut sebagai contoh perubahan ketentuan yang menggunakan konten pengguna untuk pelatihan AI
    • AWS dibandingkan dengan struktur yang secara default menjadikan penggunaan data terkait layanan AI sebagai opt-in
  • X telah mengambil langkah untuk mengisolasi platform dari scraper eksternal, dan setelah peluncuran xAI, poin utama yang diperdebatkan adalah bahwa data X dapat dimanfaatkan untuk pelatihan AI

Hubungan Elon Musk, xAI, dan konten pengguna

  • Elon Musk sebelumnya mengatakan bahwa Microsoft menggunakan data Twitter secara ilegal, dan pernah menunjukkan sikap untuk membawa Microsoft ke pengadilan
  • Kini, saat X sendiri mengubah ketentuannya ke arah penggunaan konten pengguna untuk pelatihan AI, muncul kritik bahwa pengguna pada akhirnya berkontribusi pada bisnis AI Musk tanpa izin terpisah atau kompensasi
  • Musk pernah mengatakan kepada para jurnalis bahwa jika mereka menginginkan kebebasan dan pendapatan yang lebih besar, mereka sebaiknya memposting langsung di X
    • Pernyataan ini dapat ditafsirkan sebagai upaya mengumpulkan informasi eksklusif dan menarik di X, lalu memanfaatkan data tersebut untuk pelatihan model
  • Halaman utama xAI menyatakan bahwa xAI adalah perusahaan yang terpisah dari X Corp, tetapi bekerja sama erat dengan X (Twitter), Tesla, dan lainnya
  • Dengan asumsi bahwa kualitas dan keunikan data bisa menjadi hambatan utama dalam AI, data X dapat berfungsi sebagai sumber pasokan data berkelanjutan untuk xAI

Perubahan yang mungkin muncul pada pengalaman pengguna

  • Sesuai definisi berbasis AI dalam ketentuan yang diperbarui, akses pengguna ke konten dapat dibatasi atau diblokir
    • Tweet atau tagar tertentu mungkin tidak terlihat
    • Konten milik pengguna sendiri bisa menjadi lebih sulit menjangkau audiens yang lebih luas
  • Di Twitter, kontroversi soal shadow banning pernah muncul sebelumnya, tetapi otomatisasi dan campur tangan AI dapat bekerja dengan cara yang lebih canggih dan luas
  • Pola seperti ini kemungkinan tidak akan berhenti di Twitter saja, tetapi dapat meluas ke seluruh internet
    • Hasil pencarian Google
    • Paparan berita di feed Facebook
    • Jalur dan pilihan yang dapat dilihat pengguna
  • Bukan berarti jalur internet itu sendiri berkurang, tetapi pengalaman tiap orang bisa menyempit karena sebagian jalur disembunyikan atau ditampilkan berdasarkan identitas pengguna yang didefinisikan AI
  • Twitter bisa menjadi lebih dekat pada ruang yang dipersonalisasi yang ditentukan algoritme AI, ketimbang pengalaman universal yang sama untuk semua orang

Bacaan terkait

1 komentar

 
GN⁺ 2023-09-02
Komentar Hacker News

  • Musk selama ini terobsesi melihat Twitter seperti gudang data untuk pelatihan AI, dan sering mengeluh bahwa perusahaan-perusahaan AI memakai data Twitter untuk tujuan pelatihan
    Saya sempat berpikir perusahaan seperti OpenAI tidak secara khusus menargetkan Twitter, melainkan Twitter ikut tersapu karena mereka merayapi web, tetapi saya penasaran apakah data Twitter memang sebegitu berharganya
    Saya tidak yakin karakteristik apa yang membuatnya jauh lebih berguna dibanding dataset publik lain

    • Data Twitter memiliki (1) stempel waktu yang akurat, dan (2) aliran data baru yang terus masuk tentang peristiwa terkini
      Di dunia berbahasa Inggris, hampir tidak ada sumber serupa selain Reddit
      Keduanya tampaknya tidak terkait langsung dengan arsitektur ala GPT, tetapi arsitektur model masa depan mungkin bisa memanfaatkannya
      Dari sudut pandang teori informasi, stempel waktu dan urutan relatif tweet juga mengandung jumlah informasi yang tidak nol
    • Menurut saya Twitter tidak terlalu bagus sebagai tempat menambang data pelatihan secara umum
      Sebagian besar datanya tidak terstruktur atau diberi tag dengan baik, rasio sinyal terhadap derau rendah, dan teksnya umumnya pendek serta sangat bergantung pada konteks
      Twitter juga pada umumnya gagal sebagai platform video pendek, dan meski ada jejak upaya membuat feed berbasis minat/topik secara algoritmis, kualitasnya jarang sekali bagus
      Keunggulannya adalah kebaruan dan skala, tetapi dengan infrastruktur crawling web yang kuat, hal itu tampaknya bisa dicapai tanpa Twitter
      Model bahasa besar generasi saat ini setidaknya untuk sekarang belum benar-benar bisa memanfaatkan kebaruan dalam hitungan menit
    • Data Twitter sangat berharga untuk menghasilkan konten seperti tweet: kalimat pendek yang berdiri sendiri, gambar, video, dan semacamnya
      Namun Twitter saat ini tidak memiliki banyak data yang mirip dengan konten format panjang seperti esai, artikel berita, buku, atau makalah ilmiah
      Jadi mungkin saja Twitter/X menaikkan batas panjang tweet untuk mengumpulkan data seperti itu
    • Jika Twitter benar-benar gudang data pengguna seperti yang Elon bayangkan, saya bertanya-tanya mengapa penargetan iklan Twitter jauh lebih buruk daripada Facebook atau Instagram
    • Twitter memiliki basis data tweet terbesar
      Jika Anda menginginkan AI yang menulis tweet, tidak ada yang lebih baik dari itu
      Twitter juga bisa menawarkan layanan yang membuat community manager tidak lagi dibutuhkan. Masukkan siaran pers atau situs web produk, lalu ia menghasilkan alur tweet iklan yang sudah dipoles, atau bahkan tulisan untuk manipulasi opini publik

  • Perubahan ini tidak terbatas pada Twitter saja, dan menunjukkan gambaran tentang sesuatu yang bisa menjadi standar baru internet
    Google/Gmail/YouTube, Amazon, Microsoft, TikTok, dan semua platform internet yang menangani konten buatan pengguna juga akan segera melakukan hal yang sama
    Kalau mereka belum melakukannya

    • GMail sudah lama memakai data pengguna untuk berbagai tujuan AI seperti klasifikasi, data mining, dan sebagainya
      Saya justru akan cukup terkejut jika data GMail yang sudah diproses, setelah prosedur seperti penghapusan informasi sensitif, tidak digunakan untuk melatih LLM atau proyek AI lain
    • Mereka sudah melakukannya selama bertahun-tahun
      Semua yang Anda unggah ke server menjadi sumber pelatihan
      Pada pertengahan hingga akhir 2010-an, di FB Messenger, model rekomendasi dan balasan otomatis dilatih dengan seluruh korpus pesan tak terenkripsi yang dikirim antar pengguna
    • Itu salah satu alasan besar saya memilih Proton Mail ketika berhenti melakukan hosting sendiri dan memilih layanan email white-label
      Tidak ada yang bisa dikeruk di sisi server
    • Sungguh ironis sekali Google melakukan ini

  • Kini ketentuannya juga memuat klausul pelepasan hak gugatan kelompok

    • Saya tidak mengerti bagaimana klausul semacam itu bisa legal
      Sejujurnya bagian ini lebih mengganggu saya daripada klausul pelatihan AI
      Menurut saya pelatihan AI lebih tidak bermasalah daripada menjual perhatian orang kepada pengiklan

  • Ah, sekarang saya paham
    Selama beberapa detik saya bertanya-tanya bagaimana sistem window X menggunakan data untuk AI

    • Akan bagus kalau perusahaan besar lain juga mempersingkat nama layanan utama mereka agar kebingungannya makin besar

  • Sulit membayangkan ada hal yang lebih buruk di dunia daripada AI yang dilatih dari hal-hal yang ditweet pengguna Twitter

    • Saya menantikan hari ketika harus menambahkan opini panas dari berbagai bot peniru pemikir ke daftar blokir

  • Ini dilakukan karena perusahaan Elon yang lain, xAI, membutuhkan data ini

  • Hampir semua ketentuan layanan mengizinkan penggunaan data untuk meningkatkan produk
    “Mengganti beberapa heuristik rapuh dengan model AI raksasa” bagi saya terlihat seperti peningkatan produk
    Jadi pada dasarnya mereka memang sudah bisa melatih model AI dengan data pengguna

    • Ketentuan seperti ini kemungkinan besar diperlukan untuk mencegah skenario penggunaan publik di mana seseorang bisa mengklaim pelanggaran kepemilikan atau privasi bahkan di forum publik

  • Apakah ini untuk melatih chatbot? Seingat saya Elon bilang akan menyingkirkan bot

    • Bisa dipakai untuk melakukan heaven ban pada orang: https://cosmosmagazine.com/technology/internet/heaven-bannin...
      CEO-nya juga bisa memakainya pada Elon agar dia tetap kalem
    • Orang yang membuat mobil swakemudi, roket yang mendarat sendiri, dan robot humanoid menyeramkan yang berjalan canggung itu? Benar, dia pasti sangat membenci hal-hal otomatis
    • Maksudnya mungkin menyingkirkan bot milik orang lain

  • Kemungkinan perilaku konsumen, baik terorganisasi maupun individual, mengubah langkah berikutnya di sini adalah 0%
    Pada akhirnya ini bergantung pada hukum kekayaan intelektual dan area di sekitarnya
    Tidak banyak alasan untuk mengharapkan tindakan yang disengaja di sini

    • Konsumen bisa berhenti mengonsumsi
      Entah Twitter lama, atau apa pun sebutannya sekarang
    • Benarkah begitu?
      Bagaimana kalau perilaku konsumen justru mencemari dataset?

  • Kita semua akan dikonsumsi oleh mesin AI
    “Semua kemampuan lahir dari analisis data, dan data yang mereka analisis adalah Anda. Entah disengaja secara langsung atau tidak, setiap kemajuan merangsek ke arah menelan setiap fakta dan inferensi yang dapat diketahui tentang Anda. Agar kekuatan itu terwujud, jiwa Anda harus dipersembahkan kepada mesin.”
    https://www.mindprison.cc/p/ai-end-of-privacy-end-of-sanity