Microsoft memantau pengguna alat AI miliknya

Microsoft memantau pengguna alat AI-nya

• Microsoft mengumumkan bahwa ia menemukan peretas dari Tiongkok, Rusia, dan Iran yang menggunakan alat kecerdasan buatan (AI) miliknya untuk meningkatkan kemampuan peretasan.
• Peretas ini dilacak sebagai Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon, dan Salmon Typhoon, dan ditemukan menggunakan model bahasa besar (LLM) untuk memperkuat operasi siber.
• Satu-satunya cara Microsoft atau OpenAI dapat mengetahui aktivitas ini adalah dengan memantau sesi chatbot.
• Persyaratan layanan kemungkinan mencantumkan persetujuan atas pemantauan pengguna; meski tidak mengejutkan bahwa Microsoft dan OpenAI memantau penggunaan AI, pengumuman ini menegaskan bahwa hal itu benar terjadi.

Pendapat GN⁺

• Artikel ini menunjukkan bahwa Microsoft memantau penggunaan alat AI-nya dan melalui itu melacak aktivitas peretas yang didukung negara.
• Pemantauan pengguna dapat memicu kekhawatiran privasi dan keamanan pribadi, tetapi juga dapat dipandang sebagai langkah penting untuk memperkuat keamanan siber dan melindungi keamanan nasional.
• Aktivitas pemantauan ini menunjukkan potensi penggunaan dua arah AI dan dapat memicu diskusi tentang isu etis dan hukum baru yang muncul dari kemajuan teknologi.

[GN⁺]

Komentar Hacker News

• Ringkasan komentar tentang pemrosesan data pengguna API OpenAI

  • Menurut Ketentuan Layanan (TOS) API OpenAI, OpenAI dapat menyimpan input dan output API hingga maksimal 30 hari untuk menyediakan layanan dan mengidentifikasi penyalahgunaan.
  • Kecuali diwajibkan secara hukum, data akan dihapus dari sistem setelah 30 hari.
  • Pengguna dapat memilih untuk tidak meminta data disimpan untuk kasus penggunaan tertentu (ZDR).
  • Detail pemrosesan data tersedia di halaman dokumentasi platform OpenAI.

• Ringkasan komentar tentang pemrosesan data pengguna alat AI Microsoft

  • Klaim bahwa "Microsoft memantau pengguna alat AI" berakar dari temuan bahwa Microsoft mengidentifikasi pemerintah antagonis negara otoriter yang menggunakan alat AI untuk kegiatan ilegal.
  • Dengan menyetujui ketentuan layanan, pengguna mengakui bahwa Microsoft dapat melakukan pelacakan data seperti ini.

• Ringkasan komentar tentang Google Bard dan Gemini

  • Gemini Google menjelaskan dengan tegas bahwa sejak awal, percakapan pengguna diproses oleh reviewer manusia dan digunakan untuk meningkatkan teknologi aplikasi Gemini.
  • Pengguna tidak boleh memasukkan informasi yang tidak ingin ditampilkan kepada reviewer atau digunakan oleh Google.
  • Konten Google Workspace tidak ditinjau ataupun digunakan untuk meningkatkan Gemini.
  • Pengguna dapat menonaktifkan aktivitas aplikasi Gemini agar percakapan berikutnya tidak direview atau dipakai untuk meningkatkan model machine learning.

• Ringkasan komentar tentang Ketentuan Layanan dan Kebijakan Privasi

  • Banyak perusahaan teknologi memiliki kewenangan untuk memantau penggunaan AI pengguna melalui ketentuan yang tertulis di ToS-nya.
  • Jika TOS menyertakan pasal yang mengizinkan pemantauan, wajar untuk mengasumsikan bahwa perusahaan tersebut memang melakukan pemantauan.
  • Kebijakan privasi membuat pengguna percaya pada perusahaan, tetapi tidak ada cara untuk memverifikasi apakah perusahaan tersebut mematuhi kebijakan tersebut.

• Ringkasan komentar tentang pemantauan data pengguna alat AI oleh Microsoft

  • Microsoft memantau penggunaan alat AI oleh pengguna bukanlah sesuatu yang mengejutkan, dan ini sudah merupakan fakta yang cukup diketahui.
  • Banyak perusahaan teknologi, termasuk Microsoft, memiliki hak untuk melihat isi percakapan pengguna, dan ini seharusnya hanya boleh terjadi melalui persetujuan eksplisit yang dapat dicabut.

• Ringkasan komentar tentang penggunaan alat AI dan pengumpulan data

  • Menggunakan alat AI berarti data pengguna akan terkumpul dalam jumlah besar.
  • Gunakan hanya AI yang berjalan secara lokal jika Anda peduli pada perlindungan data pengguna.

• Ringkasan komentar tentang korelasi pengembangan AI dan pengumpulan data

  • AI berbasis data, dan semakin banyak data yang dikumpulkan, AI bisa dilatih dengan lebih baik, yang menciptakan lingkaran umpan balik untuk mendorong lebih banyak pengguna agar ingin memberikan data.

• Ringkasan komentar tentang pengumpulan data platform dan deteksi penyalahgunaan

  • Sangat jelas bahwa semua platform mengumpulkan input pengguna untuk melatih model berikutnya, serta untuk mendeteksi penyalahgunaan.