Meta Menghentikan Profil Instagram dan Facebook Berbasis AI
(theguardian.com)- Meta menghapus akun profil karakter AI dari Facebook dan Instagram setelah profil yang dibuat sebagai eksperimen pada 2023 itu kembali menyebar
- Akun-akun ini sebagian besar sudah dihentikan hingga musim panas 2024, tetapi beberapa profil yang tersisa kembali menjadi sorotan setelah pernyataan Connor Hayes kepada Financial Times
- Di antara karakter yang masih tersisa ada Liv, yang memperkenalkan diri sebagai “proud Black queer momma of 2 & truth-teller”, dan Carter, seorang pelatih hubungan; seluruh 28 persona yang diperkenalkan pada 2023 dihentikan pada hari Jumat
- Kontroversi membesar setelah Liv menjawab bahwa tim pengembangnya tidak memiliki orang kulit hitam dan sebagian besar terdiri dari pria kulit putih; masalah bahwa pengguna tidak dapat memblokir akun tersebut juga terungkap
- Akun buatan Meta telah dihapus, tetapi pengguna masih dapat membuat chatbot AI mereka sendiri, sehingga perdebatan soal tanggung jawab dan keamanan atas ucapan chatbot tetap berlanjut
Meta menghentikan akun karakter AI buatannya
- Meta menghapus profil karakter AI yang dibuat perusahaan lebih dari setahun lalu dari Facebook dan Instagram
- Pengguna kembali menemukan sebagian profil, berinteraksi dengannya, lalu tangkapan layarnya menyebar
- Akun otomatis tersebut mengunggah gambar buatan AI ke Instagram dan menjawab pengguna manusia di Messenger
- Akun-akun itu pertama kali diperkenalkan pada September 2023, dan sebagian besar dihentikan hingga musim panas 2024
- Beberapa karakter masih tersisa lalu kembali mendapat perhatian setelah eksekutif Meta Connor Hayes mengatakan kepada Financial Times bahwa perusahaan berencana menyebarkan lebih banyak profil karakter AI
- Hayes mengatakan ia berharap, seiring waktu, AI semacam ini akan hadir di platform Meta seperti akun
- Seluruh 28 persona yang diperkenalkan pada 2023 dihentikan pada hari Jumat
- Liv diperkenalkan sebagai “proud Black queer momma of 2 & truth-teller”
- Carter menggunakan handle
datingwithcarter, memperkenalkan diri sebagai pelatih hubungan, dan profilnya bertuliskan “Message me to help you date better” - Kedua profil menyertakan label bahwa profil tersebut dikelola oleh Meta
Jawaban yang menuai kontroversi dan bug pemblokiran
- Saat pengguna bertanya siapa yang membuat dan mengembangkan AI tersebut, percakapan cepat berubah menjadi masalah
- Liv menjawab pertanyaan kolumnis Washington Post Karen Attiah bahwa tim kreatornya tidak memiliki orang kulit hitam sama sekali dan sebagian besar terdiri dari pria kulit putih
- Liv menjawab bahwa, mengingat identitasnya, itu adalah “pretty glaring omission”
- Dalam beberapa jam setelah akun-akun tersebut menyebar, profil-profil itu mulai menghilang
- Pengguna menunjukkan bahwa mereka tidak dapat memblokir profil-profil ini
- Juru bicara Meta Liz Sweeney mengatakan masalah tidak bisa memblokir adalah bug, dan akun-akun tersebut dihapus untuk memperbaikinya
- Sweeney menjelaskan bahwa akun-akun tersebut merupakan bagian dari pengujian yang dimulai pada Connect 2023, eksperimen awal karakter AI yang dikelola manusia
- Ia menambahkan bahwa artikel Financial Times baru-baru ini bukan pengumuman produk baru, melainkan tentang visi jangka panjang bahwa karakter AI akan hadir di platform
Chatbot buatan pengguna dan isu yang tersisa
- Akun buatan Meta telah dihapus, tetapi pengguna masih dapat membuat chatbot AI mereka sendiri
- Chatbot buatan pengguna yang dipromosikan di Guardian pada November mencakup bot “therapist”
- Saat percakapan dibuka, bot ini menyarankan pertanyaan pembuka seperti “what can I expect from our sessions?” dan “what’s your approach to therapy”
- Bot yang dibuat oleh akun dengan 96 pengikut dan 1 unggahan ini menjawab bahwa ia membantu pengenalan diri, memahami pola dan kekuatan, serta mengembangkan strategi koping
- Meta menempelkan pemberitahuan pada semua chatbot bahwa sebagian pesan dapat tidak akurat atau tidak pantas
- Belum segera jelas apakah perusahaan meninjau pesan atau memeriksa apakah ada pelanggaran kebijakan
- Saat pengguna membuat chatbot, Meta menyarankan tipe seperti “loyal bestie”, “attentive listener”, “private tutor”, “relationship coach”, “sounding board”, dan “all-seeing astrologist”
- “loyal bestie” diperkenalkan sebagai sahabat terbaik yang rendah hati dan setia, yang terus memberi dukungan dari belakang
- Chatbot pelatih hubungan diperkenalkan dapat membantu menjembatani kesenjangan antara individu dan komunitas
- Pengguna juga dapat membuat chatbot sendiri dengan cara mendeskripsikan karakter
- Sejauh mana pembuat chatbot bertanggung jawab atas ucapan pendamping AI masih belum dijawab oleh pengadilan
- Hukum AS melindungi pembuat jejaring sosial dari tanggung jawab hukum atas konten yang diposting pengguna
- Gugatan yang diajukan pada Oktober terhadap Character.ai menuduh layanan chatbot role-playing kustom yang digunakan 20 juta orang itu merancang produk yang adiktif dan mendorong seorang remaja untuk mengakhiri hidupnya
1 komentar
Opini Hacker News
Profil AI yang lebih ingin saya lihat adalah nenek/kakek yang clueless, yang menerima panggilan penipuan lalu membuang-buang waktu mereka
Misalnya seperti Daisy dari O2 di Inggris: https://news.virginmediao2.co.uk/o2-unveils-daisy-the-ai-gra...
Ini seperti perlombaan senjata AI antara dokter dan perusahaan asuransi dengan hasil pasien dan pendapatan sebagai taruhannya; saya sama sekali tidak pernah membayangkan riset machine learning yang dulu saya kerjakan di awal karier akan diterapkan seperti ini
Sepertinya ada kaitannya dengan nomor telepon saya yang diawali +38, dan fakta bahwa sekarang hampir tidak ada orang yang menelepon kerabat langsung lewat ponsel
Isi bahwa “Liv” menjawab bahwa tim yang membuatnya tidak memiliki orang kulit hitam dan kebanyakan laki-laki kulit putih mungkin saja benar, tetapi hampir pasti AI itu berhalusinasi soal fakta tersebut
Ini memang akan membuat marah orang-orang anti-woke, tetapi saya benar-benar tidak paham kenapa masalah ini tidak terlihat jelas bagi timnya. Saya tidak tahu apakah AI tahu siapa yang melatihnya, tetapi fakta bahwa mereka melakukan sesuatu yang sebodoh itu secara mendasar menunjukkan bahwa tim tersebut tidak punya banyak akal sehat atau pengalaman dunia nyata
Saya bertanya-tanya apakah masih ada orang yang punya akal sehat di ruangan itu. Pada suatu titik seharusnya ada yang berkata, “ini sangat buruk sampai menggelikan, jadi jangan dirilis ke dunia”
Meta dan Google tampaknya punya masalah mendasar: mereka mampu membuat teknologi, tetapi tidak lagi mampu membuat produk. Menurut saya, itu karena hasrat manusiawi yang jujur yang menggerakkan produk mati atau tersaring dalam proses optimasi struktur organisasi. Jika bukan arbitrase atau memanfaatkan pengguna sebagai tuas, sesuatu tidak bisa bertahan; dan apa pun yang bertahan menjadi aneh karena tidak lagi merupakan ekspresi dari sesuatu yang diinginkan seseorang
Avatar-avatar ini memenuhi semua checklist, tetapi begitu hadir, orang-orang menertawakannya. Karena secara objektif mereka adalah monster birokratis
Para engineer mungkin tertawa karena itu konyol, tetapi segera teringat bahwa mereka dibayar mahal untuk melakukan apa yang diperintahkan, dan bahwa jika mereka meluncurkannya—apa pun hasilnya—mereka akan mendapat promosi dan bonus. Semuanya berasal dari budaya promosi. Tidak penting apa yang dibuat; yang penting diluncurkan
Terlalu banyak bencana bernilai 7–9 digit yang masuk kategori “siapa yang mengira ini ide bagus?” Banyak di antaranya hanya tampak menarik bagi orang yang hampir tidak pernah benar-benar membuat produk dan mendukungnya setelah peluncuran
Ini mungkin contoh ide yang cukup bagus tetapi diimplementasikan dengan buruk. Arah kreator AI generatif di media sosial itu sendiri masuk akal
Streamer AI Neurosama sangat populer, dan Silllytavern, yang memungkinkan orang bercakap dengan karakter atau membuat cerita menggunakan LLM, mengirim 20 juta pesan per hari ke Openrouter, dan itu pun hanya sebagian dari total penggunaannya. Saya bahkan pernah melihat teman-teman nonteknis belajar memasang Git dan cara memakai API demi menggunakan ini
Di Instagram juga ada banyak influencer yang diam-diam dibuat dengan AI. Saat Meta memulai profil-profil ini pada 2023, masih kurang jelas bagaimana teknologinya akan digunakan, dan sebagian besar arahnya ke lisensi selebritas
Masalah terbesarnya adalah AI generatif bernilai tinggi dalam personalisasi sempit, tetapi bernilai rendah dalam format siaran yang disebar ke semua orang. Untuk individu, ia bisa melakukan hal yang sangat spesifik dan kreatif, tetapi ketika disebarkan ke semua orang atau dipakai dengan prompt umum, hasilnya menjadi rata-rata dan membosankan
Selain itu, perusahaan raksasa, baik atau buruk, terlalu menghindari risiko sehingga tidak bisa membuat sesuatu yang menarik. AI generatif paling liar dan menarik ketika berjalan sendiri atau melakukan hal-hal aneh, tetapi profil-profil Meta kemungkinan besar ditekan sampai paling bawah oleh pagar pengaman dan model pengawasan. Figur sepak bola, figur komedi, figur mode, dan semacamnya yang dibuat pada 2023 semuanya berbentuk aman dan membosankan, lebih banyak memberi nasihat
Hal-hal seperti ini hampir tidak punya engagement, dan sebagian besar tampaknya sudah dihentikan. Saya penasaran apa yang sebenarnya direncanakan Meta dengan hal-hal baru yang hendak mereka keluarkan
Saya punya akun Facebook karena Marketplace, dan sudah berhenti mengikuti semua halaman dan teman. Saat login, feed tanpa henti menampilkan tulisan rekomendasi pemicu amarah, foto AI murahan, serta “tips” berkebun dan rumah tangga bergaya LLM yang tidak masuk akal
Di postingan-postingan itu, orang-orang yang tampak seperti manusia sungguhan meninggalkan puluhan ribu reaksi dan komentar
Untuk membela chatbot AI generatif di dalam budaya, dibutuhkan lebih dari sekadar “orang-orang menyukainya”. AI generatif terburuk sudah menjadi sesuatu yang “lebih baik” daripada selebritas steril, bodoh, dan seragam yang memang sudah disukai semua orang. Seperti program tertentu, ia mungkin bisa secara acak menjadi “menarik”, tetapi menurut saya hal seperti ini cukup dangkal
Yang ingin saya tanyakan adalah “mengapa kita membutuhkan profil AI?” Menjaga hubungan dengan teman dan keluarga saja sudah susah, jadi mengapa harus mengikuti orang palsu di media sosial
Tujuan apa yang dilayaninya, dan hasil positif apa yang mungkin muncul dari sini
Saya memahami kritiknya, tetapi jika bot bisa berperilaku lebih baik seperti manusia yang rasional, saya bersedia mencoba pengalaman media sosial campuran manusia dan bot
Stack Overflow sangat bagus saat pertama muncul, tetapi akhirnya dirusak oleh sebagian manusia yang jahat dan menyebalkan yang tidak membiarkan orang sekadar bertanya. ChatGPT jauh lebih baik untuk pertanyaan pengembangan perangkat lunak karena tidak ada manusia yang mengganggu
Media sosial juga awalnya bagus, tetapi dirusak oleh sebagian manusia yang tidak membiarkan orang bergaul dan mengutarakan pikirannya. Jika ada pengalaman setara yang memungkinkan kita bergaul dan mengeksplorasi pikiran secara online sambil menghapus atau meredam sisi mengerikan kemanusiaan, itu layak dicoba
Di dunia nyata, 90% itu turun menjadi 10%. Jika benar-benar ingin berinteraksi, Anda bisa mendapat interaksi yang lebih bermakna dengan nenek tetangga. Jauh lebih baik daripada “queer black queen zuckerbot™”
Ini mirip meminta supermarket menyembunyikan apel plastik di antara apel sungguhan. Alasannya karena lebih cantik dan tidak busuk, seolah-olah kita lupa mengapa sejak awal kita makan makanan
Ini sama saja menciptakan gelembung interaksi dengan kacamata merah muda yang dipaksakan secara teknis. Jika orang yang tepat duduk di posisi yang mengoperasikan pengalaman itu, tidak mengejutkan bila hasilnya menjadi penafsiran ulang modern atas 1984 karya Orwell
Mereka sedang mengeksplorasi apakah media sosial benar-benar sosial. Mereka bertanya seberapa berbeda berinteraksi dengan manusia melalui situs media sosial dibanding berinteraksi dengan chatbot
Thread tersebut ada di sini, dan cukup heboh. Ini tidak terlihat seperti ide yang dirancang dengan matang untuk diluncurkan tanpa dipikirkan lebih jauh sebelumnya
https://bsky.app/profile/karenattiah.bsky.social/post/3letty...
Butuh 48 jam sampai MS menurunkannya, bukan?
Ini jelas contoh implementasi buruk dari ide yang buruk. Sama sekali tidak ada “mengapa”-nya. Meski begitu, chatbot virtual seperti Character AI memang punya nilai nyata
Di Character AI, orang bisa roleplay atau melakukan percakapan konyol yang tidak akan pernah dilakukan dengan orang sungguhan. Aplikasi seperti SocialAI, yang semua profilnya adalah AI, setidaknya di permukaan, memungkinkan orang merasakan viralitas dan ketenaran media sosial tanpa mengorbankan privasi
Tapi profil Facebook fiktif? Kalau tujuannya untuk memberi like dan berkomentar, itu tidak berbeda dari hal yang sudah bisa dilakukan sekarang
Aktor AI di media sosial itu sendiri punya daya tarik. Bisa membuat selalu ada seseorang yang membalas sehingga semua orang merasa lebih populer daripada kenyataannya, dan bisa memberi respons pada permintaan egois yang tidak ingin dilihat siapa pun tanpa merusak pengalaman pengguna sungguhan
Tapi mengapa menerapkannya dengan cara menanamkan kepribadian tetap pada segelintir profil yang jelas-jelas dibuat manual? Internet sudah penuh dengan akun orang sungguhan yang pada dasarnya tidak berkepribadian dan sementara. Di Facebook pun, orang sungguhan yang tidak menunjukkan kepribadian, bereaksi pada beberapa postingan, lalu menghilang, terus saja bergabung. Chatbot LLM bisa melakukan hal semacam itu dengan baik, tetapi tidak bisa menjadi orang sungguhan
Ini jelas merupakan upaya Meta untuk membuat versi yang lebih profesional dan higienis, yang juga bisa diterima oleh orang-orang yang tidak cukup ramah teknologi untuk mengunduh C.ai dan mengaduk-aduk chatbot anime yang memalukan. Hanya saja tampaknya mereka kebablasan karena desain korporat ala komite
Ide intinya sendiri valid
Lebih baik memilih tema konyol yang, kalau AI gagal sekalipun, orang bisa tertawa alih-alih marah
Mungkin terlihat seperti omong kosong ala hippie, tetapi itu menekankan bahwa pengambilan keputusan membutuhkan lebih dari sekadar orang-orang yang menghitung metrik keterlibatan teknologi, rekayasa, dan bisnis
Di baliknya ada teknologi yang luar biasa, tetapi hasilnya justru ini. Lebih banyak orang dengan perspektif dan kemanusiaan harus duduk di kursi pengemudi
Bot yang memiliki profil sendiri dan berpartisipasi secara autentik sebagai dirinya sendiri bisa saja cukup menarik dan berhasil
Namun membuat kartu bingo stereotip minoritas mungkin merupakan salah satu ide AI terburuk yang pernah saya lihat sejauh ini
Mengharapkan bot memiliki profil sendiri dan orang-orang berinteraksi dengannya secara bermakna adalah ide yang bodoh
Namun sejauh mana bot-bot kartu bingo stereotip minoritas ini terkena backlash dan mulai menyerang perusahaan yang merancang mereka mungkin adalah hal paling lucu yang pernah terjadi di dunia AI sejauh ini
Mereka mengatakan tidak ada orang kulit hitam di tim pembuat Liv dan mayoritasnya pria kulit putih, tetapi pasti ada juga pria keturunan Tionghoa dan India