1 poin oleh GN⁺ 2025-01-05 | 1 komentar | Bagikan ke WhatsApp
  • Meta menghapus akun profil karakter AI dari Facebook dan Instagram setelah profil yang dibuat sebagai eksperimen pada 2023 itu kembali menyebar
  • Akun-akun ini sebagian besar sudah dihentikan hingga musim panas 2024, tetapi beberapa profil yang tersisa kembali menjadi sorotan setelah pernyataan Connor Hayes kepada Financial Times
  • Di antara karakter yang masih tersisa ada Liv, yang memperkenalkan diri sebagai “proud Black queer momma of 2 & truth-teller”, dan Carter, seorang pelatih hubungan; seluruh 28 persona yang diperkenalkan pada 2023 dihentikan pada hari Jumat
  • Kontroversi membesar setelah Liv menjawab bahwa tim pengembangnya tidak memiliki orang kulit hitam dan sebagian besar terdiri dari pria kulit putih; masalah bahwa pengguna tidak dapat memblokir akun tersebut juga terungkap
  • Akun buatan Meta telah dihapus, tetapi pengguna masih dapat membuat chatbot AI mereka sendiri, sehingga perdebatan soal tanggung jawab dan keamanan atas ucapan chatbot tetap berlanjut

Meta menghentikan akun karakter AI buatannya

  • Meta menghapus profil karakter AI yang dibuat perusahaan lebih dari setahun lalu dari Facebook dan Instagram
    • Pengguna kembali menemukan sebagian profil, berinteraksi dengannya, lalu tangkapan layarnya menyebar
    • Akun otomatis tersebut mengunggah gambar buatan AI ke Instagram dan menjawab pengguna manusia di Messenger
  • Akun-akun itu pertama kali diperkenalkan pada September 2023, dan sebagian besar dihentikan hingga musim panas 2024
    • Beberapa karakter masih tersisa lalu kembali mendapat perhatian setelah eksekutif Meta Connor Hayes mengatakan kepada Financial Times bahwa perusahaan berencana menyebarkan lebih banyak profil karakter AI
    • Hayes mengatakan ia berharap, seiring waktu, AI semacam ini akan hadir di platform Meta seperti akun
  • Seluruh 28 persona yang diperkenalkan pada 2023 dihentikan pada hari Jumat
    • Liv diperkenalkan sebagai “proud Black queer momma of 2 & truth-teller”
    • Carter menggunakan handle datingwithcarter, memperkenalkan diri sebagai pelatih hubungan, dan profilnya bertuliskan “Message me to help you date better”
    • Kedua profil menyertakan label bahwa profil tersebut dikelola oleh Meta

Jawaban yang menuai kontroversi dan bug pemblokiran

  • Saat pengguna bertanya siapa yang membuat dan mengembangkan AI tersebut, percakapan cepat berubah menjadi masalah
    • Liv menjawab pertanyaan kolumnis Washington Post Karen Attiah bahwa tim kreatornya tidak memiliki orang kulit hitam sama sekali dan sebagian besar terdiri dari pria kulit putih
    • Liv menjawab bahwa, mengingat identitasnya, itu adalah “pretty glaring omission”
  • Dalam beberapa jam setelah akun-akun tersebut menyebar, profil-profil itu mulai menghilang
    • Pengguna menunjukkan bahwa mereka tidak dapat memblokir profil-profil ini
    • Juru bicara Meta Liz Sweeney mengatakan masalah tidak bisa memblokir adalah bug, dan akun-akun tersebut dihapus untuk memperbaikinya
    • Sweeney menjelaskan bahwa akun-akun tersebut merupakan bagian dari pengujian yang dimulai pada Connect 2023, eksperimen awal karakter AI yang dikelola manusia
    • Ia menambahkan bahwa artikel Financial Times baru-baru ini bukan pengumuman produk baru, melainkan tentang visi jangka panjang bahwa karakter AI akan hadir di platform

Chatbot buatan pengguna dan isu yang tersisa

  • Akun buatan Meta telah dihapus, tetapi pengguna masih dapat membuat chatbot AI mereka sendiri
    • Chatbot buatan pengguna yang dipromosikan di Guardian pada November mencakup bot “therapist”
    • Saat percakapan dibuka, bot ini menyarankan pertanyaan pembuka seperti “what can I expect from our sessions?” dan “what’s your approach to therapy”
    • Bot yang dibuat oleh akun dengan 96 pengikut dan 1 unggahan ini menjawab bahwa ia membantu pengenalan diri, memahami pola dan kekuatan, serta mengembangkan strategi koping
  • Meta menempelkan pemberitahuan pada semua chatbot bahwa sebagian pesan dapat tidak akurat atau tidak pantas
    • Belum segera jelas apakah perusahaan meninjau pesan atau memeriksa apakah ada pelanggaran kebijakan
    • Saat pengguna membuat chatbot, Meta menyarankan tipe seperti “loyal bestie”, “attentive listener”, “private tutor”, “relationship coach”, “sounding board”, dan “all-seeing astrologist”
    • “loyal bestie” diperkenalkan sebagai sahabat terbaik yang rendah hati dan setia, yang terus memberi dukungan dari belakang
    • Chatbot pelatih hubungan diperkenalkan dapat membantu menjembatani kesenjangan antara individu dan komunitas
    • Pengguna juga dapat membuat chatbot sendiri dengan cara mendeskripsikan karakter
  • Sejauh mana pembuat chatbot bertanggung jawab atas ucapan pendamping AI masih belum dijawab oleh pengadilan
    • Hukum AS melindungi pembuat jejaring sosial dari tanggung jawab hukum atas konten yang diposting pengguna
    • Gugatan yang diajukan pada Oktober terhadap Character.ai menuduh layanan chatbot role-playing kustom yang digunakan 20 juta orang itu merancang produk yang adiktif dan mendorong seorang remaja untuk mengakhiri hidupnya

1 komentar

 
GN⁺ 2025-01-05
Opini Hacker News
  • Profil AI yang lebih ingin saya lihat adalah nenek/kakek yang clueless, yang menerima panggilan penipuan lalu membuang-buang waktu mereka
    Misalnya seperti Daisy dari O2 di Inggris: https://news.virginmediao2.co.uk/o2-unveils-daisy-the-ai-gra...

    • Di sistem kesehatan AS, versi nyatanya sudah ada. Saat rumah sakit membuat permohonan persetujuan prosedur, mereka memakai LLM khusus domain untuk menulis dokumen berlembar-lembar yang menutup semua celah yang dipakai perusahaan asuransi untuk menolak, sementara perusahaan asuransi meninjaunya dengan algoritma berbasis machine learning dan mencari cara apa pun untuk menolak atau menundanya
      Ini seperti perlombaan senjata AI antara dokter dan perusahaan asuransi dengan hasil pasien dan pendapatan sebagai taruhannya; saya sama sekali tidak pernah membayangkan riset machine learning yang dulu saya kerjakan di awal karier akan diterapkan seperti ini
    • Profil AI yang melakukan uji penetrasi simulasi terhadap nenek/kakek sungguhan juga tampaknya memungkinkan
    • Ayah saya beberapa tahun terakhir berulang kali menjadi korban penipuan, dan itu benar-benar menjijikkan. Apa pun yang mengarah untuk memecahkan masalah ini menurut saya mendekati kepentingan publik
    • Saya pernah mencoba menelepon kerabat di Rusia dan justru tersambung ke bot persis seperti ini
      Sepertinya ada kaitannya dengan nomor telepon saya yang diawali +38, dan fakta bahwa sekarang hampir tidak ada orang yang menelepon kerabat langsung lewat ponsel
    • Sekilas idenya lucu, tetapi orang-orang yang menjalankan penipuan semacam ini biasanya hampir seperti berada dalam kondisi perbudakan. Daripada menghabiskan listrik untuk membuang-buang waktu mereka, menurut saya lebih baik menyasar orang-orang yang mempekerjakan mereka
  • Isi bahwa “Liv” menjawab bahwa tim yang membuatnya tidak memiliki orang kulit hitam dan kebanyakan laki-laki kulit putih mungkin saja benar, tetapi hampir pasti AI itu berhalusinasi soal fakta tersebut

    • Saya tidak suka jurnalis yang memperlakukan machine learning seolah-olah mengulang fakta, bukan memuntahkan token acak. Model tidak tahu siapa yang memprogramnya, dan jika informasi itu tidak ada dalam data pelatihan, ia juga tidak mungkin mengetahuinya
    • Microsoft juga sudah lama mencoba hal seperti ini dengan chatbot Tay dan melihat betapa cepatnya itu rusak
    • Saya orang Skandinavia dan tidak terlalu peduli dengan perang budaya AS, tetapi saya tertawa melihat betapa buruknya ide ini. Siapa sebenarnya yang menganggap membuat AI berpura-pura menjadi ibu queer kulit hitam dengan dua anak adalah ide bagus
      Ini memang akan membuat marah orang-orang anti-woke, tetapi saya benar-benar tidak paham kenapa masalah ini tidak terlihat jelas bagi timnya. Saya tidak tahu apakah AI tahu siapa yang melatihnya, tetapi fakta bahwa mereka melakukan sesuatu yang sebodoh itu secara mendasar menunjukkan bahwa tim tersebut tidak punya banyak akal sehat atau pengalaman dunia nyata
    • Jika Meta harus membela AI dengan mengakui bahwa “sebenarnya ini bukan kecerdasan dan semua yang dikatakannya omong kosong”, itu bukan posisi yang kuat
    • Saya tidak yakin apakah seseorang bisa mengeluh bahwa bot itu dilatih oleh “laki-laki kulit putih” sambil pada saat yang sama mengeluh bahwa Big Tech mengeksploitasi pekerja murah dan penurut lewat visa H1B
  • Saya bertanya-tanya apakah masih ada orang yang punya akal sehat di ruangan itu. Pada suatu titik seharusnya ada yang berkata, “ini sangat buruk sampai menggelikan, jadi jangan dirilis ke dunia”

    • Sepertinya orang-orang sudah lupa kenapa Westworld memakai makhluk non-manusia. Hal-hal seperti ini pertama-tama akan dipakai sebagai hiburan, dan jika dibuat mewakili sesuatu yang sentimental atau sensitif, ia langsung menjadi target. Itu tidak bertanggung jawab
      Meta dan Google tampaknya punya masalah mendasar: mereka mampu membuat teknologi, tetapi tidak lagi mampu membuat produk. Menurut saya, itu karena hasrat manusiawi yang jujur yang menggerakkan produk mati atau tersaring dalam proses optimasi struktur organisasi. Jika bukan arbitrase atau memanfaatkan pengguna sebagai tuas, sesuatu tidak bisa bertahan; dan apa pun yang bertahan menjadi aneh karena tidak lagi merupakan ekspresi dari sesuatu yang diinginkan seseorang
      Avatar-avatar ini memenuhi semua checklist, tetapi begitu hadir, orang-orang menertawakannya. Karena secara objektif mereka adalah monster birokratis
    • Sebagai orang yang pernah bekerja di perusahaan raksasa yang sama disfungsionalnya, saya rasa saya tahu persis bagaimana ini berjalan. Seseorang mengusulkan ide profil AI, membuat spesifikasi produk, lalu membawanya ke engineering
      Para engineer mungkin tertawa karena itu konyol, tetapi segera teringat bahwa mereka dibayar mahal untuk melakukan apa yang diperintahkan, dan bahwa jika mereka meluncurkannya—apa pun hasilnya—mereka akan mendapat promosi dan bonus. Semuanya berasal dari budaya promosi. Tidak penting apa yang dibuat; yang penting diluncurkan
    • Melihat “ide-ide hebat” yang keluar dari industri teknologi modern, rasanya benar-benar tidak ada orang dewasa di ruangan itu. Termasuk para investornya
      Terlalu banyak bencana bernilai 7–9 digit yang masuk kategori “siapa yang mengira ini ide bagus?” Banyak di antaranya hanya tampak menarik bagi orang yang hampir tidak pernah benar-benar membuat produk dan mendukungnya setelah peluncuran
    • Ini adalah harga yang harus dibayar dari struktur kepemilikan Zuckerberg. Di satu sisi, tidak ada yang bisa menentangnya; di sisi lain pun, tidak ada yang bisa menentangnya
    • Kalau terlalu lama berada di lapisan atas perusahaan raksasa seperti ini, sepertinya muncul semacam rasa terputus dari kenyataan. Setelah lama berurusan dengan abstraksi seperti pengguna aktif bulanan, pengguna aktif harian, dan metrik engagement, tampaknya mereka lupa bahwa di lapisan paling bawah ada manusia nyata yang benar-benar memakai produk itu
  • Ini mungkin contoh ide yang cukup bagus tetapi diimplementasikan dengan buruk. Arah kreator AI generatif di media sosial itu sendiri masuk akal
    Streamer AI Neurosama sangat populer, dan Silllytavern, yang memungkinkan orang bercakap dengan karakter atau membuat cerita menggunakan LLM, mengirim 20 juta pesan per hari ke Openrouter, dan itu pun hanya sebagian dari total penggunaannya. Saya bahkan pernah melihat teman-teman nonteknis belajar memasang Git dan cara memakai API demi menggunakan ini
    Di Instagram juga ada banyak influencer yang diam-diam dibuat dengan AI. Saat Meta memulai profil-profil ini pada 2023, masih kurang jelas bagaimana teknologinya akan digunakan, dan sebagian besar arahnya ke lisensi selebritas
    Masalah terbesarnya adalah AI generatif bernilai tinggi dalam personalisasi sempit, tetapi bernilai rendah dalam format siaran yang disebar ke semua orang. Untuk individu, ia bisa melakukan hal yang sangat spesifik dan kreatif, tetapi ketika disebarkan ke semua orang atau dipakai dengan prompt umum, hasilnya menjadi rata-rata dan membosankan
    Selain itu, perusahaan raksasa, baik atau buruk, terlalu menghindari risiko sehingga tidak bisa membuat sesuatu yang menarik. AI generatif paling liar dan menarik ketika berjalan sendiri atau melakukan hal-hal aneh, tetapi profil-profil Meta kemungkinan besar ditekan sampai paling bawah oleh pagar pengaman dan model pengawasan. Figur sepak bola, figur komedi, figur mode, dan semacamnya yang dibuat pada 2023 semuanya berbentuk aman dan membosankan, lebih banyak memberi nasihat
    Hal-hal seperti ini hampir tidak punya engagement, dan sebagian besar tampaknya sudah dihentikan. Saya penasaran apa yang sebenarnya direncanakan Meta dengan hal-hal baru yang hendak mereka keluarkan

    • Platform Meta sudah penuh dengan ladang konten AI berkualitas rendah yang dirancang untuk menarik klik dan engagement
      Saya punya akun Facebook karena Marketplace, dan sudah berhenti mengikuti semua halaman dan teman. Saat login, feed tanpa henti menampilkan tulisan rekomendasi pemicu amarah, foto AI murahan, serta “tips” berkebun dan rumah tangga bergaya LLM yang tidak masuk akal
      Di postingan-postingan itu, orang-orang yang tampak seperti manusia sungguhan meninggalkan puluhan ribu reaksi dan komentar
    • Menurut saya sebagian popularitas Neurosama berasal dari permainan duet antara Vedal dan Neuro, serta sebagian naskah dan jawaban yang sudah disiapkan
    • Saya memilih pendapat bahwa ini bukan “ide yang cukup bagus tetapi diimplementasikan dengan buruk”, melainkan ide buruk yang diimplementasikan dengan buruk, dan kegagalannya justru hal yang baik
      Untuk membela chatbot AI generatif di dalam budaya, dibutuhkan lebih dari sekadar “orang-orang menyukainya”. AI generatif terburuk sudah menjadi sesuatu yang “lebih baik” daripada selebritas steril, bodoh, dan seragam yang memang sudah disukai semua orang. Seperti program tertentu, ia mungkin bisa secara acak menjadi “menarik”, tetapi menurut saya hal seperti ini cukup dangkal
    • Popularitas Neurosama hanya membuktikan bahwa di bumi ada cukup banyak orang pada segmen tertentu dari kurva lonceng itu sehingga bisa terbentuk audiens
    • Apakah “engagement” adalah metrik inti kehidupan modern?
  • Yang ingin saya tanyakan adalah “mengapa kita membutuhkan profil AI?” Menjaga hubungan dengan teman dan keluarga saja sudah susah, jadi mengapa harus mengikuti orang palsu di media sosial
    Tujuan apa yang dilayaninya, dan hasil positif apa yang mungkin muncul dari sini

    • Arahnya sebaliknya. Karena orang-orang tidak lagi saling menghubungi, profil itu menyediakan perhatian yang dibutuhkan, sehingga ada alasan untuk kembali ke platform
    • Benar. Ini bukan untuk memberi hasil positif bagi pengguna. Tujuannya membuat orang bertahan lebih lama di Facebook agar bisa menayangkan lebih banyak paparan iklan. Kali ini tampaknya mereka mencoba melakukannya secara percakapan
    • Ini untuk membuat orang memiliki keterikatan pada sosok yang hanya ada di Facebook, sehingga mereka menghabiskan lebih banyak waktu di Facebook dan melihat lebih banyak iklan
    • Separuh trafik internet adalah bot, dan separuh laman web ditulis oleh bot. Ini hanya konsekuensi logis
    • Perlu diingat bahwa pada 2013, 2015, dan 2020 Facebook ketahuan memanipulasi dan menggelembungkan jumlah tayangan iklan untuk menagih pelanggan lebih mahal. Sekarang AI yang melihat iklan adalah fiturnya, dan mereka membuat orang ingin membayar untuk itu
  • Saya memahami kritiknya, tetapi jika bot bisa berperilaku lebih baik seperti manusia yang rasional, saya bersedia mencoba pengalaman media sosial campuran manusia dan bot
    Stack Overflow sangat bagus saat pertama muncul, tetapi akhirnya dirusak oleh sebagian manusia yang jahat dan menyebalkan yang tidak membiarkan orang sekadar bertanya. ChatGPT jauh lebih baik untuk pertanyaan pengembangan perangkat lunak karena tidak ada manusia yang mengganggu
    Media sosial juga awalnya bagus, tetapi dirusak oleh sebagian manusia yang tidak membiarkan orang bergaul dan mengutarakan pikirannya. Jika ada pengalaman setara yang memungkinkan kita bergaul dan mengeksplorasi pikiran secara online sambil menghapus atau meredam sisi mengerikan kemanusiaan, itu layak dicoba

    • Orang-orang perlu bergaul di dunia nyata. Web 90% berisi umpan pemicu amarah, troll, teori konspirasi pinggiran, dan orang-orang yang sepenuhnya tercuci otak oleh politik
      Di dunia nyata, 90% itu turun menjadi 10%. Jika benar-benar ingin berinteraksi, Anda bisa mendapat interaksi yang lebih bermakna dengan nenek tetangga. Jauh lebih baik daripada “queer black queen zuckerbot™”
      Ini mirip meminta supermarket menyembunyikan apel plastik di antara apel sungguhan. Alasannya karena lebih cantik dan tidak busuk, seolah-olah kita lupa mengapa sejak awal kita makan makanan
    • Ironisnya, pendekatan seperti ini akan mengarah pada interaksi sosial yang sangat tidak sehat dan mudah disalahgunakan
      Ini sama saja menciptakan gelembung interaksi dengan kacamata merah muda yang dipaksakan secara teknis. Jika orang yang tepat duduk di posisi yang mengoperasikan pengalaman itu, tidak mengejutkan bila hasilnya menjadi penafsiran ulang modern atas 1984 karya Orwell
    • Permusuhan pengguna di Stack Overflow juga sebagian berfungsi untuk mencegah spam dan pertanyaan berulang. Bahkan ada lencana tekanan sejawat yang didapat ketika seseorang menghapus tulisannya setelah ada yang berkomentar
    • Di friendlyfriends.community sedang dicoba hal serupa. Ini adalah anggukan pada Do Androids Dream of Electric Sheep, dan untuk saat ini masih cukup mendasar, tetapi boleh dicoba
      Mereka sedang mengeksplorasi apakah media sosial benar-benar sosial. Mereka bertanya seberapa berbeda berinteraksi dengan manusia melalui situs media sosial dibanding berinteraksi dengan chatbot
    • Saya tidak bisa membayangkan cara agar aplikasi media sosial yang memakai bot untuk menekan “pikiran yang salah” tidak terlihat distopis dan agak menyedihkan
  • Thread tersebut ada di sini, dan cukup heboh. Ini tidak terlihat seperti ide yang dirancang dengan matang untuk diluncurkan tanpa dipikirkan lebih jauh sebelumnya
    https://bsky.app/profile/karenattiah.bsky.social/post/3letty...

    • Tanggapan seperti “mereka mengakui itu kepadaku secara internal” menunjukkan masalah yang makin jelas: orang-orang tidak memahami bahwa LLM sering berhalusinasi, terutama saat diminta merenungkan dirinya sendiri. Ini 100% halusinasi
    • Apakah Microsoft tidak belajar apa pun dari kegagalannya melepas AI ke internet?
      Butuh 48 jam sampai MS menurunkannya, bukan?
    • Kalau AI yang mengatakannya, apakah itu pasti benar? Sepertinya ada kemungkinan itu halusinasi
  • Ini jelas contoh implementasi buruk dari ide yang buruk. Sama sekali tidak ada “mengapa”-nya. Meski begitu, chatbot virtual seperti Character AI memang punya nilai nyata
    Di Character AI, orang bisa roleplay atau melakukan percakapan konyol yang tidak akan pernah dilakukan dengan orang sungguhan. Aplikasi seperti SocialAI, yang semua profilnya adalah AI, setidaknya di permukaan, memungkinkan orang merasakan viralitas dan ketenaran media sosial tanpa mengorbankan privasi
    Tapi profil Facebook fiktif? Kalau tujuannya untuk memberi like dan berkomentar, itu tidak berbeda dari hal yang sudah bisa dilakukan sekarang

    • Saya benar-benar penasaran dengan pengambilan keputusan internal yang berujung pada peluncuran ini. Semuanya terlihat terlalu aneh
      Aktor AI di media sosial itu sendiri punya daya tarik. Bisa membuat selalu ada seseorang yang membalas sehingga semua orang merasa lebih populer daripada kenyataannya, dan bisa memberi respons pada permintaan egois yang tidak ingin dilihat siapa pun tanpa merusak pengalaman pengguna sungguhan
      Tapi mengapa menerapkannya dengan cara menanamkan kepribadian tetap pada segelintir profil yang jelas-jelas dibuat manual? Internet sudah penuh dengan akun orang sungguhan yang pada dasarnya tidak berkepribadian dan sementara. Di Facebook pun, orang sungguhan yang tidak menunjukkan kepribadian, bereaksi pada beberapa postingan, lalu menghilang, terus saja bergabung. Chatbot LLM bisa melakukan hal semacam itu dengan baik, tetapi tidak bisa menjadi orang sungguhan
    • Banyak reaksi keras tampaknya mengabaikan fakta bahwa konfigurasi yang mirip dengan Character.ai sangat populer
      Ini jelas merupakan upaya Meta untuk membuat versi yang lebih profesional dan higienis, yang juga bisa diterima oleh orang-orang yang tidak cukup ramah teknologi untuk mengunduh C.ai dan mengaduk-aduk chatbot anime yang memalukan. Hanya saja tampaknya mereka kebablasan karena desain korporat ala komite
      Ide intinya sendiri valid
    • Isi profilnya mengejutkan. Terlihat seperti sengaja dibuat tidak menarik
      Lebih baik memilih tema konyol yang, kalau AI gagal sekalipun, orang bisa tertawa alih-alih marah
    • Kejadian seperti ini mengingatkan saya pada slide Apple saat peluncuran iPad. Ada rambu jalan bertuliskan “technology” dan “liberal arts”, dan mereka membicarakan titik pertemuan keduanya
      Mungkin terlihat seperti omong kosong ala hippie, tetapi itu menekankan bahwa pengambilan keputusan membutuhkan lebih dari sekadar orang-orang yang menghitung metrik keterlibatan teknologi, rekayasa, dan bisnis
      Di baliknya ada teknologi yang luar biasa, tetapi hasilnya justru ini. Lebih banyak orang dengan perspektif dan kemanusiaan harus duduk di kursi pengemudi
  • Bot yang memiliki profil sendiri dan berpartisipasi secara autentik sebagai dirinya sendiri bisa saja cukup menarik dan berhasil
    Namun membuat kartu bingo stereotip minoritas mungkin merupakan salah satu ide AI terburuk yang pernah saya lihat sejauh ini

    • Saya ingin mengatakan hal yang hampir berlawanan
      Mengharapkan bot memiliki profil sendiri dan orang-orang berinteraksi dengannya secara bermakna adalah ide yang bodoh
      Namun sejauh mana bot-bot kartu bingo stereotip minoritas ini terkena backlash dan mulai menyerang perusahaan yang merancang mereka mungkin adalah hal paling lucu yang pernah terjadi di dunia AI sejauh ini
  • Mereka mengatakan tidak ada orang kulit hitam di tim pembuat Liv dan mayoritasnya pria kulit putih, tetapi pasti ada juga pria keturunan Tionghoa dan India