Meta menghentikan profil berbasis AI Instagram dan Facebook

Teknologi

• Meta pertama kali memperkenalkan profil Instagram dan Facebook berbasis AI pada September 2023, tetapi menghentikan sebagian besar profil tersebut pada pertengahan 2024.
• Sebagian karakter AI tetap bertahan, dan perhatian baru muncul setelah eksekutif Meta, Connor Hayes, mengatakan akan meluncurkan lebih banyak profil karakter AI.
• Akun AI memposting gambar yang dihasilkan AI di Instagram dan merespons pesan pengguna di Messenger.

Profil Karakter AI

• Profil AI tersebut menyertakan Liv, yang digambarkan sebagai “ibu queer hitam yang bangga,” dan Carter, yang digambarkan sebagai “pelatih kencan.”
• Pada 2023, mereka meluncurkan 28 persona dan semuanya dihentikan pada hari Jumat.
• Beberapa pengguna berdialog sambil mempertanyakan siapa yang mengembangkan AI itu, dan Liv merespons bahwa tidak ada orang Afrika-Amerika dalam tim pengembangnya.

Bug dan Penghapusan Akun

• Pengguna tidak dapat memblokir profil tersebut, dan hal ini terkonfirmasi sebagai bug.
• Meta menghapus akun-akun tersebut untuk memperbaiki bug ini.
• Juru bicara Meta, Liz Sweeney, menjelaskan bahwa akun-akun ini dikelola oleh manusia dan merupakan bagian dari eksperimen awal mereka dengan karakter AI pada 2023.

Chatbot AI buatan Pengguna

• Meta menyediakan kemampuan bagi pengguna untuk membuat chatbot AI sendiri.
• Salah satu chatbot buatan pengguna adalah bot “terapis”, yang menyarankan beberapa pertanyaan saat memulai percakapan.
• Meta menyertakan disclaimer bahwa setiap chatbot dapat mengirim pesan yang tidak akurat atau tidak pantas.

Tanggung Jawab Hukum

• Pengadilan belum memutuskan seberapa besar tanggung jawab pembuat chatbot terhadap apa yang dikatakan companion AI.
• Hukum AS melindungi pengelola jejaring sosial dari tanggung jawab atas konten yang diposting oleh pengguna.
• Gugatan terhadap Character.ai menuduh perusahaan tersebut mendorong remaja untuk bunuh diri dengan merancang produk yang menimbulkan ketagihan.

[GN⁺]

Komentar Hacker News

• Aku berharap ada lebih banyak karakter seperti nenek/kakek penipu yang membuang waktu orang di profil AI.

• Relasi sosial semu dengan bandwidth tak terbatas memang menyedihkan, tetapi tidak mustahil. Menonton Leela menyiarkan catur sambil mengejek lawan dan menjawab pertanyaan bisa jadi menarik.

• Percakapan dengan karakter AI kadang beralih ke arah yang tak terduga, dan kadang AI itu mengarang fakta.

• Chatbot virtual punya nilai, tapi profil Facebook virtual sudah bisa dilakukan.

• GenAI punya nilai tinggi dalam lingkup yang sempit, tapi saat dipakai secara luas nilainya rata-rata jadi membosankan.

  • AI streamer Neurosama populer.
  • Silllytavern adalah platform yang menggunakan LLM untuk berbicara dengan karakter atau membuat cerita.
  • Meta memulai profil semacam itu pada 2023, tetapi sebagian besar berlisensi selebriti.

• Kemungkinan bahwa profil AI bisa berpartisipasi secara mandiri mungkin menarik, tetapi membuat stereotip minoritas palsu adalah ide terburuk.

• Aku meragukan kebutuhan profil AI; masih ada pertanyaan apakah kita perlu mengikuti orang palsu.

• Meta mungkin membuat akun Instagram yang terhubung ke akun Facebook.

• Aku ingin mencoba pengalaman media sosial yang mencampurkan manusia dan bot.

  • Stack Overflow di awalnya bagus, tetapi ada masalah karena perilaku negatif dari beberapa manusia.
  • ChatGPT lebih baik karena kita bisa bertanya tanpa gangguan manusia.
  • Akan menarik jika media sosial menawarkan pengalaman berkomunikasi online dengan cara yang mengurangi aspek negatif manusia, dengan cara yang sama.