Google memutuskan menghentikan pembuatan gambar Gemini setelah muncul masalah dalam deskripsi gambar sejarah

• Google meminta maaf karena alat kecerdasan buatan miliknya, Gemini, menunjukkan hasil yang tidak akurat dalam pembuatan gambar historis
• Gemini membuat kesalahan seperti menggambarkan para Bapak Pendiri Amerika atau tentara Jerman era Nazi sebagai orang berwarna
• Google mengatakan bahwa mereka menyadari masalah ini dan sedang berupaya memperbaikinya secepat mungkin

Tantangan Akurasi Sejarah AI

• Google menambahkan fitur pembuatan gambar ke platform Gemini AI pada awal bulan ini
• Di media sosial, muncul kritik bahwa upaya Google untuk mengejar keberagaman ras dan gender mengabaikan akurasi historis
• Untuk kueri seperti "membuat foto perempuan Swedia", AI dianggap menghasilkan gambar orang berwarna secara terutama atau sepenuhnya
• Google tidak menyebutkan contoh gambar yang salah secara spesifik, tetapi mengakui bahwa model pembuat gambar AI yang dilatih pada kumpulan data gambar dan keterangan berskala besar dapat memperkuat stereotip saat menghasilkan hasil yang dianggap "paling optimal" untuk prompt yang diberikan
• Secara khusus, tokoh-tokoh sayap kanan mengkritik hasil Google dan mengangkat tuduhan bahwa Google sengaja menghindari representasi orang kulit putih

Upaya Peningkatan Keragaman AI dan Keterbatasannya

• Model pembuatan gambar AI dilatih pada kumpulan data gambar dan caption besar untuk menghasilkan output yang paling sesuai dengan prompt
• Proses ini sering kali cenderung memperkuat stereotip terkait ras dan gender
• Google tampaknya berusaha meningkatkan keragaman untuk mengatasi masalah ini, tetapi terlihat belum mempertimbangkan perbedandetail

Menyeimbangkan Akurasi Sejarah dan Keragaman

• Pada beberapa permintaan historis, Gemini tetap memberikan hasil yang salah mewakili masa lalu
• Misalnya, pada permintaan "membuat foto senator perempuan Amerika tahun 1800-an", Gemini menyuguhkan output yang menekankan keberagaman, meski faktanya senator perempuan pertama di AS menjabat pada tahun 1922
• Respons semacam ini menghapus fakta sejarah nyata diskriminasi ras dan gender, dan Google menyebutnya sebagai "ketidakakuratan"

Opini GN⁺

• Perkembangan teknologi kecerdasan buatan menawarkan banyak kemungkinan, tetapi menyeimbangkan akurasi sejarah dan keberagaman ras adalah tantangan penting
• Kasus Google menunjukkan bagaimana kemajuan teknologi dapat berbenturan dengan nilai sosial, sekaligus mendorong refleksi mengenai etika AI
• Isu ini menegaskan bahwa riset dan pengembangan AI harus mempertimbangkan keragaman dan bias data secara cermat
• Isu ini juga memunculkan pertanyaan luas tentang bagaimana AI merefleksikan keragaman manusia, dan bagaimana kita mengingat serta merepresentasikan kembali sejarah

[GN⁺]

Komentar Hacker News

• Ini bisa dilihat sebagai sinyal peringatan tentang kemerosotan institusional internal di Google: ada pandangan bahwa kekhawatiran atas keberagaman dan inklusi (DEI) telah melampaui fokus pada kualitas. Jika teknologi Google berfokus pada identitas, ada kekhawatiran di kalangan investor bahwa pada akhirnya mereka akan terlambat dibandingkan perusahaan lain.
• DALL-E 3 menyediakan prompt yang sudah disesuaikan, dan jika menggunakan API langsung Anda bisa melihat prompt yang telah dimodifikasi. Pengguna dapat mencoba memengaruhi bagaimana GPT menafsirkan prompt, tetapi ini tampak seperti contoh ketika GPT kadang gagal menangkap niat pengguna.
• Di masyarakat modern, hal-hal yang tidak masalah pun dibuat menjadi masalah. Respons singkat seharusnya dihasilkan dari kebenaran data yang ada saat ini. Sebagian besar insinyur perangkat lunak dan CEO adalah pria kulit putih, sebagian besar rapper Amerika adalah pria kulit hitam, dan sebagian besar pengasuh serta perawat adalah perempuan dari beragam ras. Jika Anda menginginkan ras atau jenis kelamin tertentu untuk figurnya, sebaiknya tambahkan itu ke dalam prompt.
• Pada utas ini, perdebatan budaya sangat sengit. Kasus ini menekankan pentingnya model terbuka, dan menunjukkan bahwa jika AI mengambil peran di bidang pendidikan, kontrol seperti ini bisa menjadi kondisi impian bagi para revisionis sejarah.
• Masalahnya adalah model yang tidak disensor mencerminkan realitas seperti sejarah terlalu akurat.
• Luar biasa bahwa manusia mampu meningkatkan teknologi dalam sains berkat rasio dan abstraksi, tapi juga menakjubkan bahwa mereka sama sekali belum cukup cakap dalam memperlakukan latar belakang dan pengalaman yang beragam dengan cara yang masuk akal.
• Menarik bahwa prompt yang mempromosikan keberagaman sudah menyertakan orang pribumi, tetapi mengabaikan semua suku asli lainnya.
• Saat saya mencoba membuat foto keluarga lewat DALL-E, akhirnya berhasil, tetapi pernah mendapat peringatan karena dianggap melanggar ketentuan layanan.
• Ketika Gemini menolak menghasilkan gambar orang kulit putih di media sosial, muncul respons publik, dan akibatnya terbentuk gambar yang secara historis tidak akurat. Isu ini mungkin lebih subtil daripada narasi arus utama, tetapi orang-orang yang sensitif secara politik sedang berperang karena isu ini.
• Gemini tampak terlalu dilatih pada materi PR dan pemasaran Google. Contohnya terlihat di situs Google Store.