- GPT-2 adalah kecerdasan buatan pembuat teks berskala besar yang dilatih dengan 8 juta halaman web, dan menunjukkan kemampuan untuk melanjutkan kalimat yang diberikan secara alami
- OpenAI menyatakan model ini berisiko disalahgunakan untuk berita palsu atau peniruan identitas online, sehingga mereka hanya merilis versi yang diperkecil alih-alih model penuh
- Para peneliti menilai langkah tidak membuka penuh ini hanya merupakan respons sementara, dan model serupa akan segera bisa direproduksi
- Sebagian pihak mengkritik OpenAI karena melebih-lebihkan risikonya demi menarik perhatian, sementara pakar lain menilainya sebagai pemicu diskusi etika AI
- Kasus ini menjadi titik balik penting yang menunjukkan bagaimana menyeimbangkan tanggung jawab dalam membuka AI dan tak terelakkannya penyebaran teknologi
Penundaan rilis GPT-2 oleh OpenAI dan perdebatan etika kecerdasan buatan
- OpenAI mengembangkan model pembuat teks baru GPT-2 yang mampu menghasilkan kalimat konsisten sesuai topik yang diberikan, tetapi menunda perilisan model penuhnya karena alasan keselamatan dan keamanan
- Sebagai gantinya, OpenAI hanya merilis versi yang diperkecil, dan tetap tidak membuka dataset serta kode pelatihan yang digunakan
- Media menggambarkan ini secara berlebihan sebagai “kecerdasan buatan yang harus disegel demi umat manusia”, dan para pakar memunculkan diskusi bahwa ada pembesaran ancaman
- Keputusan ini memicu perdebatan tentang sampai sejauh mana cakupan pembukaan algoritme AI yang berpotensi berbahaya seharusnya diizinkan
Karakteristik teknis dan performa GPT-2
- GPT-2 adalah model bahasa yang dilatih dengan teks dari 8 juta halaman web, menggunakan metode memprediksi kata berikutnya dalam sebuah kalimat
- Model ini dapat menghasilkan kalimat lanjutan yang alami sesuai gaya dan topik dari kalimat masukan
- Sebagai contoh, ketika diberi kalimat “menemukan kawanan unicorn yang bisa berbahasa Inggris di Pegunungan Andes”, GPT-2 menyelesaikannya menjadi teks bergaya artikel ilmiah fiktif
- Model ini juga dapat menghasilkan teks dalam beragam gaya penulisan seperti novel, kolom opini, dan pidato
- Kalimat yang dihasilkan kadang mengandung pengulangan, perpindahan topik yang tidak mulus, atau isi yang tidak logis, tetapi dinilai jauh meningkat dibanding model sebelumnya dalam pemahaman konteks dan konsistensi kalimat
- GPT-2 mampu membedakan makna ganda kata dan mengenali penggunaan yang langka, serta berpotensi diterapkan pada terjemahan, chatbot, dan alat bantu menulis
Keputusan menunda rilis dan perdebatan di sekitarnya
- OpenAI khawatir GPT-2 dapat disalahgunakan untuk membuat berita palsu, meniru identitas orang di internet, dan menyebarkan spam
- Karena itu, mereka hanya merilis versi yang diperkecil, sementara data pelatihan dan kodenya tetap tidak dibuka
- Namun, banyak peneliti AI menilai langkah tidak membuka ini hanya merupakan respons sementara
- Robert Frederking dari Carnegie Mellon menyatakan, “Teknologi yang digunakan OpenAI bukan hal baru, dan peneliti lain juga akan segera dapat membuat model serupa.”
- Muncul pula pendapat bahwa lembaga dengan modal dan pengetahuan yang memadai bahkan dapat membangun model serupa hanya dengan layanan cloud seperti AWS
- Sebagian peneliti mengkritik OpenAI karena melebih-lebihkan risikonya demi menarik perhatian dan membatasi peluang riset di kalangan akademik
- Sebaliknya, David Bau dari MIT menilai keputusan ini sebagai gestur untuk memicu diskusi etika AI, dan mengatakan, “Hal positifnya adalah OpenAI membuat orang memberi perhatian pada masalah ini.”
Persoalan keterbukaan AI dan penilaian etis
- John Bowers dari Berkman Klein Center Harvard menjelaskan bahwa apakah teknologi AI perlu dibuka atau tidak adalah persoalan analisis biaya-manfaat
- Ia menyatakan mendukung pembukaan algoritme pembuat teks yang berkontribusi pada kemajuan pemrosesan bahasa alami, tetapi mengatakan teknologi pengenalan gambar yang dapat disalahgunakan untuk pengawasan atau manipulasi perlu diperlakukan dengan hati-hati
- Ia secara khusus menyoroti teknologi deepfake sebagai sesuatu yang “mudaratnya jauh lebih besar daripada manfaatnya”
- Bowers menilai penilaian seperti ini menunjukkan ketidakmatangan bidang AI
- Saat ini, bidang machine learning masih kekurangan standar sistematis untuk menilai dampak sosial teknologi dan pertimbangan etisnya
Batas pengendalian penyebaran teknologi dan contoh sejarah yang serupa
- Seperti terlihat dalam sejarah belakangan ini, upaya menekan atau mengendalikan penyebaran alat AI kemungkinan besar akan gagal
- Frederking mengajukan kegagalan regulasi teknologi enkripsi pada 1990-an sebagai preseden serupa
- Saat itu pemerintah mendorong rancangan kewajiban pemasangan backdoor untuk penyadapan komunikasi, tetapi upaya itu dilumpuhkan ketika Phil Zimmerman mengembangkan alat enkripsi PGP
- Setelah itu, teknologi enkripsi kuat juga menjadi mudah diperoleh dari luar negeri, dan regulasi praktis menjadi mustahil
- Frederking menegaskan, “Ketika waktunya kemajuan ilmiah tiba, kita tidak bisa menghentikannya. Yang bisa kita lakukan hanyalah memutuskan bagaimana meresponsnya.”
Kesimpulan
- Penundaan rilis GPT-2 dinilai sebagai kasus penting terkait risiko teknologi AI dan tanggung jawab keterbukaan
- Keputusan OpenAI menyoroti persoalan keseimbangan antara etika AI, transparansi, dan tak terelakkannya penyebaran teknologi
- Dalam jangka panjang, diperlukan standar yang dapat menyelaraskan keterbukaan riset AI dengan keamanan sosial
Belum ada komentar.