Keselarasan AI berarti penelitian keselarasan AI bertujuan menyesuaikan sistem AI agar selaras dengan tujuan, preferensi, atau prinsip etika yang dimaksudkan manusia. Jika sistem AI mencapai tujuan yang dimaksudkan, maka keselarasan dianggap telah tercapai. Sistem AI yang salah selaras mungkin mampu mencapai sebagian tujuan, tetapi tidak mencapai tujuan yang sebenarnya dimaksudkan.
OpenAI baru-baru ini merilis hasil penelitian berjudul 'Language models can explain neurons in language models', yang jika dilihat dari satu sisi juga dapat dimaknai sebagai 'untuk memahami AI, kita membutuhkan AI'.
Lebih jauh lagi, tampaknya AI juga akan dibutuhkan untuk memecahkan 'masalah keselarasan' yang kerap disebut OpenAI.
Kalau begitu, bisakah 'AI menilai keselarasan antara AI dan manusia'? Jika bisa, apakah Anda ingin hal itu dilakukan?
1 komentar
Kalaupun bisa, sepertinya tetap akan ditentang oleh berbagai macam organisasi sosial dengan beragam alasan.