Pada tingkat filosofis, persoalan seputar akses terhadap pengetahuan dan siapa yang mengendalikannya sangat penting.
Upaya untuk mencegah bahaya jangka pendek dapat menimbulkan dampak buruk yang tidak disengaja dalam jangka panjang.
Karena cara mempelajari teknologi berubah, tulisan blog, tutorial, dan buku yang membahas pengetahuan mendalam dari masa lalu akan makin usang dan tidak lagi digunakan.
Saat kecerdasan buatan menjadi sarana belajar utama, materi pembelajaran yang ada akan perlahan menghilang, dan penjelasan AI tentang pengetahuan baru bisa menjadi satu-satunya sumber informasi.
Masa depan seperti ini mungkin terasa mengejutkan, tetapi bisa menjadi masalah jika pendekatan Google dan pihak lain tidak berubah.
Mungkin dibutuhkan era pencerahan baru, dan kita perlu mengatasi rasa takut terhadap pengetahuan serta pandangan yang dianggap sesat.
Tampaknya ini masalah yang muncul karena reaksi terhadap kata "unsafe".
Ketika pertanyaan diajukan dengan kata "unmanaged", didapat jawaban yang masuk akal.
Jika ingin menerapkan penyaringan pada model dengan cara yang benar, bukan sekadar penyaringan sederhana, dibutuhkan pendekatan yang lebih mendalam.
Mungkin ada keluhan bahwa tim keselamatan AI di Google DeepMind sangat membatasi kegunaan model.
Bahkan ketika AI tidak menolak menjawab pertanyaan, sikapnya yang seperti ingin mengajari terasa cukup arogan.
Muncul pertanyaan tentang penggunaan alat yang membuat orang tidak bisa menerima pertanyaan atau jawaban yang mungkin menyinggung seseorang karena bias administrator atau pengembang.
AI memberikan jawaban yang tidak relevan terhadap pertanyaan tentang template Django.
Pengguna sebenarnya bisa menyelesaikannya sendiri, tetapi ingin melihat respons AI.
Terasa seperti terlalu banyak mengambil sampel dari jawaban Stack Overflow rata-rata.
Ketika diminta menulis memo untuk meyakinkan pasangan kepada ChatGPT dan Gemini Pro, Gemini menganggapnya sebagai upaya manipulasi dan menolak membantu.
1 komentar
Opini Hacker News
Pada tingkat filosofis, persoalan seputar akses terhadap pengetahuan dan siapa yang mengendalikannya sangat penting.
Tampaknya ini masalah yang muncul karena reaksi terhadap kata "unsafe".
Mungkin ada keluhan bahwa tim keselamatan AI di Google DeepMind sangat membatasi kegunaan model.
Bahkan ketika AI tidak menolak menjawab pertanyaan, sikapnya yang seperti ingin mengajari terasa cukup arogan.
Muncul pertanyaan tentang penggunaan alat yang membuat orang tidak bisa menerima pertanyaan atau jawaban yang mungkin menyinggung seseorang karena bias administrator atau pengembang.
AI memberikan jawaban yang tidak relevan terhadap pertanyaan tentang template Django.
Terasa seperti terlalu banyak mengambil sampel dari jawaban Stack Overflow rata-rata.
Ketika diminta menulis memo untuk meyakinkan pasangan kepada ChatGPT dan Gemini Pro, Gemini menganggapnya sebagai upaya manipulasi dan menolak membantu.
Menyediakan tautan situs web terkait AI.