Ketentuan penggunaan ChatGPT menegaskan, "dilarang memberikan nasihat hukum atau medis yang dipersonalisasi kepada orang lain"

• OpenAI baru-baru ini menjelaskan bahwa perubahan ketentuan yang ditafsirkan sebagai "sekarang tidak bisa lagi mendapatkan nasihat hukum/medis dari ChatGPT" bukan berarti mereka mengubah ketentuan terkait nasihat hukum dan medis
• Pembaruan kebijakan penggunaan pada 29 Oktober menegaskan bahwa nasihat yang memerlukan lisensi profesional (hukum, medis, dan sebagainya) tidak boleh diberikan tanpa keterlibatan yang semestinya dari pemegang lisensi
• Bahkan dalam kebijakan sebelum 29 Januari 2025, OpenAI juga telah membatasi aktivitas yang dapat berdampak signifikan pada keselamatan, kesejahteraan, atau hak orang lain, termasuk pemberian nasihat hukum, medis, dan keuangan yang dipersonalisasi

---

Klarifikasi kebijakan OpenAI

• OpenAI menyatakan bahwa ChatGPT tidak menggantikan nasihat hukum atau medis profesional, serta menegaskan bahwa perubahan ketentuan terkait ini bukanlah hal baru
  • Dalam pernyataannya kepada CTVNews, OpenAI menyebut, “Ini bukan perubahan baru, dan ChatGPT tetap merupakan sumber yang berguna untuk membantu memahami informasi hukum dan kesehatan”
• Dalam pembaruan kebijakan penggunaan pada 29 Oktober, OpenAI secara eksplisit menyatakan bahwa nasihat yang dipersonalisasi dan memerlukan lisensi (hukum, medis, dan sebagainya) tidak dapat diberikan tanpa keterlibatan yang semestinya dari profesional berlisensi
• Ini merupakan bentuk aturan yang ditulis lebih jelas dibandingkan rumusan dalam kebijakan 29 Januari 2025
  • Saat itu, kebijakan meminta agar pengguna tidak melakukan atau mendorong aktivitas yang dapat berdampak signifikan pada keselamatan, kesejahteraan, atau hak orang lain, yang mencakup larangan memberikan nasihat hukum, medis, dan keuangan yang dipersonalisasi
• OpenAI juga menyatakan bahwa “perilaku model juga tidak berubah”, menekankan kelanjutan dari kebijakan yang sudah ada

Pemanfaatan informasi medis melalui ChatGPT dan keterbatasannya

• ChatGPT telah menjadi alat yang banyak digunakan oleh warga Kanada untuk mencari jawaban atas masalah kesehatan
• Tim peneliti dari University of Waterloo mengevaluasi performa ChatGPT-4 dengan memberikan pertanyaan yang dimodifikasi dari skenario ujian kualifikasi medis
  • Hasilnya, jawaban yang akurat mencapai 31%, sementara jawaban yang jelas mencapai 34%
• Dalam studi lain dari University of British Columbia, ditemukan bahwa ungkapan empatik ChatGPT dipersepsikan lebih meyakinkan daripada manusia sungguhan
  • Bahkan jika informasinya tidak akurat, penyampaiannya yang percaya diri dan terdengar meyakinkan membuat pengguna sulit membedakan kesalahan
  • Para dokter mengalami situasi di mana pasien yang telah mempercayai nasihat alat AI datang berobat setelah sudah mengambil kesimpulan sendiri

Pemberitahuan koreksi artikel

• Versi awal artikel menyatakan bahwa OpenAI telah menghentikan fungsi pemberian nasihat medis dan hukum, namun
  • OpenAI kemudian mengoreksinya dengan menyatakan, “perilaku model tidak berubah”