Ketentuan penggunaan ChatGPT menegaskan, "dilarang memberikan nasihat hukum atau medis yang dipersonalisasi kepada orang lain"

 (ctvnews.ca)
2 poin oleh GN⁺ 2025-11-07 | 2 komentar | Bagikan ke WhatsApp
  • OpenAI baru-baru ini menjelaskan bahwa perubahan ketentuan yang ditafsirkan sebagai "sekarang tidak bisa lagi mendapatkan nasihat hukum/medis dari ChatGPT" bukan berarti mereka mengubah ketentuan terkait nasihat hukum dan medis
  • Pembaruan kebijakan penggunaan pada 29 Oktober menegaskan bahwa nasihat yang memerlukan lisensi profesional (hukum, medis, dan sebagainya) tidak boleh diberikan tanpa keterlibatan yang semestinya dari pemegang lisensi
  • Bahkan dalam kebijakan sebelum 29 Januari 2025, OpenAI juga telah membatasi aktivitas yang dapat berdampak signifikan pada keselamatan, kesejahteraan, atau hak orang lain, termasuk pemberian nasihat hukum, medis, dan keuangan yang dipersonalisasi

Klarifikasi kebijakan OpenAI

  • OpenAI menyatakan bahwa ChatGPT tidak menggantikan nasihat hukum atau medis profesional, serta menegaskan bahwa perubahan ketentuan terkait ini bukanlah hal baru
    • Dalam pernyataannya kepada CTVNews, OpenAI menyebut, “Ini bukan perubahan baru, dan ChatGPT tetap merupakan sumber yang berguna untuk membantu memahami informasi hukum dan kesehatan”
  • Dalam pembaruan kebijakan penggunaan pada 29 Oktober, OpenAI secara eksplisit menyatakan bahwa nasihat yang dipersonalisasi dan memerlukan lisensi (hukum, medis, dan sebagainya) tidak dapat diberikan tanpa keterlibatan yang semestinya dari profesional berlisensi
  • Ini merupakan bentuk aturan yang ditulis lebih jelas dibandingkan rumusan dalam kebijakan 29 Januari 2025
    • Saat itu, kebijakan meminta agar pengguna tidak melakukan atau mendorong aktivitas yang dapat berdampak signifikan pada keselamatan, kesejahteraan, atau hak orang lain, yang mencakup larangan memberikan nasihat hukum, medis, dan keuangan yang dipersonalisasi
  • OpenAI juga menyatakan bahwa “perilaku model juga tidak berubah”, menekankan kelanjutan dari kebijakan yang sudah ada

Pemanfaatan informasi medis melalui ChatGPT dan keterbatasannya

  • ChatGPT telah menjadi alat yang banyak digunakan oleh warga Kanada untuk mencari jawaban atas masalah kesehatan
  • Tim peneliti dari University of Waterloo mengevaluasi performa ChatGPT-4 dengan memberikan pertanyaan yang dimodifikasi dari skenario ujian kualifikasi medis
    • Hasilnya, jawaban yang akurat mencapai 31%, sementara jawaban yang jelas mencapai 34%
    Iklan
  • Dalam studi lain dari University of British Columbia, ditemukan bahwa ungkapan empatik ChatGPT dipersepsikan lebih meyakinkan daripada manusia sungguhan
    • Bahkan jika informasinya tidak akurat, penyampaiannya yang percaya diri dan terdengar meyakinkan membuat pengguna sulit membedakan kesalahan
    • Para dokter mengalami situasi di mana pasien yang telah mempercayai nasihat alat AI datang berobat setelah sudah mengambil kesimpulan sendiri

Pemberitahuan koreksi artikel

  • Versi awal artikel menyatakan bahwa OpenAI telah menghentikan fungsi pemberian nasihat medis dan hukum, namun
    • OpenAI kemudian mengoreksinya dengan menyatakan, “perilaku model tidak berubah”

Bacaan terkait

2 komentar

 
shakespeares 2025-11-10

Di negara dengan sistem layanan kesehatan yang belum tertata dengan baik, penggunaan ini tampaknya akan sangat membantu.
 
GN⁺ 2025-11-07
Opini Hacker News

  • Saya membaca ini bukan sebagai “kita tidak boleh langsung mengajukan pertanyaan medis atau hukum ke ChatGPT”, melainkan “kita tidak boleh membuat layanan yang memberikan nasihat medis/hukum kepada orang lain berbasis ChatGPT”
    Misalnya, Epic tidak bisa memasukkan ChatGPT ke aplikasinya untuk membiarkannya membaca dokumen pasien sebagai pengganti. Tetapi individu tetap bisa bertanya langsung ke ChatGPT
    Namun, saya sendiri masih belum menemukan pasal ketentuan penggunaan yang dikutip di artikel itu

    • Sebagai catatan, Epic yang dimaksud di sini bukan perusahaan game, melainkan perusahaan sistem electronic health record (EHR) yang banyak dipakai di rumah sakit AS
    • Ungkapan “membangun sesuatu di atas ChatGPT” membingungkan. ChatGPT sendiri tidak punya API; yang dipakai adalah GPT-5 API milik OpenAI
      Tampaknya jurnalisnya mencampuradukkan ChatGPT dan GPT API. Ketentuan yang sebenarnya telah digabungkan ke dalam Ketentuan Penggunaan OpenAI
      Frasa yang relevan adalah larangan menggunakan output untuk “penggunaan yang dapat berdampak signifikan”, seperti keputusan hukum, medis, atau finansial tentang seseorang
    • Pada akhirnya ini tampak sekadar langkah untuk menghindari tanggung jawab hukum
      Mengingat banyak promosi bahwa GPT telah lulus ujian hukum dan medis, ini terlihat sebagai mekanisme untuk menghindari tanggung jawab bila nasihat nyata menimbulkan masalah
      Jika perusahaan seperti Epic ingin menambahkan fungsi seperti itu, mereka mungkin harus menempelkan disclaimer seperti “ini hasil buatan AI dan bukan nasihat hukum”
    • OpenAI tampaknya ingin meminimalkan tanggung jawab tanpa sepenuhnya membatasi kegunaan alatnya
    • Saya justru menganggap kebijakan seperti ini masuk akal. Mengambil output ChatGPT lalu membungkusnya sebagai nasihat medis/hukum dan memungut bayaran hampir mendekati penipuan
      Kalau seperti saya hanya ingin menjadikan pendapat ChatGPT sebagai referensi, ya tinggal tanya langsung. Mengemas ulang lalu menjualnya adalah menipu pengguna

  • Masalah yang sebenarnya bukan perubahan kebijakan, melainkan kemampuan AI untuk terdengar meyakinkan berkembang lebih cepat daripada akurasi nyatanya
    Akibatnya, jawaban yang salah pun terdengar seperti ucapan ahli, dan orang-orang jadi percaya karena nada percaya diri itu
    Terutama di bidang seperti medis dan hukum, yang hasilnya sangat penting, jarak antara keyakinan dan akurasi ini adalah risiko terbesar

  • Saya sudah beberapa kali melihat orang memakai ChatGPT seperti konselor psikologis. Ada juga yang sampai melakukan diagnosis mandiri
    Ini memang terdengar lucu, tetapi sebenarnya sangat berbahaya. Model selalu cenderung menanggapi secara positif, sehingga pengguna mudah terseret ke arah yang salah
    Kasus seperti ini pada akhirnya sangat mungkin berujung pada gugatan hukum

    • Saya bekerja di perusahaan yang membuat alat AI untuk profesional kesehatan mental. Output model sama sekali tidak pernah disampaikan langsung ke pasien
      Saya benar-benar pernah mendengar kasus nasihat LLM yang menyebabkan percobaan bunuh diri atau dampak serius lainnya
      Jika ada orang di sekitar Anda yang memakai LLM dengan cara seperti ini, tolong dorong mereka untuk mencari bantuan profesional
    • Tentu saja fenomena ini bukan hal baru. Sejak dulu orang sudah mendiagnosis diri lewat pencarian Google
      ChatGPT hanya membuat proses itu lebih mudah. Pada dasarnya penyebabnya adalah masalah akses terhadap layanan kesehatan
    • Saya setuju bahwa kita perlu memercayai profesional. Seperti lelucon bahwa jika memasukkan gejala ke WebMD hasilnya selalu kanker, batas diagnosis mandiri itu jelas
    • Kecenderungan dasar LLM adalah membantu dan menyetujui, sehingga dalam masalah kesehatan mental justru bisa berdampak sebaliknya
    • Perilaku seperti ini sendiri mungkin merupakan tanda adanya masalah mental

  • Rasanya ironis bahwa OpenAI menekankan ketentuannya sendiri sementara tidak terlalu peduli pada hak cipta atau IP milik orang lain

    • Seseorang membagikan tautan lagu Bo Burnham secara bercanda sambil berkata “selamat datang di internet”
      (Welcome to the Internet, Jeff Bezos Song)
    • Ada juga respons sinis bahwa mengendalikan milik orang lain lalu mengambil keuntungan darinya adalah hakikat pencuri
    • Namun, ada yang mengatakan mereka tidak memahami kemarahan seperti itu. Mereka berpendapat bahwa memakai informasi yang dipublikasikan di internet untuk pelatihan hanyalah soal membaca lalu belajar
      Pada akhirnya, ketentuan itu hanya untuk menghindari tanggung jawab, dan bertujuan mencegah pengguna menggugat OpenAI ketika terjadi masalah akibat penyalahgunaan

  • Saya sudah menduga regulasi seperti ini akan muncul suatu hari nanti
    Ke depan mungkin akan dibuat skema seperti “sertifikasi HippocraticGPT”, lalu dijual versi yang aman dipakai untuk medis dan hukum
    Dengan begitu bisa dilakukan monetisasi lewat lisensi perusahaan

    • Memang seharusnya begitu. Seperti lisensi dokter, perlu ada sertifikasi kelayakan penggunaan AI
      Perusahaan tempat saya bekerja juga hanya menyediakan alat untuk profesional. Pasien tidak melihat output model secara langsung
      Tujuannya bukan perawatan yang lebih baik, melainkan perawatan yang lebih efisien
    • Ada yang bercanda bahwa nanti untuk bertanya soal kesehatan kita mungkin akan memerlukan resep
    • Ada juga pendapat bahwa regulasi seperti ini seharusnya berlaku bukan hanya untuk OpenAI, tetapi untuk semua perusahaan AI

  • Isi artikelnya kemudian diperbaiki dengan penjelasan bahwa OpenAI tidak melarang nasihat medis/hukum, dan perilaku modelnya tidak berubah
    Teks aslinya bisa dilihat di artikel CTV News

    • Ini disebut sebagai “mahakarya pemasaran”

  • Ada yang mengatakan tahun lalu mereka bisa terhindar dari stroke berkat ChatGPT. Mereka merasa LLM sangat membantu dalam memberikan informasi medis

    • Tetapi ada bantahan bahwa ini bukan soal “selalu membantu”, melainkan kadang bermanfaat dan kadang berbahaya
      Karena sistemnya non-deterministik, hasilnya bisa berbeda setiap saat
    • Seorang pengguna menunjukkan bahwa “menggeneralisasi dari satu pengalaman pribadi adalah kekeliruan”, dan bahwa ChatGPT tidak cukup akurat untuk menjadi pengganti dokter atau layanan darurat
      Meski begitu, ia menambahkan syukurlah Anda selamat
    • Orang lain juga bertanya, “kalau situasinya seperti itu, kenapa tidak langsung telepon 911 atau dokter utama Anda?”

  • Baru-baru ini di OpenAI Dev Day sempat diperkenalkan di panggung contoh bantuan diagnosis medis, jadi kebijakan kali ini tampaknya muncul karena risiko hukum yang terlalu besar

    • Mungkin strateginya adalah menjual versi yang sudah terverifikasi kepada segmen pelanggan yang jelas seperti dokter, rumah sakit, dan perusahaan asuransi

  • Ke depan, kemungkinan besar OpenAI akan merilis produk khusus untuk dokter atau pengacara
    Jika nasihat hukum dan medis dilarang di ChatGPT umum, maka diferensiasi harga menjadi mungkin

    • Pada akhirnya profesi seperti ini tampaknya tak terhindarkan akan menuju struktur yang bergantung pada AI
    • Bab 3 dari makalah GDPval secara eksplisit menyebut strategi pemasaran untuk augmentasi melalui kolaborasi dengan profesional
      Namun dalam jangka panjang, jika regulasi dilonggarkan, ini bisa mengarah pada penggantian profesional
    • Di rumah sakit saya sendiri, AI sudah dipakai untuk ringkasan klinis dan penulisan catatan
    • Layanan seperti OpenEvidence bisa digunakan gratis jika Anda adalah pemegang NPI

  • Saya membaca pasal baru ini sebagai larangan atas gugatan akibat nasihat medis/hukum yang salah

    • Jika seseorang menjual konsultasi hukum kepada orang lain padahal yang diberikan sebenarnya hanya output ChatGPT mentah, itu bukan tanggung jawab OpenAI
      Pasal ini hanya memperjelas bahwa Anda tidak boleh membungkusnya sebagai sesuatu seperti “layanan pengacara AI berbasis ChatGPT”