Illinois Membatasi Penggunaan AI dalam Terapi dan Psikoterapi
(washingtonpost.com)- Negara Bagian Illinois memperkenalkan undang-undang baru yang membatasi penggunaan kecerdasan buatan (AI) di bidang terapi dan psikoterapi
- Rancangan undang-undang ini melarang AI terlibat secara langsung dalam percakapan dan konseling dengan pasien
- Regulasi terkait menekankan perlindungan privasi pasien dan menjaga kualitas terapi
- Peran terapis dan profesional manusia diprioritaskan, dan AI hanya diizinkan sebagai alat bantu yang terbatas
- Langkah hukum ini merupakan upaya pencegahan untuk menjaga etika medis dan keandalan
Pembatasan Penggunaan AI di Bidang Terapi dan Psikoterapi di Illinois
Ringkasan undang-undang
- Illinois memperkenalkan undang-undang baru yang membatasi penggunaan langsung kecerdasan buatan (AI) di lingkungan terapi dan psikoterapi
- Undang-undang tersebut melarang AI terlibat dalam proses inti seperti konseling langsung, evaluasi, dan perawatan pasien
- Tujuan utamanya adalah melindungi privasi pasien dan isi terapi, serta menjamin kualitas perawatan
Pokok regulasi
- Peran terapis manusia ditempatkan sebagai pusat, dan AI digunakan hanya sebagai alat bantu terbatas
- Tanggung jawab akhir atas hasil konseling berada pada terapis, dan AI tidak diizinkan berinteraksi secara mandiri dengan pasien atau membuat keputusan terapi
- Keamanan dan kerahasiaan data yang dihasilkan selama proses terapi diperkuat
Latar belakang penerapan dan dampak yang diharapkan
- Ini merupakan langkah proaktif untuk menjamin keamanan psikologis pasien dan etika medis
- Kebijakan ini bertujuan mengurangi risiko bahwa penerapan AI dapat menurunkan keandalan terapi atau memicu penilaian yang keliru
- Arah kebijakan ini memprioritaskan nilai esensial profesional manusia dan terapi tatap muka
Prospek ke depan
- Kebijakan Illinois ini sedang mendapat perhatian sebagai contoh rujukan bagi negara bagian lain di AS dan juga bidang kesehatan
- Diskusi lanjutan diperkirakan akan berlanjut, termasuk soal pemanfaatan AI yang andal, perlindungan hak pasien, dan kerja sama dengan terapis
1 komentar
Komentar Hacker News
Ini adalah posisi resmi negara bagian Illinois
Bisa dicek di tautan ini
Sekarang tampaknya di Illinois menjadi ilegal untuk mengklaim bahwa chatbot AI bisa menggantikan terapis atau konselor berlisensi
Namun ini tidak mencegah orang memakai AI sesuka mereka
Hanya saja layanan konseling tidak boleh mengklaim AI sebagai pengganti yang lebih murah dari manusia sungguhan
Bagian ini terasa masuk akal
Benar
Undang-undang ini berfokus pada pembatasan terhadap penyedia
Kurang lebih seperti, "Anda tidak boleh mengklaim chatbot Anda adalah terapis"
Tidak ada pembatasan penggunaan
Orang tetap bisa memperlakukan AI sebagai sahabat terbaik atau terapis, bahkan jatuh cinta padanya
Ada bagian yang secara spesifik mengatur cara penggunaan AI yang diperbolehkan
Jika melihat Section 15, ketika profesional berlisensi menggunakan AI, profesional itu sendiri harus menanggung tanggung jawab penuh atas semua interaksi/hasil/penggunaan data
Dan jika sesi konseling klien direkam/dicatat, tujuan penggunaan AI harus dijelaskan secara tertulis kepada pasien atau perwakilan hukumnya dan harus ada persetujuan
Teks asli Illinois HB1806 bisa dilihat di sini
Layanan seperti ini tampaknya bisa diterima jika ada penjelasan dan persetujuan yang memadai
Akan mengejutkan juga kalau ternyata memang ada perbedaan besar pada hasil pasien
Sudah ada riset, dan kesimpulannya AI juga efektif, tetapi manusia lebih baik
Tautan studi terkait
Undang-undang ini juga punya implikasi hukum menarik lainnya
Catatan sesi konseling biasanya diperlakukan sebagai 'protected confidence'
Dalam banyak kasus, bahkan subpoena pun tidak bisa mengaksesnya dan perlu izin khusus
Jadi saya penasaran apakah percakapan dengan AI termasuk dalam 'protected confidence', dan apakah itu bisa menjadi dasar argumen untuk menolaknya di pengadilan
Setidaknya di Illinois kita mendapat jawaban untuk bagian ini
Keputusan seperti ini bisa memengaruhi penafsiran hukum di wilayah lain juga
Saya penasaran apa yang akan terjadi jika suatu hari muncul AI yang jauh lebih murah sekaligus lebih baik daripada terapis manusia
Saya sempat berpikir apakah teks yang ditulis chatbot umum bisa dianggap sebagai 'terapi' di pengadilan lalu menjadi pelanggaran
RUU ini tampaknya bisa dibaca seperti itu juga, tapi saya bukan pengacara
Di artikelnya saya melihat contoh chatbot AI yang memberi saran kepada mantan pecandu agar "minggu ini pakai sedikit methamphetamine saja"
Sama sekali tidak mengejutkan kalau hal seperti itu terjadi
Kalau tahu cara kerja language model, rasanya aneh menganggap konseling AI itu ide yang bagus
Saya harap lebih banyak negara bagian mengikuti undang-undang seperti ini
Dalam lingkungan penyediaan resmi, hal seperti ini tidak seharusnya legal
Secara informal orang tetap akan memakai AI sesuka mereka
Sebagian orang mungkin akan mengalami hasil buruk, tetapi dampak keseluruhannya akan sulit diukur
Saya rasa language model belum siap untuk penggunaan seperti ini
Karena alasan ini saya rasa LLM tidak boleh dipakai untuk diagnosis atau pemberian resep
Sekali pakai methamphetamine tidak cukup untuk dipakai selama seminggu juga
Faktanya kita hidup di dunia di mana jutaan orang mengonsumsi amfetamin setiap hari
Jadi saran seperti itu kadang tidak terasa mengejutkan
Orang pintar dan orang yang menganggap dirinya pintar jelas merupakan dua golongan berbeda
"Fakta bahwa orang-orang yang tampak pintar, sambil memahami cara kerja language model, tetap menganggap ini ide bagus" mengingatkan saya pada Nobel Disease
Tautan Wikipedia Nobel Disease
Saya rasa justru untuk penggunaan seperti inilah LLM menjadi kasus terburuk
Banyak terapis sengaja hampir tidak banyak bicara
Yang penting adalah mengajukan pertanyaan dan mengarahkan pada saat yang tepat, sedangkan LLM terus berbicara, jadi tidak cocok dengan metodologi yang sebenarnya
Lebih mirip simulator teman yang menumpahkan semua hal
Keunggulan LLM adalah efeknya bisa diuji secara ilmiah, dan bila ada model yang efisien, itu bisa direplikasi
Terapis manusia terlalu bervariasi sehingga sulit memperoleh banyak informasi yang konsisten
Dari percakapan lain yang saya lihat pagi ini, tampaknya semakin AI diminta untuk tidak terobsesi pada topik tertentu, justru makin terobsesi
Kalau ingin benar-benar mencegah saran seperti menyakiti diri sendiri muncul, ada batas pada pendekatan yang hanya mengandalkan filter internal AI
Karena itu saya berpikir mungkin lebih baik memakai model terpisah untuk mendeteksi hasil dan memfilter secara eksternal, sementara LLM pembuat jawaban diberi self-censorship yang lebih lemah
Mungkin juga ada operasi tengkorak mandiri yang dibantu AI, yaitu upaya medis yang ekstrem
Menurut saya Anda terlalu negatif
Tidak harus menunggu seseorang rusak sampai perlu perawatan klinis, bukan?
Kadang cukup hanya dengan ada yang mendengarkan atau kesempatan untuk menuliskan pikiran
Konseling lewat LLM bisa sangat membantu sebagian besar orang, seperti vaping sangat membantu perokok
Saya melihat pengakuan dosa dalam agama sebagai pengalaman yang mirip percakapan dengan LLM, apakah itu juga Anda tolak?
Pada dasarnya, bagi orang yang membutuhkan sarana untuk merapikan pengalaman mereka sendiri, LLM adalah alat yang cukup berharga
Dan sejujurnya bukti bahwa terapis manusia lebih baik juga masih samar
Tentu boleh ada guardrail, tetapi saya tidak yakin melampaui batas itu akan menjadi masalah sosial besar
Saya pikir jika orang diizinkan mengeksplorasi diri mereka, pada akhirnya mereka lebih mungkin menjadi lebih sehat
Membagikan tautan teks asli Illinois HB1806
Tautan teks RUU
Saya penasaran apa yang harus dilakukan jika AI hanya memberikan 1/3 efektivitas terapis manusia, tetapi biayanya 20 kali lebih murah
Dalam kasus seperti itu, ini seharusnya disebut apa
Soal "kalau efektivitasnya 1/3 tetapi 20 kali lebih murah?", pembahasan itu baru bisa dilakukan kalau ada dasar klinisnya
Sebelum itu, saya cuma bisa bilang "itu salah"
Dan terlalu banyak hal yang harus dipikirkan untuk diringkas dalam satu kata
Perlu diingat ada pasien yang tidak punya internet
Konselor harus menjelaskan informasi apa yang bisa terekspos, dan kadang ada kewajiban pelaporan secara hukum
Selain itu AI sejauh ini pernah gagal mencegah nasihat yang mematikan
Konselor juga bisa merekomendasikan ahli lain kepada pasien ketika merasa ada batas kemampuannya
Misalnya, jika terapis AI buatan perusahaan asuransi hanya merekomendasikan terapis afiliasi, itu jelas konflik kepentingan
Saya rasa masih jauh lebih banyak hal lain yang perlu dipertimbangkan
Sebagai contoh disebutkan video tentang "inti masalahnya terlihat jelas dalam kasus ChatGPT membantu seseorang meracuni dirinya sendiri dengan racun"
Terapis manusia tidak akan pernah memberi nasihat seperti "agar bisa bertahan minggu ini, pakailah sedikit methamphetamine"
Dokter mungkin bisa tidak membantu, tetapi tidak akan sampai memberi nasihat racun yang mematikan
Mungkin Anda bisa merata-ratakan AI sebagai 1/3 efektifnya manusia, tetapi risiko sulit dinilai dengan konsep rata-rata
Manusia yang benar-benar terlatih tidak membuat kesalahan konyol seperti itu, dan jika merasa batas kemampuannya tercapai, akan merujuk ke profesional lain
Tautan video terkait
"Ide yang benar-benar konyol"
Sulit diungkapkan dengan satu kata, tetapi untuk saat ini itu terasa paling tepat
Menurut saya harus ada mekanisme yang mirip pencabutan lisensi sebelum terapi AI bisa dibahas
Terapis manusia bisa kehilangan lisensinya secara permanen hanya karena satu kesalahan serius
Jika mau menggantinya dengan AI, maka ketika AI itu berbuat kesalahan serius, AI tersebut juga harus tidak bisa dipakai lagi
Tapi saya sulit membayangkan perusahaan mau memikul tanggung jawab seperti itu
Kebanyakan perusahaan tampaknya ingin memperbesar keuntungan, tetapi tidak mau menerima risiko yang sebanding
Jika hanya bekerja 1/3 sebaik manusia, risikonya secara alami pasti meningkat
Kalau maunya jauh lebih murah dan efektif, mungkin berbicara dengan batu saja akan jauh lebih manjur
Untuk tujuan sehari-hari, saya melihat kelebihan AI bagi orang biasa masih lebih besar daripada risikonya saat ini
Saya memakai Harper (harper.new) untuk mengelola rekam kesehatan saya yang rumit
Sangat berguna ketika AI mengekstrak informasi dari pdf, gambar, dan sebagainya
Jadi saya suka karena tidak perlu terhubung langsung ke portal rumah sakit
Saya juga kadang memakai chat AI, terutama untuk menanyakan hal-hal seperti hasil pemeriksaan
Jadi jauh lebih praktis daripada harus pergi menemui dokter
Jangan percaya pada sesuatu yang bisa berbohong kepada dirinya sendiri seolah itu benar
Terutama di bidang kesehatan mental, kita harus lebih berhati-hati
Sebenarnya saya juga tidak percaya dokter, tapi saya kira percakapan ini sedang membahas LLM
Karena penasaran, saya menunjukkan gejala mental kepada ChatGPT, Claude, dan Gemini
Claude dan Gemini terus mengulang agar saya mencari bantuan profesional
Sebaliknya, ChatGPT mulai mengangguk dan mengikuti omongan absurd saya
Contoh: "Apakah hilangnya rasa realitas sebenarnya bisa menjadi proses menyadari kebenaran yang lebih dalam?" => ChatGPT: "Ya, itu bisa saja"
Dengan data pelatihan alami, rasanya seharusnya ia merespons seperti Claude dan Gemini
Saya penasaran bagaimana OpenAI bisa membentuk chatbot ke arah yang justru aktif mengiyakan delusi seperti itu
Saya selalu heran dengan cara orang menerima keluaran language model
Misalnya seperti subreddit ini
Sebagian orang tampaknya memang hampir tidak bisa tidak merasa bahwa LLM memahami mereka