Putusan di Jerman menyatakan Google bertanggung jawab atas jawaban salah di AI Overviews

• AI Overviews diklasifikasikan bukan sebagai daftar hasil pencarian, melainkan sebagai konten yang dihasilkan Google dengan struktur dan kalimatnya sendiri, sehingga tanggung jawab langsung Google atas klaim palsu diakui
• Pengadilan Negeri München menilai ringkasan AI secara keliru mengaitkan dua penerbit dengan penipuan, jebakan langganan, dan praktik bisnis mencurigakan, padahal tidak ada hubungan semacam itu di sumber yang ditautkan
• Doktrin tanggung jawab terbatas yang selama ini diterapkan pada mesin pencari dan pelengkapan otomatis dirancang untuk fungsi yang membantu menemukan situs web eksternal, sehingga tidak berlaku untuk ringkasan AI
• Pembelaan Google bahwa pengguna dapat memeriksa sendiri sumbernya tidak diterima, dan ringkasan AI yang dapat dipahami secara mandiri tidak dibebaskan dari tanggung jawab hanya karena ada kemungkinan pencarian lanjutan
• Meski analisis menunjukkan Google AI Overviews berbasis Gemini 3 memiliki akurasi 91%, pada skala Google hal itu masih dapat berarti jutaan jawaban salah per jam dan dapat meluas menjadi risiko hukum bagi layanan AI serupa

---

Putusan inti pengadilan Jerman

• Pengadilan Negeri München di Jerman memutuskan bahwa Google bertanggung jawab langsung atas isi ringkasan pencarian yang dibuat AI
• Perintah larangan sementara melarang Google menyebarkan klaim palsu tentang dua penerbit yang berbasis di München melalui ringkasan pencarian buatan AI
• Pengadilan mengklasifikasikan “AI overview” bukan sebagai daftar hasil pencarian sederhana, melainkan sebagai konten milik Google sendiri
• Ringkasan AI Google pada kueri tertentu secara keliru mengaitkan dua penerbit itu dengan penipuan, jebakan langganan, dan praktik bisnis mencurigakan
• Pengadilan menilai AI sebenarnya mencampuradukkan informasi tentang perusahaan lain yang memang mencurigakan dengan para penggugat, dan sumber yang ditautkan tidak memuat hubungan seperti itu

AI Overview bukan hasil pencarian

• AI Overviews tidak bekerja seperti hasil pencarian tradisional, melainkan menulis ulang dan menilai hasil dengan kalimat serta strukturnya sendiri
• Dalam kasus yang dipermasalahkan, ringkasan AI dimulai dengan kalimat tegas seperti “Ya, [perusahaan] dikenal karena praktik bisnis yang meragukan”
• Ringkasan AI menyusun sendiri ringkasan, tanda-tanda dugaan penipuan, dan tips untuk pengguna
• Pengadilan menilai ringkasan AI membuat klaim yang bahkan tidak ada di hasil pencarian
• Tidak satu pun dari sumber yang ditautkan membangun hubungan antara para penggugat dan perusahaan mencurigakan yang disebut AI, dan pengadilan menganggap ini sebagai pernyataan milik tergugat sendiri
• Karena Google yang membuat AI dan menyediakannya kepada pengguna, Google juga diakui sebagai pihak yang memiliki pengaruh atas cara penyajian AI dan algoritme kerjanya

Doktrin tanggung jawab mesin pencari yang ada tidak berlaku

• Preseden Mahkamah Federal Jerman sebelumnya mengakui tanggung jawab terbatas untuk mesin pencari tradisional dan pelengkapan otomatis
• Logika dalam preseden lama adalah bahwa operator mesin pencari hanya membantu menemukan konten pihak ketiga, sehingga hanya bertanggung jawab sebagai pelanggar tidak langsung
• Pengadilan München menilai logika ini tidak dapat diterapkan pada AI Overviews
• Mesin pencari biasa menunjuk ke situs web eksternal, sedangkan AI Overviews menilai dan menggabungkan konten dari berbagai situs pihak ketiga untuk menghasilkan pernyataan substantif yang mandiri dan baru
• Pengadilan berpendapat hanya Google yang dapat memeriksa pernyataan AI, dan setidaknya dapat membandingkannya dengan situs pihak ketiga yang menjadi dasar serta dengan pernyataannya sendiri
• AI Overview bukan fungsi yang mutlak diperlukan untuk penggunaan internet, dan pengguna tetap dapat menyusun informasi hanya dengan hasil pencarian tradisional

Batas argumen “pengguna bisa memeriksa sendiri”

• Dalam sidang, Google berargumen bahwa pengguna dapat memeriksa langsung sumber yang ditautkan untuk memverifikasi apakah ringkasan AI itu benar
• Google juga berargumen bahwa pengguna pada umumnya tahu bahwa informasi yang dihasilkan AI tidak boleh dipercayai secara membabi buta
• Pengadilan menilai kemungkinan membantah suatu pernyataan melalui riset tambahan pada umumnya tidak membebaskan tanggung jawab atas pernyataan tersebut
• AI Overview yang dipermasalahkan dapat dipahami dengan sendirinya, memuat pernyataan lengkap yang dapat dipahami secara mandiri, dan tidak menyebut adanya kemungkinan interpretasi lain atau konten yang tidak dapat diandalkan
• Studi yang menunjukkan hanya 1% pengguna AI Overviews mengklik langsung tautan sumber mendukung logika pengadilan
• Pengadilan mengutip analogi dengan hukum pers, yakni penerbit tetap bertanggung jawab atas teaser yang dapat dipahami secara mandiri meskipun pembaca tidak membaca keseluruhan artikel
• Pengadilan menilai bahwa jika, seperti logika Google, AI Overview secara umum diakui tidak dapat diandalkan, maka manfaat fungsi tersebut juga akan berkurang besar

Kekosongan perlindungan dan isu Digital Services Act

• Jika Google hanya bertanggung jawab atas pelanggaran yang nyata, maka korban akan kehilangan sarana pemulihan hukum yang nyata ketika AI membuat klaim palsu
• Situs web pihak ketiga yang digunakan sebagai sumber tidak pernah membuat pernyataan bermasalah itu sendiri, sehingga korban tidak dapat menggugat sumber tersebut
• Jika berdasarkan aturan yang ada Google juga tidak dapat digugat secara efektif, akan muncul kekosongan perlindungan
• Google tidak dapat mengklaim perlindungan penyedia hosting dalam Digital Services Act, dan juga tidak dapat bergantung pada prosedur standar pemberitahuan-dan-penghapusan milik mesin pencari

Opini buatan AI dan kebebasan berekspresi

• Pengadilan menilai opini AI bukanlah ekspresi keyakinan yang terbentuk dari seorang pembicara, melainkan hasil algoritme
• Penyediaan riset berbasis AI dipandang terutama sebagai ekspresi dari kegiatan bisnis Google
• Kepentingan untuk secara bebas menyatakan opini dan keyakinan dinilai berada pada tingkat sekunder
• Saat membandingkan hak kepribadian para penggugat dengan kepentingan Google, kepentingan Google dikesampingkan karena pernyataan yang dipermasalahkan didasarkan pada fakta palsu
• AI mengaitkan para penggugat dengan perusahaan-perusahaan yang tidak terkait, dan menurut pernyataan tertulis di bawah sumpah para penggugat tidak memiliki hubungan apa pun dengan perusahaan-perusahaan tersebut

Hasil putusan dan pembebanan biaya

• Putusan pengadilan mengabulkan sebagian besar tuntutan penggugat
• Klaim tentang penipuan, keterkaitan dengan perusahaan mencurigakan, jebakan langganan, panggilan telepon yang tidak pernah terjadi, dan ketidaktersediaan layanan dilarang
• Hanya dua permintaan minor yang ditolak
• Pengadilan menilai risiko pelanggaran berulang tetap ada meskipun frasa tertentu tidak lagi ditampilkan
• Google tidak mengeluarkan pernyataan penghentian dengan klausul denda, dan juga tidak ada faktor yang mencegah algoritme menghasilkan kembali pernyataan yang sama
• Google menanggung 80% biaya hukum, sementara para penggugat masing-masing menanggung 10%
• Pengadilan menilai putusan ini juga dapat memiliki cakupan internasional

Masalah yang tersisa dari akurasi 91%

• Dalam analisis yang dilakukan startup AI Oumi untuk New York Times, Google AI Overviews saat ini yang berbasis model Gemini 3 menunjukkan tingkat jawaban benar 91%
• Angka ini dinilai cukup untuk penggunaan sehari-hari bagi kebanyakan orang
• Namun pada skala Google, akurasi 91% tetap dapat berarti jutaan jawaban salah setiap jam
• Jika cukup banyak jawaban salah merusak reputasi perusahaan atau individu, ini dapat menjadi masalah hukum serius bukan hanya bagi Google tetapi juga bagi penyedia layanan serupa seperti ChatGPT, Claude, dan Perplexity
• Analisis Oumi menilai bahwa 56% dari jawaban Gemini 3 yang akurat tidak dapat didukung oleh sumber yang ditautkan Google
• Pengguna dapat menghadapi situasi di mana mereka tidak dapat melacak sumber jawaban yang diberikan AI
• Pengadilan München membahas persoalan bahwa bila AI membuat klaimnya sendiri yang tidak ada dalam sumber tertaut, operator harus memikul tanggung jawabnya
• Belum dipastikan apakah logika ini akan dipertahankan di tingkat banding, dan Google tidak berkomentar tentang putusan tersebut

[brainer]

Penuh jawaban salah sih wkwkwk

[GN⁺]

Komentar Hacker News

• Jika saya memahaminya dengan benar, saya suka putusan ini. Google membuat produk bernama Search, aturan untuk produk itu sudah mapan, dan mereka telah memonopolinya
  Sekarang Google mengubah produk itu menjadi produk baru sambil tetap menyebutnya dengan nama yang sama. Karena mereka ingin mempertahankan monopolinya
  Bagian itulah yang tampaknya dianggap ilegal. Bukan berarti Gemini itu sendiri ilegal, melainkan menggunakan versi terburuk Gemini sambil berpura-pura itu adalah Search dan melanggar aturan yang telah mapan untuk Search itulah yang tampaknya ilegal. Tapi saya bukan ahli hukum

  • Ini tidak ada hubungannya dengan monopoli. Google bisa menghindari tanggung jawab pencemaran nama baik di pencarian karena judul halaman dan cuplikan adalah kutipan langsung dari halaman hasil yang ditautkan. Sebaliknya, ringkasan AI ditulis oleh model bahasa besar yang dikendalikan Google
  • Artikel ini tidak mengatakan itu. Jika menurutmu artikel itu salah menyampaikan putusan, bagian itulah yang harus ditunjuk. Kamu bilang suka putusannya, lalu malah mencantumkan hal-hal yang kamu suka yang tidak berhubungan dengan putusan itu
  • Saya sama sekali tidak paham logikanya, juga tidak tahu hukum apa yang dilanggar. Tepatnya hukum apa yang dianggap dilanggar?
    Sepertinya artikel itu juga bukan membahas ke arah sana. Ini tampak seperti isu Section 230 di AS. Section 230 adalah hukum Amerika yang melindungi platform seperti Facebook dan Google agar tidak diperlakukan sebagai penerbit dengan asumsi bahwa mereka hanya menyampaikan informasi, sedangkan di Jerman hasil AI dianggap ditulis oleh Google
  • Pengadilan menilai konten buatan AI memiliki penulis, editor, dan penerbit, dan subjek itu adalah Google. Mereka juga menilai Google bisa dimintai pertanggungjawaban. Langsung teringat meme Pikachu terkejut
  • Tidak ada hal seperti itu di dalam putusannya

• Bagus. Tanda sejati dari kecerdasan buatan umum adalah ketika perusahaan menerima tanggung jawab dan tidak menyembunyikan kalimat seperti “hanya untuk tujuan hiburan” di dalam syarat layanan. Sama seperti cara kita meminta pertanggungjawaban karyawan
  Hal yang sama berlaku untuk kendaraan otonom. Sampai mobilnya menerima tanggung jawab dan pengguna diperlakukan hanya sebagai penumpang, itu belum bisa disebut mobil swakemudi
  Meski begitu, sepertinya Jerman akan segera kehilangan hasil AI Google

  • Saya rasa posisi bahwa perusahaan yang membuat mobil swakemudi dan sistem tanya-jawab harus menanggung tanggung jawab hukum atas kesalahan itu sepenuhnya masuk akal
    Tetapi jika mengambil posisi itu, kita juga harus menerima bahwa perusahaan-perusahaan mungkin tidak akan menyediakan produk dan layanan mereka di negara tersebut. Sistem AI mungkin suatu saat, 10~20 tahun lagi, akan cukup akurat untuk menanggung biaya gugatan, tetapi sebelum itu negara-negara seperti itu tidak akan mendapatkan akses sampai ada sistem yang benar-benar tervalidasi
  • Jika Jerman kehilangan hasil AI Google, menurut saya itu justru keuntungan bagi Jerman. Kalau butuh hasil AI, ya tinggal pakai AI saja
  • Mercedes-Benz melakukan itu dalam kasus terbatas. Waymo umumnya melakukan itu. Di Tiongkok, pada Level 4 dan 5 risiko dialihkan ke produsen. Itulah cara yang benar
  • Itu tidak disembunyikan jauh di dalam syarat layanan, melainkan tertulis tepat di bawah kotaknya:

    AI can make mistakes, so double-check responses

  • Kenapa itu berarti kecerdasan buatan umum? Dengan membatasi cakupan, jauh lebih mudah masuk ke wilayah menerima tanggung jawab daripada membuat AI lebih pintar
    Untuk mobil swakemudi juga cukup dengan membuat model di mana perusahaan bertanggung jawab dalam situasi tertentu, dan dalam situasi lain mobil menolak mengemudi; tidak perlu luar biasa hebat

• Ironisnya, artikel ini sendiri membuat klaim yang keliru tentang tanggung jawab apa yang sebenarnya dibebankan pada Google, dan hampir tidak ada orang yang memeriksa faktanya
  Hukum yang dilanggar adalah hukum yang melindungi reputasi individu dan perusahaan dari pernyataan yang tidak sesuai fakta. Pada dasarnya, jika suatu klaim bersifat mencemarkan nama baik, kamu tidak bisa mengatakan “X adalah Y” sambil menambahkan “mungkin salah, jadi periksa sendiri”
  Putusan ini cukup bagus. Saya berharap ke depannya Google tidak lagi membuat pernyataan faktual yang tegas seperti kali ini, dan menggunakan ungkapan yang lebih tepat seperti “menurut X...” disertai pemberitahuan langsung bahwa hal itu tidak dapat diverifikasi. Lebih baik lagi, Google bisa mencari dokumen pengadilan untuk mengecek apakah benar ada putusan hukum yang nyata dan memberi tahu pengguna

  • Bagian mana dari artikel itu yang berbeda dari apa yang kamu tulis?
  • Sejauh mana Jerman mengikuti yurisprudensi? Jika ini bisa menjadi preseden, itu penting. Siapa pun bisa menghasilkan respons ringkasan AI seperti ini, dan hampir 9 dari 10 kali hasilnya salah
  • Google merusak banyak hal, jadi meskipun artikelnya tidak akurat, masalah dasarnya tetap ada. Sudah waktunya monopoli jahat ini dibongkar sepenuhnya
    Tapi saya juga tidak yakin kamu benar. Tepatnya klaim palsu apa yang dibuat artikel itu?

• Akan ada orang yang mengeluh, tetapi pada akhirnya Eropa akan tetap lebih maju dalam hal hukum seperti ini. Ini memang menjengkelkan dan kadang memperlambat laju inovasi, tetapi perusahaan-perusahaan AS melakukan apa pun yang menghasilkan uang tanpa batasan

  • Bukan soal laju inovasi yang melambat, melainkan perlunya kembali pada pemahaman klasik tentang manusia, masyarakat, dan kebaikan bersama
  • Sejujurnya, dalam kasus ini lambatnya adopsi teknologi di Eropa dan investasi yang relatif lebih kecil justru merupakan berkah
    Yang didapat sekarang hanyalah volatilitas. Biarkan AS mengalami guncangan ekonomi dan sosialnya lalu lihat saja siapa yang bertahan. Tidak ada alasan untuk terburu-buru. Pada bagian yang berguna, hampir tidak ada parit pertahanan. Juga tidak ada perbedaan yang cukup besar dibanding model terbuka atau perusahaan kecil untuk membenarkan biaya dan risiko operasi terdepan. Pada akhirnya, kemungkinan besar sebagian besar bisnis AI ini akan bermuara pada model lokal untuk mayoritas kasus penggunaan
    AS mungkin bisa melahirkan triliuner pertama, tetapi secara realistis itu bukan karena inovasi, melainkan karena korupsi, eksploitasi, dan ketimpangan kekayaan yang ekstrem. Jika ekonomi AI tidak berjalan “sesuai perkiraan”, maka tidak akan ada pemulihan. Uang itu hanya berubah menjadi panas dan sampah perangkat keras sekali pakai. Tidak ada gunanya mempertaruhkan dana pensiun dan kohesi sosial demi “keunggulan teknologi”
  • Hukum seperti ini adalah jenis hukum yang ada untuk membantu orang kaya dan berkuasa sambil merugikan orang-orang di bawah mereka. Ini sama sekali bukan contoh bahwa UE lebih baik daripada AS
    Atau menurutmu memang bagus bahwa meng-host ulasan negatif di Jerman pada dasarnya ilegal?

• Kesimpulan lain apa yang masuk akal? Platform-platform sudah terlalu terbiasa lolos sambil dipakai untuk menyediakan produk yang berbahaya dan rusak. Harus ada batasnya.
  Berikutnya yang perlu ditangani adalah Amazon yang menjual panduan mencari bahan alam liar buatan AI:
  https://www.theguardian.com/technology/2023/sep/01/mushroom-...
  Dulu waktu kecil, buku panduan mencari bahan alam liar yang dibeli di toko buku setidaknya punya standar kualitas minimum. Apa itu sesulit itu? Apa ambil untung berlebihan sekarang sudah tidak dihukum?

  • Mereka sudah memberi disclaimer dan pengguna menyetujuinya.
    Sumber: https://www.youtube.com/watch?v=P-QaEB5eXSU
    menit 3:00
  • Jika ilmuwan dan jurnalis mengatakan hal yang salah atau memelintir fakta, apakah mereka juga harus dimintai pertanggungjawaban?

• Memberikan jawaban pilihan alih-alih membiarkan pengguna menilai sendiri adalah kekuasaan yang sangat besar, dan pengadilan dengan tepat melihat bahwa kekuasaan itu disertai tanggung jawab untuk meminimalkan kerugian yang ditimbulkannya bagi orang lain di masyarakat.

  • Ringkasan AI di halaman pencarian Google luar biasa bodohnya jika dibandingkan dengan hasil Gemini yang sebenarnya. AI pencarian Google tampak seperti model paling ringan yang hanya menulis ulang hasil pencarian. Ia mengambil komentar Reddit acak, menghapus konteksnya, lalu menyajikannya sebagai fakta mutlak.
  • Tentu saja mereka juga tahu itu. Tujuan intinya adalah menulis ulang persepsi orang.

• Menurut saya itu masuk akal.
  Jika Google Search mengutip situs web pihak ketiga yang berisi informasi keliru, maka itu bukan tanggung jawab Google. Tanggung jawab berpindah ke pihak ketiga. Itulah hak istimewa yang dinikmati Google sebagai mesin pencari.
  Tetapi jika Google beroperasi bukan sebagai mesin pencari melainkan sebagai mesin jawaban, maka hak istimewa itu tidak lagi berlaku. Tidak ada pihak ketiga tempat tanggung jawab bisa dilempar.

  • Bukan itu yang terjadi di sini.

    According to the court, the Al mixed up information about other, genuinely sketchy companies with the plaintiffs and drew connections that didn't appear in any of the linked sources.
    Artinya, jika klaim palsu itu memang ada di sumbernya, itu akan dianggap sebagai bentuk ekspresi yang dilindungi.
    Tidak ada perbedaan khusus antara “mesin jawaban” dan “mesin pencari”. Bagian itu hanyalah penafsiran yang dibuat-buat.

• Ini tampak seperti putusan yang masuk akal. AI bukan Search. Model bahasa besar menghasilkan pernyataan, bukan hasil pencarian yang harus ditafsirkan sendiri oleh pengguna. Ini bedanya mencari subjek di katalog kartu perpustakaan dengan perangkat lunak yang langsung memberi jawabannya sendiri.
  Sejak hal-hal seperti ini muncul dan mulai berbohong dengan percaya diri, saya pikir gugatan seperti ini pasti tak terhindarkan. Senang melihat Jerman mengambil keputusan yang benar.

• Tautan putusannya ada di sini. Sudah sewajarnya dalam bahasa Jerman, dan halaman asli tampaknya kewalahan oleh lonjakan akses: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...

• In this case, Google's AI had wrongly linked two publishers to scams and shady business practices.
  Kalau begitu, berarti AI Overviews tamat di EU.

  • Sepertinya begitu, bersama negara-negara lain yang punya hukum pencemaran nama baik, tetapi tidak ada tanda bahwa ada sanksi yang dijatuhkan. Google juga tidak diwajibkan menanggung seluruh biaya hukum. Kalau model bisnisnya ada, mungkin mereka masih bisa menanggungnya.
  • Itu tergantung apakah Google merasa keuntungannya cukup besar untuk mengambil risiko itu.
    Keuntungan yang mana saya juga tidak tahu, tetapi kalau bukan karena suatu alasan, buat apa fitur itu tetap diaktifkan?