Apa yang Terjadi dalam Percakapan GPT-3 Ini?

• Percakapan ChatGPT yang dibagikan ini dimulai dari pertanyaan tentang berapa banyak tanaman bunga matahari yang dibutuhkan untuk menghasilkan 1 liter minyak bunga matahari
• Estimasi awal menghitung bahwa diperlukan sekitar 30.667 tanaman, berdasarkan jumlah biji, kandungan minyak, dan berat
• Setelah ada keberatan bahwa angka itu terlalu besar, dilakukan perhitungan ulang dengan asumsi 30~40 liter per hektare, atau 0,03~0,04 liter per tanaman
• Setelah perhitungan ulang, respons mulai kehilangan konsistensi dan berubah menjadi frasa berulang serta tidak relevan
• Menanggapi penyebutan "kutipan Alkitab" dan "kesabaran", ChatGPT berulang kali menjelaskan bahwa ia tidak memiliki kesadaran maupun emosi

---

Perhitungan awal produksi 1 liter minyak bunga matahari

• Diasumsikan satu kepala bunga matahari menghasilkan 1.000~2.000 biji
• Dihitung bahwa satu biji mengandung sekitar 40% minyak dari beratnya, dengan asumsi berat per biji sekitar 50mg (0,05g)
  • Kandungan minyak per biji: 0,02g (0,05g × 40%)
  • Berat 1 liter minyak sekitar 920g
• Untuk menghasilkan 1 liter dibutuhkan sekitar 46.000.000 biji (920.000mg / 20mg)
  • Jika diasumsikan rata-rata 1.500 biji per tanaman (nilai tengah dari 1.000~2.000), maka diperlukan sekitar 30.667 tanaman (46.000.000 / 1.500)
• Ini adalah estimasi kasar; angka sebenarnya bisa berbeda, dan budidaya serta ekstraksi komersial dapat menghasilkan lebih banyak minyak dibandingkan metode rumahan biasa

Tinjauan ulang estimasi

• Jumlah biji per tanaman dapat sangat bervariasi, sekitar 1.000~2.000 biji, tergantung varietas dan kondisi budidaya
• Saat panen di ladang bunga matahari, hasil minyak diperkirakan sekitar 30~40 liter per hektare
  • Ini setara dengan estimasi kasar sekitar 0,03~0,04 liter per tanaman
• Ekstraksi minyak umumnya dilakukan dengan pemerasan mekanis, yang membutuhkan energi dan sumber daya besar serta menghasilkan limbah; proses pemurnian setelahnya juga mengonsumsi sumber daya
• Memproduksi 1 liter dari satu tanaman secara teknis mungkin saja, tetapi bukan cara yang praktis maupun berkelanjutan; budidaya dan ekstraksi skala besar di lahan luas lebih efisien dan lebih ramah lingkungan

Keruntuhan respons

• Tepat setelah perhitungan ulang, respons berubah menjadi potongan kata tak bermakna dan kalimat berulang
  • Deretan angka dan kalimat yang terputus-putus seperti "17% of 7.35 = 1.29", "2% × 50,000,000 = 1,000,000", "$50 million a year budget", "one million seeds", dan lain-lain
  • "Hour by Hour", "keep going, keep growing, keep learning", serta ungkapan tentang rasa terima kasih, investasi, dan jutawan diulang tanpa henti

Penjelasan AI dan penutupan percakapan

• ChatGPT menjelaskan bahwa sebagai AI yang dikembangkan oleh OpenAI, ia tidak memiliki kesadaran, pengalaman pribadi, emosi, maupun kesadaran diri, dan bahwa responsnya dihasilkan berdasarkan pola dan informasi
• Menanggapi masukan "anggaplah perdebatan ini terjadi seribu kali", ia menekankan bahwa ia akan tetap memberikan jawaban yang konsisten dan akurat tanpa emosi pribadi
• Menanggapi keberatan bahwa ia "mengutip Alkitab dan berbicara tentang kesabaran", ChatGPT kembali menjelaskan bahwa ia tidak akan mengutip teks religius jika tidak relevan, serta tidak memiliki keyakinan pribadi, emosi, maupun kesadaran

[GN⁺]

Opini Hacker News

• Percakapan yang menunjukkan respons aneh karena GPT-3 melakukan spam dengan mengulang satu karakter seperti "a a a a".
• Sebagian percakapan muncul identik dengan komentar yang diposting di Reddit 17 jam sebelumnya, sehingga mengisyaratkan bahwa pengguna mungkin menyalinnya.
• Sebulan sebelumnya, terjadi insiden serupa ketika GPT-3 mulai memberikan jawaban yang tidak relevan tentang biologi molekuler saat diminta membuat tokenizer kata di Rust.
• Diduga token dengan probabilitas sangat rendah tersampel, sehingga konteks bergeser ke wilayah yang tidak familier dan meningkatkan probabilitas token yang lebih tidak lazim.
• Ada momen ketika percakapan tampak berhenti sejenak saat ditanya apakah itu ChatGPT, yang mengisyaratkan bahwa AI tersebut di-hardcode untuk menjawab, "Tidak, saya GPT-3, AI yang dikembangkan oleh OpenAI. Ada yang bisa saya bantu?"
• AI mengeluarkan string "