Jangan Biarkan AI Mengambil Alih Kendali — Pelajaran dari Dua Kegagalan Otomasi

Tulisan ini berangkat dari dua kegagalan yang dialami penulis saat menjalankan sendiri sistem trading otomatis dan penerbitan blog otomatis dengan Claude Code.

• Trading otomatis: Karena kurangnya pengetahuan domain trading, penulis tidak bisa memverifikasi kode yang dibuat AI, dan hasilnya 0 menang 8 kalah serta kerugian 3% aset
• Penerbitan blog otomatis: Tulisan yang tidak akurat terbit tanpa pemeriksaan dan mendapat masukan dari pembaca

Penulis melihat penyebab umum dari dua insiden ini sebagai “menyerahkan kendali kepada AI”, lalu mengajukan dua kemampuan untuk mencegahnya: (1) literasi untuk bertanya secara mendalam dan memahami jawabannya, (2) kemampuan evaluasi untuk menilai akurasi hasil keluaran. Sebagai perangkat praktik, penulis memperkenalkan LLM Wiki yang dilatih dengan data pribadi dan Harness yang membatasi perilaku AI.

Alasan ringkasan ini sengaja dimulai dengan dua kisah kegagalan adalah karena di GeekNews, yang memicu komentar bukan teori abstrak, melainkan pengalaman konkret yang bisa dibantah atau diamini seperti “0 menang 8 kalah”.