Launch HN: HumanLayer (YC F24) – API keterlibatan manusia untuk sistem AI
(news.ycombinator.com)- Ini adalah API yang memungkinkan agen AI produksi menerima persetujuan·masukan manusia sebelum menjalankan tugas berisiko, sehingga mengurangi beban eksekusi yang sepenuhnya otonom
- Intinya adalah mengirim permintaan persetujuan melalui Slack·email, menunggu respons, dan mengelola jejak audit untuk memasukkan manusia ke dalam alur eksekusi agen
- Produk ini berangkat dari pengalaman ketika pelanggan merasa enggan membiarkan agen otomatis untuk tim data mengakses sistem produksi secara langsung
- SDK bekerja di lapisan pemanggilan alat sehingga dapat digunakan dengan framework seperti CrewAI, LangChain, dan model bahasa yang mendukung pemanggilan alat
- Semakin nyata pekerjaan yang dilakukan agen, seperti AI SDR, newsletter AI, atau agen DevOps, semakin penting untuk memiliki titik persetujuan dan jalur permintaan bantuan yang jelas
Alur persetujuan manusia yang dibutuhkan agen produksi
- HumanLayer adalah API yang memungkinkan agen AI meminta umpan balik·masukan·persetujuan dari manusia saat berjalan
- Tujuannya adalah agar saat menerapkan sistem AI yang otonom atau headless ke produksi, human in the loop dapat disisipkan di setiap tahap berisiko
- Titik awalnya berasal dari pengalaman membangun agen AI untuk tim data
- Mereka mencoba mengotomatiskan tugas membosankan seperti menghapus tabel yang tidak digunakan
- Pelanggan menentang agen AI yang mengakses sistem produksi secara langsung
- Untuk membangun keandalan tingkat produksi, diperlukan evaluasi, fine-tuning, dan prompt engineering sesuai tingkat risiko tugas, tetapi untuk mencapai keandalan di atas 99,9% bisa memakan waktu lebih dari 3 bulan
- Pada akhirnya mereka membuat alur persetujuan seperti “bertanya di Slack sebelum menghapus tabel”, dan kemudian juga membutuhkan guardrail agar permintaan persetujuan itu sendiri tidak dikirim ke orang yang salah
Fitur dan cara integrasi
- Dengan mengintegrasikan HumanLayer SDK, agen AI dapat meminta persetujuan manusia di titik mana pun selama eksekusi
- Permintaan dirutekan ke orang yang tepat melalui Slack atau email
- Dukungan SMS dan Teams akan segera hadir
- Status dikelola sambil menunggu respons
- Menyediakan jejak audit lengkap
- Selain “permintaan persetujuan”, HumanLayer juga mendukung fungsi human as tool yang lebih umum
- Ini dapat diekspos ke LLM atau framework agen sebagai alat untuk mengumpulkan respons manusia
- Contohnya adalah pertanyaan umum seperti “Saya mentok pada masalah ini, sudah mencoba hal-hal berikut, mohon beri saran”
- Karena bekerja di lapisan pemanggilan alat, ini dapat digunakan dengan framework seperti CrewAI, LangChain, dan model bahasa yang mendukung pemanggilan alat
- Jika Anda membangun loop agen·alat sendiri, Anda dapat langsung mengelola alur persetujuan dengan primitive SDK tingkat lebih rendah
- Selain persetujuan AI-manusia, mereka juga sedang mengeksplorasi penggunaan untuk persetujuan manusia-manusia
Contoh penerapan dan cara penyediaan
- Berbagai agen produksi memanfaatkan alur persetujuan HumanLayer
- Seorang pelanggan membuat AI SDR yang menulis email penjualan yang dipersonalisasi, tetapi meminta persetujuan manusia di Slack sebelum pengiriman
- Pelanggan lain menggunakannya untuk newsletter AI yang memungkinkan pelanggan berinteraksi dengan konten dan email
- Satu tim menerapkannya pada agen DevOps untuk pelanggan, menangani peninjauan PR, perencanaan dan eksekusi migrasi DB, persetujuan manusia pada tahap penting, serta permintaan bantuan ke tim saat terjadi masalah
- Bentuk penyediaannya adalah SDK Python dan TypeScript, uji coba gratis, tier gratis, dan harga berbasis penggunaan
- Untuk tim yang membangun agen bagi pelanggan, tersedia white-labeling, fitur tambahan, dan dukungan prioritas
- Dokumentasi dapat dilihat di humanlayer.dev/docs
1 komentar
Komentar Hacker News
Ada pendapat bahwa pemilik startup ingin memanfaatkan AI untuk membuat layanan internal secara DIY. Saya pikir menggunakan SaaS lebih baik, tetapi harganya mahal dan tidak sederhana. Jika persaingan muncul, kemungkinan harga akan turun
Ada kekhawatiran tentang tingginya biaya layanan AI, dan ada pendapat bahwa perlu diberikan kredit gratis atau penyesuaian harga
Ada kekhawatiran tentang automation bias dan automation complacency, serta risiko bahwa manusia dapat menyetujui keputusan AI tanpa sikap kritis
Ada usulan ide untuk memanfaatkan agen manusia yang dapat menggantikan hal-hal yang tidak bisa dilakukan agen AI
Ditunjukkan adanya masalah pada framework yang menangani pemanggilan tool yang asinkron atau berjalan lama. Ada ide untuk mengatasinya, tetapi akan dibahas di tulisan lain
Ada pendapat bahwa diperlukan upaya untuk tetap berada di lapisan API
Ada pendapat bahwa pada tahap awal AI, manusialah yang menjalankan logika, lalu setelah manusia dihilangkan kualitasnya menurun. Ada analogi bahwa perusahaan pihak ketiga yang memasukkan kembali manusia untuk mengatasinya hanyalah solusi sementara
Di startup, campur tangan manusia dianggap penting, dan untuk mengubah potensi berbasis LLM menjadi nilai nyata diperlukan kontrol dan pengawasan. Untuk itu telah dibangun workflow kustom dan proses manual
Ada pendapat bahwa layanan yang menyediakan fungsi input/output dasar sudah dimungkinkan di banyak sistem. Sebaiknya dicoba terlebih dahulu sebelum mengimplementasikannya sendiri
Sebuah perusahaan perangkat medis sedang mempertimbangkan AI sebagai agen workflow, dan berencana memanfaatkan LLM untuk mendukung proses jaminan kualitas ISO13485. Mereka ingin mendengar pendapat pengguna HN lainnya