Launch HN: HumanLayer (YC F24) – API human-in-the-loop untuk sistem AI

• Perkenalan HumanLayer

  • HumanLayer adalah API yang memungkinkan agen AI berinteraksi dengan manusia untuk menerima umpan balik, input, persetujuan, dan lainnya.
  • Mendukung deployment sistem AI otonom yang aman, dan mudah untuk mulai digunakan melalui SDK Python dan TypeScript.
  • Menawarkan uji coba gratis dan kebijakan harga berbasis penggunaan yang transparan.

• Mengelola risiko sistem AI

  • Mendukung situasi ketika intervensi manusia diperlukan untuk mengurangi risiko sistem AI.
  • Berawal dari pengembangan agen AI untuk tim data, dan pelanggan enggan membiarkan agen AI mengakses sistem produksi secara langsung.
  • Membangun alur persetujuan dasar agar AI mendapatkan persetujuan manusia sebelum menjalankan tugas penting.

• Fitur HumanLayer

  • Dengan mengintegrasikan HumanLayer SDK, agen AI dapat meminta persetujuan manusia kapan saja saat berjalan.
  • Meneruskan permintaan ke orang yang tepat, mengelola status sambil menunggu respons, dan menyediakan jejak audit yang lengkap.
  • Selain "permintaan persetujuan", juga mendukung fitur "manusia sebagai alat" yang dapat diekspos ke LLM atau framework agen.

• Kasus penggunaan HumanLayer

  • AI SDR menulis email penjualan yang dipersonalisasi, lalu menerima persetujuan manusia di Slack sebelum dikirim.
  • Dalam newsletter AI, HumanLayer menangani percakapan email dengan pelanggan dengan merutekan email masuk ke agen dan menyediakan alat untuk membalas.
  • Membangun agen DevOps untuk pelanggan agar persetujuan manusia diperoleh saat meninjau PR, merencanakan migrasi DB, dan mengeksekusinya.

• Kebijakan harga dan dukungan

  • Menawarkan tier gratis dan kebijakan harga fleksibel berbasis kredit.
  • Untuk tim yang membangun agen yang berhadapan dengan pelanggan, tersedia white labeling, fitur tambahan, dan dukungan prioritas.

• Informasi tambahan

  • Untuk mengintegrasikan HumanLayer ke sistem Anda, lihat dokumentasi atau cek melalui jadwalkan demo.
  • Masih berada pada tahap awal, dan menyambut ide serta pengalaman terkait agen, keandalan, dan keseimbangan beban kerja manusia+AI.

[GN⁺]

Komentar Hacker News

• Ada pendapat bahwa pemilik startup ingin memanfaatkan AI untuk membuat layanan internal secara DIY. Saya pikir menggunakan SaaS lebih baik, tetapi harganya mahal dan tidak sederhana. Jika persaingan muncul, kemungkinan harga akan turun

• Ada kekhawatiran tentang tingginya biaya layanan AI, dan ada pendapat bahwa perlu diberikan kredit gratis atau penyesuaian harga

• Ada kekhawatiran tentang automation bias dan automation complacency, serta risiko bahwa manusia dapat menyetujui keputusan AI tanpa sikap kritis

• Ada usulan ide untuk memanfaatkan agen manusia yang dapat menggantikan hal-hal yang tidak bisa dilakukan agen AI

• Ditunjukkan adanya masalah pada framework yang menangani pemanggilan tool yang asinkron atau berjalan lama. Ada ide untuk mengatasinya, tetapi akan dibahas di tulisan lain

• Ada pendapat bahwa diperlukan upaya untuk tetap berada di lapisan API

• Ada pendapat bahwa pada tahap awal AI, manusialah yang menjalankan logika, lalu setelah manusia dihilangkan kualitasnya menurun. Ada analogi bahwa perusahaan pihak ketiga yang memasukkan kembali manusia untuk mengatasinya hanyalah solusi sementara

• Di startup, campur tangan manusia dianggap penting, dan untuk mengubah potensi berbasis LLM menjadi nilai nyata diperlukan kontrol dan pengawasan. Untuk itu telah dibangun workflow kustom dan proses manual

• Ada pendapat bahwa layanan yang menyediakan fungsi input/output dasar sudah dimungkinkan di banyak sistem. Sebaiknya dicoba terlebih dahulu sebelum mengimplementasikannya sendiri

• Sebuah perusahaan perangkat medis sedang mempertimbangkan AI sebagai agen workflow, dan berencana memanfaatkan LLM untuk mendukung proses jaminan kualitas ISO13485. Mereka ingin mendengar pendapat pengguna HN lainnya