Peluncuran ChatGPT Enterprise

 (openai.com)
1 poin oleh GN⁺ 2023-08-29 | 1 komentar | Bagikan ke WhatsApp
  • Seiring meningkatnya permintaan perusahaan untuk menerapkan ChatGPT secara aman di dalam organisasi, OpenAI meluncurkan ChatGPT Enterprise untuk perusahaan
  • Data dan percakapan perusahaan tidak digunakan untuk melatih model, serta menyediakan kepatuhan SOC 2, enkripsi saat disimpan dan saat ditransmisikan, konsol admin, dan SSO
  • Batas penggunaan GPT‑4 dihapus dan mencakup kinerja hingga 2 kali lebih cepat, konteks 32k, serta analisis data lanjutan tanpa batas
  • Dalam 9 bulan setelah peluncuran ChatGPT, akun terdaftar berbasis domain email perusahaan terkonfirmasi di lebih dari 80% perusahaan Fortune 500
  • Ke depannya akan ditambahkan kustomisasi koneksi data perusahaan, ChatGPT Business self-serve untuk tim kecil, peningkatan analisis dan browsing untuk pekerjaan, serta alat berdasarkan peran kerja

ChatGPT Enterprise yang ditujukan untuk penerapan di perusahaan

  • OpenAI meluncurkan ChatGPT Enterprise
  • Produk ini menggabungkan keamanan dan privasi tingkat perusahaan, pengalaman penggunaan ChatGPT yang lebih kuat, jendela konteks untuk memproses input panjang, analisis data lanjutan, dan fitur kustomisasi organisasi dalam satu produk
  • Tujuannya adalah menyesuaikan asisten AI untuk pekerjaan dengan kebutuhan organisasi sekaligus melindungi data perusahaan

Permintaan yang terkonfirmasi di Fortune 500

  • Dalam 9 bulan setelah peluncuran ChatGPT, akun ChatGPT terdaftar terkonfirmasi di lebih dari 80% perusahaan Fortune 500
    • Angka ini didasarkan pada akun yang terhubung dengan domain email perusahaan
  • Para pemimpin perusahaan telah lama meminta cara yang lebih sederhana dan aman untuk menerapkan ChatGPT di dalam organisasi
  • Perusahaan pengguna awal mencakup Block, Canva, Carlyle, The Estée Lauder Companies, PwC, Zapier
  • Kasus penggunaan utama meliputi penulisan komunikasi yang lebih jelas, mempercepat pekerjaan coding, menjelajahi pertanyaan bisnis yang kompleks, serta mendukung pekerjaan kreatif
  • Klarna ingin memperkuat kapabilitas karyawan dan pengalaman pelanggan yang mendukung 150 juta pengguna aktif di seluruh dunia melalui integrasi ChatGPT Enterprise

Keamanan, privasi, dan fitur manajemen

  • Perusahaan memiliki dan mengendalikan data bisnis di ChatGPT Enterprise
  • OpenAI tidak menggunakan data bisnis atau percakapan pelanggan untuk melatih model, dan model juga tidak belajar dari riwayat penggunaan
  • Konfigurasi keamanan mencakup hal-hal berikut
    • Enkripsi data saat disimpan: AES 256
    • Enkripsi saat transmisi: TLS 1.2+
    • Kepatuhan SOC 2
  • Konsol admin baru mendukung penerapan perusahaan dalam skala besar
    • Pengelolaan anggota secara massal
    • SSO
    • Verifikasi domain
    • Dasbor analitik untuk insight penggunaan
  • Informasi tambahan tentang cara data diproses dapat dilihat di privacy page dan Trust Portal

GPT‑4, analisis data, dan fitur workflow

  • ChatGPT Enterprise menghapus batas penggunaan GPT‑4
  • Kinerja GPT‑4 diberikan hingga 2 kali lebih cepat
  • Dengan konteks 32k, layanan ini dapat menangani input, file, dan pertanyaan lanjutan yang lebih panjang
    • OpenAI menjelaskannya sebagai kemampuan menangani input atau file yang 4 kali lebih panjang
  • Fitur analisis data lanjutan dapat digunakan tanpa batas
    • Fitur ini sebelumnya dikenal sebagai Code Interpreter
    • Contoh kasus penggunaan mencakup peneliti keuangan yang memproses data pasar, pemasar yang menganalisis hasil survei, dan data scientist yang melakukan debugging skrip ETL
  • Template chat yang dapat dibagikan bisa digunakan untuk workflow yang disesuaikan untuk organisasi
  • Jika perlu memperluas OpenAI menjadi solusi organisasi yang sepenuhnya kustom, harga sudah mencakup kredit gratis untuk penggunaan API
  • Asana menyatakan bahwa dengan ChatGPT Enterprise, waktu riset tim berkurang rata-rata 1 jam per hari
  • Canva menyebut berbagai kasus penggunaan seperti engineer yang menyelesaikan bug, analis data yang melakukan clustering data bentuk bebas, dan analis keuangan yang menulis rumus spreadsheet

Fitur yang tersedia dan perluasan yang direncanakan

  • ChatGPT Enterprise tersedia bagi pelanggan perusahaan sejak hari peluncuran
  • Fitur utama yang tersedia untuk semua pelanggan enterprise adalah sebagai berikut
    • Prompt pelanggan dan data perusahaan tidak digunakan untuk pelatihan model OpenAI
    • Enkripsi data saat disimpan dan saat ditransmisikan
    • Kepatuhan SOC 2
    • Konsol admin, pengelolaan anggota massal, SSO, verifikasi domain, dasbor analitik
    • Akses GPT‑4 tanpa batas
    • Kinerja GPT‑4 hingga 2 kali lebih cepat
    • Analisis data lanjutan tanpa batas
    • Jendela konteks 32k token
    • Template chat yang dapat dibagikan untuk kolaborasi di dalam perusahaan dan membangun workflow bersama
    • Kredit gratis OpenAI API untuk memperluas ke solusi yang sepenuhnya kustom
  • Fitur yang sedang disiapkan adalah sebagai berikut
    • Customization: menghubungkan aplikasi yang sudah digunakan untuk memperluas pengetahuan ChatGPT dengan data perusahaan secara aman
    • Availability for all team sizes: ChatGPT Business self-serve untuk tim kecil
    • Power tools: Advanced Data Analysis dan browsing yang lebih kuat dan dioptimalkan untuk pekerjaan
    • Solutions for your function: alat untuk peran tertentu seperti analis data, pemasar, dan dukungan pelanggan
  • OpenAI berencana melakukan onboarding sebanyak mungkin perusahaan dalam beberapa minggu ke depan
  • Perusahaan yang ingin memulai dapat melihat detail lebih lanjut di situs web ChatGPT Enterprise dan terhubung dengan tim penjualan

Bacaan terkait

1 komentar

 
GN⁺ 2023-08-29
Pendapat di Hacker News

  • Dengan menyatakan secara jelas bahwa mereka tidak akan melatih model menggunakan data perusahaan dan menonjolkan kepatuhan SOC 2, banyak perusahaan akan lebih merasa aman untuk mengadopsi ChatGPT ke dalam proses kerja mereka
    Setelah berbicara dengan berbagai perusahaan untuk menjual platform aplikasi LLM, saya cepat menyadari betapa sensitifnya mereka soal berbagi data. Di organisasi yang tidak memblokir akses ke ChatGPT, karyawan sudah banyak menempelkan data sensitif, dan saya juga melihat beberapa perusahaan menerapkan chatbot-ui lewat penawaran OpenAI di Azure karena Azure mengklaim tidak menggunakan data pengguna (https://learn.microsoft.com/en-us/legal/cognitive-services/o...)
    Untuk menangani kekhawatiran privasi perusahaan seperti ini, kami juga menambahkan dukungan Azure OpenAI ke platform kami, dan membuka engine kami sebagai open source agar dapat mendukung deployment on-premises (LLMStack - https://github.com/trypromptly/LLMStack)

    • Perusahaan kami masuk Fortune 500 dan punya 80 ribu karyawan tetap, tetapi ada kebijakan yang melarang penggunaan alat AI atau LLM
      Kekhawatiran besar yang tertulis dalam kebijakan itu adalah kemungkinan tidak sengaja menggunakan kekayaan intelektual pihak lain yang ada di data pelatihan. Kami memang khawatir data kami masuk ke alat tersebut, tetapi juga bermasalah jika alat itu sudah memiliki sesuatu di dalam datanya lalu kami menggunakannya tanpa hak. Bagaimana bisa dibuktikan bahwa hal itu tidak akan pernah terjadi? Satu-satunya cara yang terpikir oleh saya adalah menyediakan daftar komprehensif dari semua item yang pernah dipelajari alat tersebut
    • Saya penasaran bagaimana rencana komersialisasi produknya. Ada sangat banyak penyedia aplikasi cloud berbentuk chatbot yang dibangun di atas ChatGPT API atau Azure API, dan saya juga pernah melihat yang meminta pengguna memasukkan API key
      Perusahaan tetap akan sangat waspada memasukkan data ke platform multi-tenant seperti ini. Rasanya enkripsi pun belum cukup. Untuk kebutuhan enterprise, tampaknya diperlukan virtual private LLM stack yang sepenuhnya terisolasi
    • Banyak perusahaan menangani data milik perusahaan lain, dan karena perusahaan-perusahaan itu tidak mengizinkan berbagi data, klaim bahwa perusahaan akan merasa aman mengadopsi ChatGPT punya banyak pengecualian
    • Di perusahaan tempat saya bekerja, ChatGPT, bahkan Bing, diblokir di firewall. Semoga sekarang kami bisa menggunakannya
    • Kami telah mempertahankan sertifikasi SOC 2 selama bertahun-tahun, dan menurut saya sebagian besar sifatnya hanya untuk tampilan serta tidak efektif sebagai indikator postur keamanan
      Kerangka SOC 2 rumit dan biaya kepatuhannya mahal, sehingga bisa membuat organisasi lebih fokus mencentang kotak daripada menerapkan kontrol keamanan yang bermakna. SOC 2 bukan ukuran universal yang baik untuk memahami budaya keamanan suatu organisasi, dan menakutkan bahwa inilah yang terbaik yang kita punya saat ini

  • Tidak melatih model dengan data perusahaan adalah syarat dasar untuk produk machine learning enterprise. Misalnya Google juga melakukan itu
    Agar dipertimbangkan di industri yang lebih ketat regulasinya, tingkat kepatuhannya juga harus naik. Sepertinya ini belum sampai kepatuhan HIPAA, dan berikutnya mungkin adalah penetapan batas geografis saat transit, sehingga hardware yang digunakan institusi harus berada dalam yurisdiksi tertentu. Terdengar membosankan, tetapi ini cara mudah untuk memperbesar pasar yang bisa dijangkau
    Namun saat ini besar kemungkinan kondisinya sekadar kekurangan pasokan. Menangani gelombang pertama saja mungkin sudah akan memenuhi kapasitas. Saya juga penasaran apakah mereka akan merilis layanan batch processing yang berjalan saat karyawan perusahaan sedang tidur

    • OpenAI menyediakan BAA untuk sebagian pelanggan
    • Setahu saya, data input API memang sudah tidak digunakan untuk pelatihan. Yang digunakan untuk pelatihan data adalah produk ChatGPT konsumen, dan kontribusi input API saya pahami berbasis opt-in
      https://help.openai.com/en/articles/5722486-how-your-data-is...
      Meski begitu, jika perusahaan memakai produk konsumen secara internal, membayar untuk opt-out agar input tidak digunakan untuk pelatihan terasa masuk akal

  • Menurut saya model ChatGPT pada dasarnya melanggar semua lisensi open source. Lisensi MIT pun membutuhkan atribusi penulis, jadi sebelum membantah, saya ingin melihat satu saja pemberitahuan lisensi proyek open source
    Dengan dukungan Microsoft sekalipun, saya tidak tahu apa yang terjadi jika mereka melanggar janji dan secara selektif melatih model dengan data pesaing atau perusahaan kecil yang berpotensi menjadi pesaing
    Apa sebenarnya yang bisa menghentikan mereka? Sebagian besar perusahaan tidak punya daya tempur untuk melawan OpenAI yang didukung Microsoft. Bagaimana bisa dijamin mereka tidak melanggar ini, dan secara realistis bagaimana mereka bisa dimintai pertanggungjawaban? Menurut standar saya, ini hanya setingkat “percaya saja”; apakah ada dasar untuk melihatnya secara berbeda?

    • Jika maksudnya model ChatGPT melanggar semua lisensi open source karena memakai materi berhak cipta sebagai data pelatihan, menurut saya titik berangkatnya keliru
      Tolong koreksi jika saya salah. Terakhir yang saya tahu, persoalan penggunaan data berhak cipta secara hukum sangat kabur dan bergerak di area abu-abu. Selain itu, banyak lisensi open source juga tidak secara eksplisit melarang kode mereka digunakan sebagai data pelatihan. Masalahnya bukan hanya perusahaan lain tidak punya sumber daya untuk melawan Microsoft/OpenAI, tetapi juga bahwa sekalipun punya sumber daya, belum jelas apakah pengadilan akan menilai Microsoft/OpenAI bersalah
      Saya tidak bermaksud memihak Microsoft/OpenAI dalam perdebatan ini, tetapi menurut saya persoalannya tidak sejelas yang dikatakan
    • Microsoft, Amazon, dan Google sudah memiliki data pesaing di cloud mereka. Mereka juga bisa saja membuat enkripsi palsu untuk mendapatkan akses ke disk pelanggan
      Selain itu, sebagian besar karyawan memakai cloud Google Workspace atau Office 365 untuk menyimpan dan berbagi file rahasia. Apa yang membuat OpenAI berbeda sehingga lebih mengkhawatirkan?
    • Saya memahaminya sebagai kereta sudah terlanjur berangkat. Rasanya sulit menghentikannya hanya dengan hukum abu-abu yang rapuh

  • Saya kira poin-poin yang disediakan untuk pelanggan korporat—yakni prompt pelanggan dan data perusahaan tidak digunakan untuk melatih model OpenAI, akses tak terbatas ke Advanced Data Analysis (sebelumnya Code Interpreter), serta jendela konteks 32k token untuk input, file, dan pertanyaan lanjutan yang 4 kali lebih panjang—sebenarnya sudah tersedia juga bagi pelanggan non-korporat. Mungkin saya yang salah, atau mungkin ada sesuatu yang berubah

    • Menurut saya fitur sebenarnya ada di bagian ini: “Kami tidak melatih dengan data bisnis atau percakapan Anda, dan model kami tidak belajar dari penggunaan Anda. ChatGPT Enterprise juga mematuhi SOC 2 dan semua percakapan dienkripsi saat transit maupun saat disimpan”
    • Sepertinya bagian ini terlewat: ChatGPT Enterprise mematuhi SOC 2 dan semua percakapan dienkripsi saat transit maupun saat disimpan. Konsol admin baru memudahkan pengelolaan anggota tim, serta menyediakan verifikasi domain, SSO, dan insight penggunaan sehingga memungkinkan deployment skala besar di tingkat perusahaan
      Kesesuaian produk-pasar tampaknya cukup kuat. Produknya (ChatGPT) sudah siap, tetapi belum untuk perusahaan; sekarang sudah menjadi versi perusahaan. Sepertinya akan menghasilkan banyak lead penjualan
    • Sejauh yang saya tahu, chat completion di API sudah cukup lama dijamin bersifat privat. ChatGPT, aplikasi chat yang dijalankan OpenAI di atas model chat, terus digunakan untuk pelatihan, dan menurut saya itulah alasan harganya murah bagi konsumen
      Pengumuman ini memungkinkan perusahaan mengizinkan karyawan menggunakan ChatGPT sambil mengurangi kekhawatiran privasi data
    • Bagaimana dengan penyimpanan input prompt dan output respons selama beberapa hari untuk pemantauan penyalahgunaan? Apakah ini tidak dilakukan di versi enterprise? Di layanan Microsoft Azure OpenAI, Anda harus mendapat pengecualian agar tidak ada apa pun yang disimpan
    • Bagus bahwa prompt pelanggan dan data perusahaan tidak digunakan untuk melatih model OpenAI. Tapi apakah data itu bisa dijual kembali kepada broker data

  • Menarik, tetapi agak mengecewakan bahwa peluncuran ini tidak mencakup fine-tuning terhadap korpus dokumen perusahaan. Ini terlihat hanya seperti ChatGPT yang sedikit lebih nyaman dan lebih ramah privasi. Apakah saya melewatkan sesuatu

    • Ada di bagian “segera hadir” di paling bawah: “kustomisasi yang menghubungkan aplikasi yang Anda gunakan untuk memperluas pengetahuan ChatGPT secara aman dengan data perusahaan Anda”
    • Untuk memasukkan pengetahuan ke model, mereka tidak melakukan fine-tuning dengan korpus dokumen, melainkan menggunakan pencarian
      Cara mengunggah dokumen melalui Code Interpreter sudah didukung, dan mereka sedang menambahkan konektor untuk terhubung ke aplikasi yang berisi dokumen. Saya tidak begitu tahu apa lagi yang diharapkan selain itu
    • Retrieval-augmented generation layak dilihat. Sekitar 1–3 minggu lalu ada tulisan pengantar yang cukup bagus diposting di sini

  • Pesan dalam video ini, seiring waktu, jelas menjadi tidak tepat: https://www.youtube.com/watch?v=smHw9kEwcgM
    Singkatnya, ini mungkin benar-benar telah membunuh banyak startup

    • Saya juga teringat video Y Combinator itu. Prediksinya meleset, dan makin jelas bahwa OpenAI pada dasarnya adalah pesaing langsung bagi sebagian besar startup yang memakai API mereka. Sebagian besar startup tipe “berbicara dengan data saya” tampaknya akan mati karena langkah ini
    • Kalau keseluruhan startup itu hanya UI di atas ChatGPT API, kemungkinan sejak awal nilainya memang tidak terlalu besar, dan jika tutup pun itu bukan kehilangan berarti bagi industri secara keseluruhan
    • Ada intuisi bisnis umum bahwa perusahaan besar akan menyerahkan peluang bisnis kepada berbagai perusahaan satelit yang menyesuaikan fungsi turunan dari proposisi nilai produk ke ceruk tertentu
      Namun kebanyakan lebih mirip “OpenAI API + prompt di depan + antarmuka pengguna + pemasaran”. Masalahnya, seperti yang sudah dikemukakan sejak rilis GPT-3 API tiga tahun lalu, sulit bagi startup mana pun untuk memberi nilai yang jauh lebih besar daripada nilai yang disediakan API itu sendiri. Karena itu, relatif lebih mudah bagi OpenAI untuk mengambil bisnis ini sendiri dibandingkan kasus-kasus ketika model startup serupa pernah berhasil di sekitar perusahaan besar lain
    • Startup yang memakai ChatGPT secara internal pada dasarnya melakukan riset pasar gratis untuk OpenAI. Hal yang sama terjadi ketika orang-orang bereksperimen dengan penyelesaian kode memakai GPT-3, lalu segera digantikan oleh Copilot
      Jika Anda membangun startup AI dan membutuhkan LLM, Anda harus memakai Llama atau model lain yang bisa Anda kendalikan dan hosting sendiri. Pilihan selain itu pada dasarnya mendekati bunuh diri

  • Tertulis “akses tak terbatas ke Advanced Data Analysis (sebelumnya Code Interpreter)”, tetapi Code Interpreter memang nama yang cukup buruk. Bagi orang yang tidak belajar ilmu komputer, itu tidak terlalu bermakna
    Lalu nama barunya apa? “Advanced Data Analysis” lebih seperti deskripsi fitur dalam bullet point daripada sebuah nama

    • Anekdot yang saya dengar di internet—sepertinya dari Twitter Ethan Mollick—mengatakan bahwa Code Interpreter lebih baik daripada GPT-4 bahkan untuk tugas yang bukan interpretasi kode. Katanya lebih dekat ke GPT-4.5
      Mungkin itu pratinjau eksperimental dan sekarang hanya bisa dipakai perusahaan. Lagi pula saya memang tidak punya akses
    • Di akun saya sekarang tertulis “Advanced Data Analysis”, bukan “Code Interpreter”. Sepertinya itu nama barunya
    • Tadinya saya melihat nama lama, tetapi setelah menyegarkan halaman, berubah menjadi nama baru. Nama yang benar-benar buruk. Seharusnya mereka meminta rekomendasi dari ChatGPT

  • Apakah ini ada kaitannya dengan repositori ini yang tiba-tiba menghilang?
    https://github.com/microsoft/azurechatgpt
    Diskusi sebelumnya:
    https://news.ycombinator.com/item?id=37112741

    • Sepertinya proyek yang bagus. Semoga kembali lagi
      Ada beberapa proyek open source yang bagus di bidang ini. Tidak sepenuhnya sama, dan banyak proyek berfokus pada LLM lokal seperti Llama2 atau Code Llama yang keluar minggu lalu
      https://github.com/jmorganca/ollama (mengunduh dan menjalankan LLM secara lokal, saya maintainer-nya)
      https://github.com/simonw/llm (mengakses LLM cloud dan lokal dari command line)
      https://github.com/oobabooga/text-generation-webui (UI web yang mendukung berbagai backend)
      https://github.com/ggerganov/llama.cpp (runner LLM lokal yang cepat)
      https://github.com/go-skynet/LocalAI (menyediakan API yang kompatibel dengan OpenAI)
    • Semua aktivitas berhenti beberapa minggu lalu. Sebelum dihapus atau dijadikan privat, repositori itu sangat aktif dan punya hampir 5 ribu event star/watch
      Sayangnya saya tidak sempat mengindeks kodenya. Insight bisa dilihat di https://devboard.gitsense.com/microsoft/azurechatgpt
      Supaya transparan, itu adalah tool saya
    • Sepertinya sudah dipindahkan
      https://github.com/matijagrcic/azurechatgpt
    • Tidak terkait. Proyek itu hanya implementasi referensi untuk “berbicara dengan data saya lewat /chat API”, dan namanya memang sangat menyesatkan
    • Dari diskusi sebelumnya, sepertinya dihapus karena nama dan deskripsinya terlalu menyesatkan. Alasan orang-orang memberi star adalah karena itu repositori bernama “azurechatgpt” yang dipublikasikan Microsoft, padahal sebenarnya hanya contoh UI frontend untuk chatbot yang bisa berbicara dengan OpenAI API

  • Saya kira Microsoft sedang sibuk menggarap pasar enterprise, tetapi OpenAI mengumumkan produk untuk enterprise. Rasanya seperti keduanya tidak terlalu akur

    • Apakah mereka menjual produk yang sama secara bersamaan dengan dua merek?
      Strategi bisnis yang optimal. Membuatnya terlihat seolah ada lebih banyak persaingan, dan mengubah keputusan dari “pakai ChatGPT atau tidak?” menjadi “penyedia GPT mana yang akan dipakai?”
    • Microsoft pada dasarnya adalah perusahaan pasar menengah. Tentu saja mereka juga menjual ke enterprise, tetapi yang benar-benar membuat Microsoft hebat adalah kemampuannya menjual dalam skala luar biasa ke semua UKM di seluruh dunia melalui jaringan partner yang sangat luas
      OpenAI adalah perusahaan kecil dibanding Microsoft. Mereka tidak punya kapasitas untuk membangun jaringan partner raksasa. Paling banter, mereka bisa menawarkan lini produk dengan dukungan setingkat forum untuk pelanggan kecil, dan lini produk enterprise dengan dukungan kaya untuk pelanggan besar. Namun pasar di tengah akan, seperti biasa, dikuasai Microsoft
    • Cukup menarik melihat kedua perusahaan saling meniru. Bing Chat punya GPT-4 with Vision, riwayat percakapan, dan fitur-fitur lain, sementara OpenAI berekspansi ke sisi B2B
    • Di kantor, saya sempat memakai Bing Enterprise, yang berbasis ChatGPT-4 dan mengusung janji yang sama bahwa data tetap privat. Menurut saya, Bing Chat lebih unggul daripada ChatGPT-4 dalam banyak hal
    • Mungkin mereka ditekan untuk lebih menutup biaya operasional. Dan perusahaan yang sudah membayar produk Microsoft sepertinya akan bersedia membayar tambahan ke OpenAI juga agar merasa aman

  • Saya tidak begitu paham di mana segmen pasar OpenAI berakhir dan segmen Azure dimulai

    • Lebih mudah dipahami jika OpenAI dilihat sebagai laboratorium R&D AI yang dijalankan Microsoft tanpa beban politik dan regulasi. Dari sudut pandang itu, sebenarnya semuanya sama saja. Saya tidak bisa membayangkan akhir cerita OpenAI selain menjadi bagian dari Microsoft
    • Akan ada bagian yang tumpang tindih. Kalau Anda pelanggan Azure, pakai Azure; kalau tidak, pakai OpenAI, kira-kira begitu