Saya rasa memulai self-hosting LLM akan tetap menjadi kondisi yang secara hitung-hitungan bisnis tidak masuk akal selama 5 tahun ke depan karena biaya investasi awalnya besar. Saya berencana mempertimbangkannya lagi 3–5 tahun lagi, ketika sudah ada hardware yang cukup cepat khusus untuk autocompletion kode dan menawarkan keunggulan dari sisi harga.
Konfigurasi yang sudah ditinjau
Konfigurasi all-in-one: tidak bisa menjalankan LLM di perangkat kerja. Bahkan untuk menjalankan development tool dan aplikasi berbasis browser saja RAM sudah tidak cukup.
Konfigurasi mesin khusus LLM: di kantor tidak ada kartu grafis sehingga tidak bisa dijalankan. Untuk PC pribadi pun tidak mudah melakukan investasi spesifikasi di awal.
Karena kebijakan keamanan internal perusahaan, kami sama sekali tidak menggunakan API LLM eksternal, dan saat ini menggunakan gpt oss berbasis vllm yang disediakan oleh departemen pengelolaan cloud internal.
Seperti yang disebutkan Armin Ronacher, saya rasa hambatannya adalah beban kognitif peninjau. Jika seseorang sudah sibuk dengan coding atau pekerjaan lain, berarti ini tidak bisa diterapkan. Bahkan menurut saya, hal ini justru bisa menimbulkan efek sebaliknya seperti penurunan kualitas yang tidak terduga atau waktu peninjauan yang lebih lama.
Saya khawatir multitasking akan menjadi hal yang lumrah bagi developer dengan dalih pemanfaatan AI dan peningkatan produktivitas
Otak manusia juga tidak berjalan paralel, kan wkwk. Toh pada akhirnya peninjauannya akan dilakukan secara berurutan, jadi paralel rasanya tidak akan punya makna sebesar itu.
"Hanya hasil prediksi statistik atas kata-kata" — hanya dengan menyadari fakta ini saja, tampaknya menjadi jelas bagaimana kita harus memperlakukan AI.
Setiap kali ada apa-apa, jawabannya selalu "baca dulu man/readme/docs".
Padahal, yang penting dalam UX adalah pengguna bisa langsung tahu cara memakainya bahkan tanpa perlu penjelasan.
Karena ini memang bukan pekerjaan berbayar, ya bisa dimaklumi, tapi kalau dipikir dari sudut pandang pengguna non-developer, memang benar pengalaman penggunaannya kurang baik.
Di Korea, situasinya agak berbeda
Pada akhirnya, memilih arus utama setelah berputar-putar adalah langkah yang bijak
Kalau ingin terus berkecimpung di dunia development: Java, React, Python
Kalau bukan untuk memuaskan dahaga intelektual diri sendiri
Saya tidak yakin apakah sesuatu yang meledak-ledak itu bagus untuk semua situasi, tetapi saya rasa saya cukup sering melihat kasus ketika Kafka dipakai padahal sebenarnya tidak perlu, sehingga menambah pekerjaan ekstra.
Gunakan tombol
background, border, outline, appearance, -webkit-appearance, cursor
Terlalu banyak stylesheet bawaan yang harus ditimpa sedih sedih
Saya sering memakainya untuk ML dan Web, dan saya berharap uv segera menjadi teknologi yang membosankan haha
Kafka lambat...
Situs lembaga pemerintah di negara kita tampaknya sering memakai
<a>...Saya rasa memulai self-hosting LLM akan tetap menjadi kondisi yang secara hitung-hitungan bisnis tidak masuk akal selama 5 tahun ke depan karena biaya investasi awalnya besar. Saya berencana mempertimbangkannya lagi 3–5 tahun lagi, ketika sudah ada hardware yang cukup cepat khusus untuk autocompletion kode dan menawarkan keunggulan dari sisi harga.
Konfigurasi yang sudah ditinjau
Agak ambigu juga kalau dibilang lokal.
Karena kebijakan keamanan internal perusahaan, kami sama sekali tidak menggunakan API LLM eksternal, dan saat ini menggunakan
gpt ossberbasisvllmyang disediakan oleh departemen pengelolaan cloud internal.Seperti yang disebutkan Armin Ronacher, saya rasa hambatannya adalah beban kognitif peninjau. Jika seseorang sudah sibuk dengan coding atau pekerjaan lain, berarti ini tidak bisa diterapkan. Bahkan menurut saya, hal ini justru bisa menimbulkan efek sebaliknya seperti penurunan kualitas yang tidak terduga atau waktu peninjauan yang lebih lama.
Saya khawatir multitasking akan menjadi hal yang lumrah bagi developer dengan dalih pemanfaatan AI dan peningkatan produktivitas
Otak manusia juga tidak berjalan paralel, kan wkwk. Toh pada akhirnya peninjauannya akan dilakukan secara berurutan, jadi paralel rasanya tidak akan punya makna sebesar itu.
"Hanya hasil prediksi statistik atas kata-kata" — hanya dengan menyadari fakta ini saja, tampaknya menjadi jelas bagaimana kita harus memperlakukan AI.
https://kofic.or.kr/kofic/business/…
Oh, ternyata ada di situs KOFIC ya
Setiap kali ada apa-apa, jawabannya selalu "baca dulu man/readme/docs".
Padahal, yang penting dalam UX adalah pengguna bisa langsung tahu cara memakainya bahkan tanpa perlu penjelasan.
Karena ini memang bukan pekerjaan berbayar, ya bisa dimaklumi, tapi kalau dipikir dari sudut pandang pengguna non-developer, memang benar pengalaman penggunaannya kurang baik.
Saya akan tetap memakai SQLite saja sampai SQLite benar-benar jebol.
Di Korea, situasinya agak berbeda
Pada akhirnya, memilih arus utama setelah berputar-putar adalah langkah yang bijak
Kalau ingin terus berkecimpung di dunia development: Java, React, Python
Kalau bukan untuk memuaskan dahaga intelektual diri sendiri
https://news.hada.io/guidelines
> Mendukung Markdown
> Didukung baik di isi maupun komentar.
> Pada dasarnya mengikuti spesifikasi CommonMark.
> Gambar tidak didukung.
Selain itu, tampaknya jika URL-nya adalah URL GeekNews, ikon akan ditampilkan di depan judul tautan
Judulnya?
Sebenarnya saya tidak memakai trik khusus yang besar.
Saya tidak yakin apakah sesuatu yang meledak-ledak itu bagus untuk semua situasi, tetapi saya rasa saya cukup sering melihat kasus ketika Kafka dipakai padahal sebenarnya tidak perlu, sehingga menambah pekerjaan ekstra.
Oh, bagaimana Anda mengubah judul sesuai selera?
Untuk
fe,be,data, sampai 3 agen AI masih bisa, tapi lebih dari itu otak saya sudah tidak bisa mengikuti T_T.Beban yang serba tanggung buat para sucker