- Teknologi untuk menjalankan model AI langsung di perangkat edge dapat dipelajari secara bertahap melalui kursus gratis dan open-source ini
- Tujuannya adalah menjalankan model AI langsung di perangkat, bukan di cloud untuk mencapai latensi minimum, perlindungan privasi, pengurangan biaya, dan berkurangnya ketergantungan pada jaringan
- Peserta dapat menyelesaikan proyek-proyek praktis seperti deployment SLM, pembangunan sistem multi-agent, implementasi pipeline RAG lokal, dan model routing, sambil mempelajari teknik deployment untuk Windows, mobile, embedded, dan lingkungan hybrid
- Menjelaskan secara berfokus pada praktik cara meningkatkan performa (hingga 85% peningkatan kecepatan, 75% pengurangan ukuran model) melalui alat optimasi utama seperti Llama.cpp, Microsoft Olive, OpenVINO, Apple MLX
- Kurikulum (perkiraan total waktu: 36–45 jam)
- 0. Gambaran umum EdgeAI dan pengenalan tujuan pembelajaran (pemula: 1–2 jam)
- 1. Konsep dasar dan contoh Edge AI (dasar: 3–4 jam)
- 2. Struktur dan keluarga model SLM (dasar: 4–5 jam)
- 3. Praktik deployment lokal dan cloud (menengah: 4–5 jam)
- 4. Toolkit optimasi model (Llama.cpp, dll.) (menengah: 5–6 jam)
- 5. SLMOps dan fine-tuning (lanjutan: 5–6 jam)
- 6. AI agent dan Function Calling (lanjutan: 4–5 jam)
- 7. Implementasi lintas platform (lanjutan: 3–4 jam)
- 8. Proyek contoh Foundry Local (ahli: 8–10 jam)
Belum ada komentar.