IPEX-LLM - Library PyTorch untuk Menjalankan LLM di CPU/GPU Intel

• Berbasis Intel Extension for PyTorch (IPEX)
• Dioptimalkan/divalidasi untuk lebih dari 50 model (LLaMA2, Mistral, Gemma, LLaVa, Whisper, dll.)
• Berjalan dengan latensi rendah di iGPU lokal maupun GPU terdistribusi seperti Arc/Flex/Max
• Terintegrasi dengan baik dengan llama.cpp, HuggingFace, LangChain, LlamaIndex, dll.