Osaurus je nativní LLM server pro macOS optimalizovaný pro Apple Silicon (M1 a novější), určený pro běh jazykových modelů s vysokým výkonem díky Apple LMX runtime. Nabízí kompatibilitu OpenAI API a podporuje streamované i nestreamované odpovědi. K dispozici je UI pro prohlížení, stahování a správu MLX modelů z MLX-community/Hugging Face.
Pro hodnocení programu se prosím nejprve přihlaste