KoboldCpp je software pro generování textu pomocí AI, inspirovaný původním KoboldAI. Umožňuje běh na procesoru nebo grafické kartě s možností částečného nebo plného využití GPU. Podporuje řadu GGML a GGUF modelů, včetně LLaMA, Alpaca, GPT-2, GPT-J, Mistral a dalších. Součástí je integrace se Stable Diffusion, funkce pro převod řeči na text pomocí Whisper, či pomocník pro generování hlasu prostřednictvím OuteTTS.
Pro hodnocení programu se prosím nejprve přihlaste