Gerbil je aplikace, která umožňuje spouštět velké jazykové modely (LLM) lokálně na vašem počítači, bez nutnosti posílat data na vzdálené servery. Stojí na projektu KoboldCpp (fork llama.cpp), takže máte kontrolu nad výkonem i soukromím. Nabízí chytré řízení procesů, kdy hlídá běžící instance, aby se nerozběhly zombie procesy a nespotřebovávaly RAM/VRAM.
Pro hodnocení programu se prosím nejprve přihlaste