Moly je aplikace pro práci s LLM (velkými jazykovými modely). Nabízí správu místních i cloudových LLM. Umožňuje prohledávat, stahovat a spouštět open source modely lokálně, přičemž backend běží přes moly-server s podporou WasmEdge, a rozhraní je kompatibilní s OpenAI API. K dispozici je přehledné GUI pro konverzaci s modely - vybíráte model, zadáváte dotazy, získáváte odpovědi a můžete spravovat konverzace.
Pro hodnocení programu se prosím nejprve přihlaste