Nativ 0.2.2

Nativ je nativní macOS nástroj pro lokální běh AI modelů na Apple Silicon s využitím MLX. Spojuje chat, server, monitorování a správu modelů do jedné aplikace. Nabízí streaming konverzace s podporou obrázků, generování a editaci obrázků, procházení a stahování kompatibilních modelů z Hugging Face s varováními pro paměť a přepínání mezi modely. Nástroj lze používat jako soukromý chat, správce modelů, dashboard výkonu nebo jako lokální inferenční server kompatibilní s OpenAI a Anthropic API.

Nástroj dále nabízí analýzu výkonu se sledováním počtu požadavků, tokenů, doby do prvního tokenu a rychlosti dekódování, systémový monitor s živým zatížením CPU, GPU, paměti, swapu a disku a menu bar ovládací prvky pro start a stop serveru, přepínání modelů a živé grafy. Součástí je platforma rozšíření s audio modulem pro hlasovou diktaci v libovolné aplikaci, integrace s terminálovými AI agenty a editory včetně Codex, Claude Code, VS Code, Cursor a Zed a pokročilé řízení inference s nastavením samplingu, KV-cache kvantizace, prefix caching a spekulativního dekódování. Server běží lokálně na 127.0.0.1 s volitelným API klíčem.

Hlavní funkcionality

• Streaming chat s podporou obrázků, reasoning výstupem a historií konverzací
• Generování a editace obrázků lokálně s MLX modely
• Procházení, stahování a správa MLX modelů z Hugging Face s varováními pro paměť
• Lokální OpenAI a Anthropic kompatibilní API server
• Analýza výkonu s tokeny, dobou do prvního tokenu a rychlostí dekódování
• Systémový monitor s živým zatížením CPU, GPU, paměti, swapu a disku
• Menu bar ovládací prvky pro server, modely a živé grafy
• Hlasová diktace v libovolné aplikaci s výběrem speech modelu
• Integrace s terminálovými AI agenty a editory včetně Codex, Claude Code a Cursor
• Pokročilé řízení inference: sampling, KV-cache kvantizace, prefix caching a spekulativní dekódování
• Platforma rozšíření s nezávislou verzí a správou
• Sledování a filtrování živých logů serveru