Pollux 0.4.0

Pollux je specializovaná reverzní proxy postavená na asynchronním runtime jazyka Rust, která slouží jako plánovač (scheduler) pro AI výpočetní zdroje. Systém je navržen s využitím aktoru (knihovna ractor), což umožňuje dosahovat mikrosekundových latencí při zpracování požadavků a zajišťuje bez zámkový (lock-free) přístup k nejvytíženějším částem kódu. Nástroj transformuje surové přihlašovací údaje a tokeny na standardizovaná aplikační rozhraní kompatibilní s Gemini v1beta a OpenAI Responses API. To dovoluje sjednotit různé poskytovatele pod jedno stabilní rozhraní.

Architektura Polluxu je bezstavová na úrovni síťového rozhraní (edge), ale uchovává stav o dostupných zdrojích v lokální databázi SQLite. Tento přístup umožňuje dynamické vkládání přihlašovacích údajů, jejich perzistenci a automatickou rotaci bez nutnosti restartování služby. Systém obsahuje logiku pro správu fondů přihlašovacích údajů (credential pools), mechanismy pro opakování požadavků při chybách na straně upstreamu a plnou podporu pro proudové přenosy dat (SSE streaming). Nasazení je možné jako samostatný binární soubor nebo prostřednictvím Docker kontejneru.

Hlavní funkcionality:

• Standardizace protokolů Gemini v1beta a OpenAI Responses API pod jednu službu.
• Plánování požadavků založené na aktorech pro vysokou propustnost a nízkou latenci.
• Správa a automatická rotace fondů přihlašovacích údajů při detekci chyb.
• Podpora pro asynchronní proudové odpovědi (SSE passthrough) pro oba protokoly.
• Integrované OAuth toky pro snadné získávání a obnovu přístupových tokenů.
• Bezpečné úložiště dat v SQLite umožňující dynamickou konfiguraci za běhu.
• Možnost hromadného vkládání tokenů (batch ingestion) přes zabezpečené endpointy.
• Kompaktní provedení ve formě jediného binárního souboru nebo Docker obrazu.