AI CLI Toolkit – Kompletná Funkcionalita
Tvoj projekt je plne POSIX-kompatibilný AI CLI framework, ktorý funguje ako terminálová inteligencia – interaktívna konzola pre prácu s AI modelmi.
1️⃣ Hlavné komponenty
| Modul / Funkcia | Popis |
|---|---|
| CLI Interface | Hlavný vstupný bod do nástroja – podporuje interaktívne príkazy, argumenty, flags a pipeline. |
| AI Core Engine | Jadro nástroja, spracováva prompty, profily, RAG kontext, volania modelov a orchestruje výstupy. |
| Model Management | Správa modelov z config/models/*.meta – výber, meta-data, rôzne typy (coders, generatívne, GPT-OSS, LLaMA, Qwen). |
| Prompt Handling | Predpripravené prompty a skripty (config/prompts/*.sh) pre rôzne typy úloh. |
| Profiles | Rôzne profily správania modelov (creative, debug, code, shell). |
| RAG Context | Retrieval-augmented generation – dopĺňa dotazy o kontext z projektových dát alebo systémových informácií. |
| API Interface | Abstrakcia volania AI endpointov, budovanie JSON requestov, podpora viacerých endpointov. |
| Logs & Metrics | Podrobné logovanie (čas, tokeny, cost, TTFT, context density) do JSON a textových súborov. |
| Output Renderer | ASCII / Markdown / terminal render – podporuje aj farebné zobrazenie a vizualizáciu výstupu. |
| Markdown Renderer | Export a zobrazenie výstupu vo formáte Markdown – ideálne na blog/reporty. |
| Realtime Streaming | Realtime zobrazovanie odpovedí počas generovania modelu, priamo v termináli. |
| Terminal Assistant (TA) | Asistent pre prácu v termináli – dokáže analyzovať logy, projekty, shell výstupy, komentovať kód, generovať reporty. |
| Tools / Utilities | Tree view, file view, file write, benchmarking, context generation, net install, testy volaní nástrojov. |
| POSIX / TTY Support | Plná podpora interaktívnych terminálov, SSH, pipe-ovania a TTY interakcie. |
| Deploy Scripts | Deploy buildov na FTP alebo iné prostredia (deploy_build_to_ftp.sh). |
2️⃣ Podporované funkcionality
-
Plná terminálová integrácia – spustiteľné v POSIX termináli, SSH, screen, tmux.
-
Realtime streaming odpovedí – okamžité zobrazenie generovaného výstupu.
-
ASCII / Markdown render – vizualizácia v termináli aj export.
-
RAG kontext – rozšírenie promptov o projektový a systémový kontext.
-
Profily a prompt management – rôzne nastavenia správania AI modelov.
-
Podpora viacerých modelov – z konfiguračných meta súborov.
-
Logovanie a metriky – TTFT, tokens, cost, context density.
-
Terminal Assistant – inteligentná interakcia s logmi, kódom a shell príkazmi.
-
Pipe-ovanie a scripting-friendly – možné kombinovať s inými CLI nástrojmi.
-
Cyberpunk / Matrix hacker vibe – ASCII art, neon farby, digitálny dážď vo výstupe.
3️⃣ Unikátne vlastnosti
-
POSIX & TTY kompatibilita – terminálové prostredie funguje všade.
-
Realtime streaming + render – vizualizácia odpovedí okamžite.
-
Terminal Assistant – schopný analyzovať projekty, logy, shell výstupy a generovať reporty.
-
RAG kontext a profily – adaptívne promptovanie podľa projektu a profilu.
-
Markdown export + ASCII render – vhodné pre blogy, dokumentáciu a reporting.
-
Komplexné metriky – TTFT, tokeny, náklady, context density, speed tokens/sec.
Zhrnutie v jednej vete:
„AI CLI Toolkit je plne POSIX-kompatibilný, terminal-ready, realtime streaming AI framework s RAG, profilmi, Terminal Assistantom, Markdown renderom a podrobným logovaním – kompletná terminálová inteligencia pre vývoj a analýzu AI modelov.“
AI CLI Toolkit – Architektúra
AI CLI Toolkit
│
├─ CLI Interface
│ └─ ai.sh
│ ├─ argument parser
│ └─ command dispatcher
│
├─ Command Layer
│ ├─ list, profile, prompt, ins, insall, update, run, log, version
│ └─ routes commands to core engine
│
├─ Core Engine
│ ├─ loads model .meta
│ ├─ checks capabilities (caps)
│ ├─ builds prompts
│ ├─ manages profiles
│ ├─ calculates cost (InputCost1M, OutputCost1M)
│ └─ orchestrates tool calls
│
├─ Model Metadata Registry (.meta)
│ ├─ Family, Params, Context, Quant, Size, Format, Modified
│ ├─ Caps (completion, tools, thinking, etc.)
│ ├─ Pricing (InputCost1M, OutputCost1M)
│ └─ Desc (AI-generated description)
│
├─ Profile System
│ └─ config/profiles/*.conf
│ └─ defines style, temperature, prompt defaults
│
├─ Prompt System
│ └─ config/prompts/*.sh
│ └─ reusable prompts for tasks
│
├─ RAG Context Builder
│ ├─ project_info.sh
│ ├─ system_info.sh
│ └─ build_context.sh
│ └─ adds additional context dynamically
│
├─ Terminal Assistant
│ ├─ analyzes log files, shell output, project structure
│ └─ suggests fixes for failed commands
│
├─ Tool System
│ ├─ tree.sh
│ ├─ view_file.sh
│ └─ write_file.sh
│ └─ available only if model has `tools` in caps
│
├─ Realtime Streaming
│ └─ streams model output token by token for interactive feel
│
├─ Markdown Renderer
│ ├─ posix_markdown_render.sh
│ └─ formats output with colors and code blocks
│
└─ Logging & Telemetry
├─ history.json
├─ tool_calls.log
├─ TTFT, tokens, cost, context density
└─ enables reporting & blog export