AI CLI Toolkit 1.66 – Kompletná Funkcionalita

AI CLI Toolkit 1.66 – Kompletná Funkcionalita

 AI CLI Toolkit – Kompletná Funkcionalita

Tvoj projekt je plne POSIX-kompatibilný AI CLI framework, ktorý funguje ako terminálová inteligencia – interaktívna konzola pre prácu s AI modelmi.


1️⃣ Hlavné komponenty

Modul / Funkcia Popis
CLI Interface Hlavný vstupný bod do nástroja – podporuje interaktívne príkazy, argumenty, flags a pipeline.
AI Core Engine Jadro nástroja, spracováva prompty, profily, RAG kontext, volania modelov a orchestruje výstupy.
Model Management Správa modelov z config/models/*.meta – výber, meta-data, rôzne typy (coders, generatívne, GPT-OSS, LLaMA, Qwen).
Prompt Handling Predpripravené prompty a skripty (config/prompts/*.sh) pre rôzne typy úloh.
Profiles Rôzne profily správania modelov (creative, debug, code, shell).
RAG Context Retrieval-augmented generation – dopĺňa dotazy o kontext z projektových dát alebo systémových informácií.
API Interface Abstrakcia volania AI endpointov, budovanie JSON requestov, podpora viacerých endpointov.
Logs & Metrics Podrobné logovanie (čas, tokeny, cost, TTFT, context density) do JSON a textových súborov.
Output Renderer ASCII / Markdown / terminal render – podporuje aj farebné zobrazenie a vizualizáciu výstupu.
Markdown Renderer Export a zobrazenie výstupu vo formáte Markdown – ideálne na blog/reporty.
Realtime Streaming Realtime zobrazovanie odpovedí počas generovania modelu, priamo v termináli.
Terminal Assistant (TA) Asistent pre prácu v termináli – dokáže analyzovať logy, projekty, shell výstupy, komentovať kód, generovať reporty.
Tools / Utilities Tree view, file view, file write, benchmarking, context generation, net install, testy volaní nástrojov.
POSIX / TTY Support Plná podpora interaktívnych terminálov, SSH, pipe-ovania a TTY interakcie.
Deploy Scripts Deploy buildov na FTP alebo iné prostredia (deploy_build_to_ftp.sh).

2️⃣ Podporované funkcionality

  • Plná terminálová integrácia – spustiteľné v POSIX termináli, SSH, screen, tmux.

  • Realtime streaming odpovedí – okamžité zobrazenie generovaného výstupu.

  • ASCII / Markdown render – vizualizácia v termináli aj export.

  • RAG kontext – rozšírenie promptov o projektový a systémový kontext.

  • Profily a prompt management – rôzne nastavenia správania AI modelov.

  • Podpora viacerých modelov – z konfiguračných meta súborov.

  • Logovanie a metriky – TTFT, tokens, cost, context density.

  • Terminal Assistant – inteligentná interakcia s logmi, kódom a shell príkazmi.

  • Pipe-ovanie a scripting-friendly – možné kombinovať s inými CLI nástrojmi.

  • Cyberpunk / Matrix hacker vibe – ASCII art, neon farby, digitálny dážď vo výstupe.


3️⃣ Unikátne vlastnosti

  1. POSIX & TTY kompatibilita – terminálové prostredie funguje všade.

  2. Realtime streaming + render – vizualizácia odpovedí okamžite.

  3. Terminal Assistant – schopný analyzovať projekty, logy, shell výstupy a generovať reporty.

  4. RAG kontext a profily – adaptívne promptovanie podľa projektu a profilu.

  5. Markdown export + ASCII render – vhodné pre blogy, dokumentáciu a reporting.

  6. Komplexné metriky – TTFT, tokeny, náklady, context density, speed tokens/sec.


Zhrnutie v jednej vete:

„AI CLI Toolkit je plne POSIX-kompatibilný, terminal-ready, realtime streaming AI framework s RAG, profilmi, Terminal Assistantom, Markdown renderom a podrobným logovaním – kompletná terminálová inteligencia pre vývoj a analýzu AI modelov.“

AI CLI Toolkit – Architektúra 


 
AI CLI Toolkit

├─ CLI Interface
│ └─ ai.sh
│ ├─ argument parser
│ └─ command dispatcher

├─ Command Layer
│ ├─ list, profile, prompt, ins, insall, update, run, log, version
│ └─ routes commands to core engine

├─ Core Engine
│ ├─ loads model .meta
│ ├─ checks capabilities (caps)
│ ├─ builds prompts
│ ├─ manages profiles
│ ├─ calculates cost (InputCost1M, OutputCost1M)
│ └─ orchestrates tool calls

├─ Model Metadata Registry (.meta)
│ ├─ Family, Params, Context, Quant, Size, Format, Modified
│ ├─ Caps (completion, tools, thinking, etc.)
│ ├─ Pricing (InputCost1M, OutputCost1M)
│ └─ Desc (AI-generated description)

├─ Profile System
│ └─ config/profiles/*.conf
│ └─ defines style, temperature, prompt defaults

├─ Prompt System
│ └─ config/prompts/*.sh
│ └─ reusable prompts for tasks

├─ RAG Context Builder
│ ├─ project_info.sh
│ ├─ system_info.sh
│ └─ build_context.sh
│ └─ adds additional context dynamically

├─ Terminal Assistant
│ ├─ analyzes log files, shell output, project structure
│ └─ suggests fixes for failed commands

├─ Tool System
│ ├─ tree.sh
│ ├─ view_file.sh
│ └─ write_file.sh
│ └─ available only if model has `tools` in caps

├─ Realtime Streaming
│ └─ streams model output token by token for interactive feel

├─ Markdown Renderer
│ ├─ posix_markdown_render.sh
│ └─ formats output with colors and code blocks

└─ Logging & Telemetry
├─ history.json
├─ tool_calls.log
├─ TTFT, tokens, cost, context density
└─ enables reporting & blog export

Marek Mihók