????️ AI Toolkit (Terminal Intelligence)AI Toolkit je robustná sada POSIX-kompatibilných shell skriptov navrhnutá na interakciu s lokálnymi (Ollama) alebo vzdialenými AI modelmi priamo z terminálu. Projekt je optimalizovaný pre Linuxové systémy a prostredie Termux.
???? Hlavné funkcie
Inteligentný kontext: Automaticky prehľadáva aktuálny adresár, detekuje súbory spomenuté v otázke a prikladá ich obsah k promptu.
Streamovanie odpovedí: Podpora pre reálne zobrazovanie odpovede (streaming) v reálnom čase.
Syntax Highlighting: Vstavaný renderer s podporou farieb pre 12+ programovacích jazykov (Bash, Python, C, Rust, JS atď.).
Správa modelov: Integrácia s Ollama API na listovanie dostupných modelov vrátane metadát (popis, veľkosť, kontext).
Nízka závislosť: Vyžaduje len štandardné nástroje ako curl, jq, sed a awk.
???? Architektúra projektu
./ai.sh # Hlavný vstupný bod (CLI)
./lib/
├── api.sh # Komunikácia s OpenAI/Ollama API
├── context.sh # Logika pre zber dát z projektu
├── renderer.sh # Formátovanie výstupu a farby
└── utils.sh # Pomocné funkcie (logo, help, escape)
./config/
└── ai_toolkit.conf # Konfiguračný súbor (voliteľný)
./netinstall.sh # Inštalačný skript pre automatizované nasadenie
????️ Inštalácia
Môžeš použiť priložený inštalačný skript, ktorý stiahne balík, nastaví symlinky a pripraví konfiguračné adresáre:
sh -c "$(curl -fsSL https://pihi.sk/projects/ai-toolkit/netinstall.sh)"
Skript vytvorí symlink ai v /usr/local/bin alebo $PREFIX/bin (Termux).
???? Použitie
Základný príkaz:
ai "Vysvetli ako funguje tento projekt"
Prepínače (Options)
Prepínač Význam
-s Stream mode: Odpoveď sa vypisuje postupne (ako v ChatGPT).
-d Debug mode: Zobrazí surové JSON dáta a vygenerovaný kontext.
-n No Context: Zakáže automatické prikladanie súborov k otázke.
-m MODEL Použije konkrétny model (napr. llama3, mistral).
-e URL Zmení API endpoint (predvolený: localhost:11434).
-c KB Nastaví limit pre veľkosť kontextu v kilobajtoch.
Príkazy (Commands)
ai list Zobrazí prehľadnú tabuľku všetkých modelov dostupných na vašom serveri vrátane ich veľkosti a popisu.
???? Detailný popis modulov
1. context.sh (Srdce nástroja)
Tento modul implementuje RAG-like (Retrieval-Augmented Generation) správanie:
Explictná detekcia: Ak v otázke napíšeš názov súboru (napr. utils.sh), skript ho nájde a vloží do promptu.
Kľúčové slová: Ak nenájde súbor, extrahuje podstatné mená z otázky a hľadá ich výskyt v kóde pomocou grep.
Limity: Všetky dáta sú orezané podľa AI_MAX_CONTEXT_KB, aby sa predišlo pretečeniu kontextového okna modelu.
2. renderer.sh (Zobrazenie)
Zabezpečuje, aby výstup v termináli vyzeral profesionálne:
Detekuje Markdown bloky s kódom (bash ... ).
Používa awk na dynamické farbenie kľúčových slov, reťazcov a komentárov.
Vykresľuje pätu (footer) s informáciami o rýchlosti generovania (ms), počte tokenov a hustote dát.
3. api.sh (Komunikácia)
Konštruuje JSON objekty kompatibilné s OpenAI Chat Completions API. Podporuje:
System Prompt pre definíciu identity asistenta (Slovenský jazyk, technická presnosť).
Streamovacie spracovanie cez curl --no-buffer.
⚙️ Konfigurácia
Konfigurácia sa načítava z $HOME/.config/ai-toolkit/ai-toolkit.conf
Príklad obsahu:
AI_ENDPOINT="http://localhost:11434/v1/chat/completions"
AI_MODEL="deepseek-coder"
AI_MAX_CONTEXT_KB="64"
???? Poznámky
Projekt je striktne POSIX compliant, čo znamená, že pobeží na sh, dash, bash aj zsh bez úprav.
Pre správne fungovanie ai list je potrebné mať v adresári config/models/ súbory s príponou .meta pre popisy modelov.