| mirostat |
Povoliť odber vzoriek Mirostatu na kontrolu zmätku. (predvolené: 0, 0 = zdravotne postihnuté, 1 = Mirostat, 2 = Mirostat 2.0) |
int |
mirostat 0 |
| mirostat_eta |
Ovplyvnenie toho, ako rýchlo algoritmus reaguje na spätnú väzbu z generovaného textu. Nižšia miera učenia bude mať za následok pomalšie úpravy, zatiaľ čo vyššia miera učenia zvýši citlivosť algoritmu. (Predvolené: 0,1) |
float |
mirostat_eta 0.1 |
| mirostat_tau |
Kontroluje rovnováhu medzi súdržnosťou a rozmanitosťou výstupu. Nižšia hodnota bude mať za následok cielenejší a koherentnejší text. (Predvolené: 5.0) |
float |
mirostat_tau 5.0 |
| num_ctx |
Nastavuje veľkosť kontextového okna použitého na generovanie nasledujúceho tokenu. (Predvolené: 2048) |
int |
num_ctx 4096 |
| repeat_last_n |
Nastaví, ako ďaleko sa model vráti, aby sa zabránilo opakovaniu. (Predvolené: 64, 0 = zdravotne postihnuté, -1 = num_ctx) |
int |
repeat_last_n 64 |
| repeat_penalty |
Nastavuje, ako silne penalizovať opakovania. Vyššia hodnota (napr. 1,5) bude viac penalizovať opakovania, zatiaľ čo nižšia hodnota (napr. 0,9) bude miernejšia. (Predvolené: 1.1) |
float |
repeat_penalty 1.1 |
| temperature |
Teplota modelu. Zvyšovanie teploty spôsobí, že model bude kreatívnejšie reagovať. (Predvolené: 0,8) |
float |
temperature 0.7 |
| seed |
Nastaví semeno náhodného čísla, ktoré sa má použiť na generáciu. Nastavenie na konkrétne číslo spôsobí, že model vygeneruje rovnaký text pre rovnakú výzvu. (Predvolené: 0) |
int |
seed 42 |
| stop |
Nastavuje sekvencie zastavenia, ktoré sa majú použiť. Keď sa tento model stretne, LLM prestane vytvárať text a návrat. Viacero vzorov zastavenia sa môže stanoviť zadaním viacerých samostatných stop parametre v modelovej skupine. |
string |
stop "AI assistant:" |
| tfs_z |
Vzorkovanie bez chvosta sa používa na zníženie vplyvu menej pravdepodobných žetónov z výstupu. Vyššia hodnota (napr. 2.0) zníži vplyv viac, zatiaľ čo hodnota 1,0 túto hodnotu zverejní. (predvolené: 1) |
float |
tfs_z 1 |
| num_predict |
Maximálny počet žetónov predpovedá pri generovaní textu. (Predvolené: 128, -1 = nekonečná generácia, -2 = vyplňte kontext) |
int |
num_predict 42 |
| top_k |
Zníži pravdepodobnosť vzniku nezmyslov. Vyššia hodnota (napr. 100) poskytne rozmanitejšie odpovede, zatiaľ čo nižšia hodnota (napr. 10) bude konzervatívnejšia. (Predvolené: 40) |
int |
top_k 40 |
| top_p |
Pracuje spolu s top-k. Vyššia hodnota (napr. 0,95) povedie k rozmanitejšiemu textu, zatiaľ čo nižšia hodnota (napr. 0,5) vytvorí cielenejší a konzervatívnejší text. (Predvolené: 0,9) |
float |
top_p 0.9 |
| min_p |
Alternatíva k top_p a jej cieľom je zabezpečiť rovnováhu kvality a rozmanitosti. Parameter p predstavuje minimálnu pravdepodobnosť, že sa bude brať do úvahy token, vzhľadom na pravdepodobnosť najpravdepodobnejšieho tokenu. Napríklad s p= 0,05 a najpravdepodobnejší token s pravdepodobnosťou 0,9 sa filtrujú protokoly s hodnotou menšou ako 0,045. (Predvolené: 0,0) |
float |
min_p 0.05 |
