OS Layer dostal nové AI režimy: free, subscription a API

PIHI OS Layer: AI bez vendor lock-inu

Doteraz sa pri AI často riešila hlavne otázka, ktorý model alebo provider použiť. Lokálny model, OpenAI, Anthropic, OpenRouter alebo niečo ďalšie.

Lenže provider nie je celý problém.

Rovnako dôležité je, akým spôsobom mám k AI prístup. Niekedy chcem použiť lokálny model bez cloudu. Inokedy bezplatný cloud model. Niekde už mám zaplatené predplatné a inde chcem použiť klasické API účtované podľa spotreby.

Preto dnes PIHI OS Layer dostal samostatnú AI access vrstvu.

Aktuálny model rozlišuje tri hlavné režimy:

free
subscription
api

Popri nich zostáva samostatné rozhodovanie medzi lokálnym a cloudovým inference.

Free už neznamená iba local

Dôležitou novinkou je OpenRouter provider pre free cloud.

To znamená, že používateľ nemusí mať vlastný výkonný hardware ani platiť klasické API len preto, aby mohol použiť cloudový model.

OS Layer môže v režime free využiť dostupné bezplatné modely cez OpenRouter.

Konceptuálne teda routing vyzerá približne takto:

AI
├── local
│   └── lokálny inference
│
└── cloud
    ├── free
    │   └── OpenRouter / free modely
    │
    ├── subscription
    │   └── používateľovo predplatené služby
    │
    └── api
        └── usage-based API provideri

Podstatné je, že provider a spôsob prístupu už nie sú tá istá vec.

Provider odpovedá na otázku:

Kam request pošlem?

Access režim odpovedá:

Akým spôsobom k tejto AI službe pristupujem?

Toto oddelenie umožňuje OS Layeru robiť routing oveľa rozumnejšie.

Používateľ si môže zvoliť politiku

AI už podporuje napríklad:

ai use access free
ai use access api

a zároveň vie pracovať s provider registry a explicitným providerom či modelom.

To znamená, že OS Layer nemusí byť navždy zviazaný s jednou firmou, jedným endpointom ani jedným spôsobom platenia.

Môžem používať lokálny inference, free cloud, subscription službu alebo klasické API podľa toho, čo je práve vhodné.

Cieľ nie je ďalší AI launcher

Cieľom nie je vytvoriť ďalší wrapper nad desiatimi AI API.

OS Layer sa snaží oddeliť:

model
provider
execution location
access policy
credentials

tak, aby sa tieto veci dali meniť nezávisle.

A to je podľa mňa podstatne zaujímavejšie než jednoduché prepínanie modelov.

Dnes sme sa dostali do bodu, keď „cloud AI“ už v OS Layeri neznamená automaticky platené API.

Môže to byť free cloud cez OpenRouter, subscription, klasické API alebo úplne lokálny model.

A všetky tieto vetvy môžu používať rovnaké OS Layer AI rozhranie.