AI API / deep divesInformational
Model routing prin LongDay
LongDay ruleaza model routing per cheie cu whitelist și fallback.
Raspuns scurt
Model routing pe LongDay se face declarativ: cheia are whitelist de modele permise, fallback configurat per cheie și modul de routing (timp de răspuns / cost / preferred).
Problema concreta
Aplicatiile fără model routing se blocheaza când un provider cade. Hardcodarea modelului in cod face dificila schimbarea când apare optiune mai buna.
Cum o rezolva LongDay
Pe LongDay, definesti whitelist + fallback pentru cheia ta. Aplicatia ta cere `gpt-5.4-mini`; dacă acel model are 429 sau cade, gateway-ul folosește fallback. Tu nu redeployezi.
Fluxuri uzuale
- Cheia cu whitelist [primary, fallback].
- Aplicatia cere modelul primar.
- Gateway transparent face fallback la incident.
- Audit log arată când fallback-ul a fost folosit.
| Control | De ce conteaza |
|---|---|
| Declarativ | Configurare in cheie, nu in cod. |
| Transparent | Aplicatia nu stie ca s-a facut fallback. |
| Audit | Vezi când fallback-ul a salvat un raspuns. |
Reguli si limite
- Schimbare comportament. Fallback-ul poate da raspunsuri diferite; testeaza inainte.
- Cost. Fallback la model scump crește costul; alege fallback ieftin.
- Schema. Modele diferite raspund diferit la prompts complexe.
Integrare rapida
Foloseste endpointul https://api.longday.io/v1, trimite cheia caAuthorization: Bearer <router_api_key> si verifica pagina/modelsinainte de productie.