Batch API — /v1/batches la 50% preț
Rulezi batch async jobs (clasificare, enrichment, evaluare) cu 50% discount vs real-time. SLA 24h.
Raspuns scurt
LongDay expune /v1/batches compat OpenAI Batch API. Pui un fișier JSONL cu N request-uri, primești rezultatele în max 24h la 50% din prețul real-time. Ideal pentru enrichment nightly, evaluare setup, classification bulk.
Problema concreta
Workflow-urile batch (100K-10M rânduri de clasificare, enrichment sau evaluare) sunt costisitoare la prețul real-time. Real-time cere latency mică; batch nu are constrângere de latency.
Cum o rezolva LongDay
Trimiti fișier JSONL cu N request-uri prin /v1/batches. Primești un batch_id și un status endpoint. Rezultatele apar în /v1/batches/{id}/output când sunt gata. Preț: 50% real-time.
Fluxuri uzuale
- Pregătești JSONL cu până la 50k requests/fișier.
- Upload prin /v1/files apoi POST /v1/batches.
- Poll GET /v1/batches/{id} sau webhook.
- Download output când status=completed.
| Control | De ce conteaza |
|---|---|
| 50% discount | Preț input + output = 50% din tier standard. |
| SLA 24h | Majoritatea batch-urilor gata în <2h. |
| OpenAI-compat | Format JSONL identic cu OpenAI. |
Reguli si limite
- Latency. Nu pentru realtime; jobs completate în ore, nu secunde.
- Modele suportate. Chat completions + embeddings; verifică /models tier=batch.
- Retenție output. Fișiere output disponibile 7 zile, apoi șterse.
Integrare rapida
Foloseste endpointul https://api.longday.io/v1, trimite cheia caAuthorization: Bearer <router_api_key> si verifica pagina/modelsinainte de productie.