Сервис жұмысының көрсеткіштері
AI Router трафик статистикасы
Шлюз арқылы өтіп жатқан нақты трафиктің тірі суреті — токен көлемі, модельдер мен провайдерлер үлесі, кідіріс пайыздары, жүктеме санаттары. Күн сайын жаңартылады.
Токен өңделді
181.65B
-3.9%өткен кезеңмен салыстырғанда
API сұраулар
31.3M
-4.6%өткен кезеңмен салыстырғанда
Белсенді модельдер
15
Белсенді провайдерлер
14
Күндік токен көлемі
Барлық модельдер мен провайдерлер бойынша жинақталған
Провайдер үлесі
Жалпы трафиктегі әр провайдердің үлесі
- google28.5%
- anthropic27.9%
- openai22.7%
- deepseek8.4%
- mistral4.4%
- cerebras3.5%
- xai2.4%
- moonshot2.3%
Жүктеме санаттары
Клиенттер шлюзді қалай қолданады
- Программалау63.5% · 23.63B
- Жалпы25.4% · 9.46B
- Reasoning6.5% · 2.43B
- Агенттер / Tool use4.6% · 1.70B
Үздік модельдер
Таңдалған кезеңдегі токен көлемі бойынша
| # | Модель | Провайдер | Сұраулар | Токен | Үлес |
|---|---|---|---|---|---|
| 1 | Claude Sonnet 4.6 | anthropic | 830K | 6.95B | 21.4% |
| 2 | Gemini 3 Pro | 558K | 5.25B | 16.2% | |
| 3 | GPT-5.4 | openai | 692K | 3.66B | 11.3% |
| 4 | Gemini 3 Flash | 491K | 3.64B | 11.2% | |
| 5 | GPT-5.5 | openai | 463K | 2.44B | 7.5% |
| 6 | Claude Opus 4.7 | anthropic | 302K | 2.04B | 6.3% |
| 7 | DeepSeek V3.2 | deepseek | 352K | 1.88B | 5.8% |
| 8 | DeepSeek R1.1 | deepseek | 168K | 1.00B | 3.1% |
| 9 | Gemini 3 Flash-Lite | 267K | 929.50M | 2.9% | |
| 10 | Mistral Large 3 | mistral | 152K | 919.59M | 2.8% |
| 11 | Llama 4 Scout (Cerebras) | cerebras | 226K | 876.99M | 2.7% |
| 12 | o4-mini | openai | 155K | 853.81M | 2.6% |
| 13 | Kimi K2 | moonshot | 106K | 792.76M | 2.4% |
| 14 | Claude Haiku 4.5 | anthropic | 138K | 608.72M | 1.9% |
| 15 | Command A | cohere | 118K | 607.68M | 1.9% |
Провайдер кідірістері
Time-to-first-token (мс) процентильдері
| Провайдер | p50 | p90 | p99 | Tokens/sec |
|---|---|---|---|---|
| cerebras | 117 | 215 | 373 | 1815 |
| groq | 174 | 310 | 543 | 606 |
| fireworks | 377 | 716 | 1373 | 172 |
| deepinfra | 421 | 801 | 1540 | 157 |
| mistral | 428 | 795 | 1549 | 94 |
| together | 446 | 832 | 1583 | 161 |
| 468 | 887 | 1675 | 138 | |
| openai | 510 | 941 | 1785 | 106 |
| cohere | 530 | 962 | 1787 | 98 |
| xai | 563 | 1086 | 2051 | 93 |
| deepseek | 657 | 1237 | 2243 | 60 |
| anthropic | 802 | 1460 | 2715 | 81 |
| moonshot | 847 | 1464 | 2350 | 60 |
| perplexity | 892 | 1624 | 2827 | 66 |
Барлық мәндер шлюз трафигі бойынша жинақталған. Нақты сұраныс мазмұны жарияланбайды. Әр 30 минут сайын жаңартылады.
ЖИ компанияңыз үшін жұмыс істесін
Міндеттеріңіз туралы айтыңыз. Модельдер мен қосылу шарттарын таңдаймыз.
Компанияны қосу