01 – MACIERZ 3×3 (6 Z 9 KOMBINACJI)
Format wyniku, nie obietnica rankingu
Poniżej format tabeli harnessu v0.1 – liczby ilustracyjne, a nie ranking. Przykładowa baza klasy ~32–40B. VRAM 4k = wagi + KV@4k + rezerwa CUDA; format ilustracyjny, a nie pomiar.
Pokazano 6 z 6 wierszy.
| Wariant | Kwant | Budżet | pass@1* (dane ilustracyjne) | tok./zap. (dane ilustr.) | VRAM 4k (dane ilustr.) |
|---|---|---|---|---|---|
| A (przykład) – baza Q8 | Q8_0 | low | 61 | 420 | 38 GB |
| B (przykład) – baza Q4_K_M | Q4_K_M | low | 58 | 420 | 22 GB |
| C (przykład) – baza IQ2_XS | IQ2_XS | low | 51 | 420 | 14 GB |
| B – high | Q4_K_M | high 4× | 64 | 1680 | 22 GB |
| B – best-of-8 + weryfikator | Q4_K_M | best-of-8 (≈10×) | 66 | 4200 | 22 GB |
| C – high | IQ2_XS | high 4× | 56 | 1680 | 14 GB |
*Format ilustracyjny harnessu v0.1 na paczce PL v0.1 (n=40; 95% CI dla pass@1 to około ±15 pkt – różnice +5–8 pkt ilustrują kształt krzywej, nie ranking). Zysk z budżetu zależy od kwantu; tu +6 pkt (B) i +5 pkt (C) – w granicach szumu przy n=40. Best-of-8: 8 generacji + weryfikator ≈10× tokenów łącznie. Nie traktuj tego jako rankingu bez pełnego artefaktu. Szkielet tabeli pokazany poglądowo; przedmiotem sprzedaży jest wyłącznie domena dajwers.pl. Kup dajwers.pl →
02 – REJESTR 2026 (7 MODELI OTWARTYCH)
Przykłady formatu (dane ilustracyjne)
Karty producentów, a nie pomiar harnessu; parametry deklarowane, a nie pomiar. Qwen3.5, Mistral 7B, Falcon, DeepSeek V2/V3 to tło historyczne – poniżej tylko przykłady formatu. Nazwy należą do właścicieli.
Pokazano 7 z 7 wierszy.
| Model (REV) | Architektura | Atencja | Kontekst | Licencja | TAGi |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash (2026-09-10) | MoE 552B, 8B/16B act. | CSA2, FP4 890 B/tok | 1M | MIT | moe csa2 1M |
| Qwen3.8 Max (2026-08-01) | MoE 2.4T, 95B act. | GQA-klasa | 1M-hosted / 262K-open | Qwen-max custom | moe 1M hybrid |
| GLM-5.3 (2026-08-18) | MoE, coding | DSA | 1M | GLM-5.3 Lic. (custom) | moe dsa 1M |
| GLM-5.3 Flash (2026-08-26) | MoE 320B/18B, multi | DSA | 1M | MIT | moe 1M fp8 |
| Kimi K3 (2026-07-16 / wagi 2026-07-27) | MoE 2.8T/104B | KDA + Gated MLA | 1M | Kimi K3 Lic. (custom) | moe kda-mla 1M |
| MiMo-V2.6-Pro (2026-09-21) | MoE 1.02T/42B, 70L | SWA+GA 60/10 | 1M | MIT | moe swa-ga 1M |
| Qwen3.8-Flash-Next (2026-08-26) | MoE 125B/6B +51B n-gram | GDN+QSA 3:1 | 262K→1M | Qwen Community 1.0 | moe qsa-gdn 262K |
Rejestr modeli otwartych (7 modeli, parametry deklarowane, a nie pomiar harnessu; dane ilustracyjne). Dobór kart na arkusz, a nie kanon roku 2026.
03 – MTP / SPECULATIVE (dane ilustracyjne)
Dobudówka dekodowania w osi A4
Mały model roboczy (draft) proponuje kilka tokenów, duży je weryfikuje w jednym przebiegu. Np. draft 1B, accept ~70% → ~1.5× szybciej (ilustr.). We wdrożeniu to pozycja w osi A4: ten sam format wag, inny koszt na 1M tokenów (dane ilustracyjne; parametry deklarowane, nie pomiar).
04 – FERTILITY PL
Tokenizator też wpływa na koszt
| 1,31 | tok/słowo – model X | Przykład formatu: zdanie „Zażółć gęślą jaźń nad Wisłą” (5 słów) liczy tu ≈7 tokenów zamiast ≈9. Fertility mówi, na ile kawałków tokenizator dzieli średnio jedno słowo. |
| 1,78 | tok/słowo – model Y | Ten sam tekst, droższy o 36% w przeliczeniu na 1M tokenów po polsku (1,36×). Stąd osobna kolumna kosztu dla polszczyzny. |
W tabeli 1,36× różnicy; skrajne pary ilustr. do ≈2× (nie pomiar; tu 1,36×).
05 – AWQ / GPTQ (GPU) A GGUF (CPU)
Kiedy GGUF, kiedy AWQ/GPTQ
| Dylemat | Zasada | Zapis |
|---|---|---|
| GGUF (lokalnie/CPU, llama.cpp) czy AWQ/GPTQ (GPU, vLLM) | Lokalnie i na CPU – GGUF; na GPU pod serwowanie (serving) – AWQ albo GPTQ | W4A16 g128 (wagi 4 bity, aktywacje (activations) 16 bitów, grupa 128); AWQ chroni ok. 0,1–1% wag istotnych (salient weights) przez skalowanie według aktywacji (dane ilustr., 2026) |
Wiersz orientacyjny, nie pomiar: ten sam rząd wielkości modelu, inny format wag pod inne wnioskowanie (inference). GPTQ liczy rekonstrukcję warstwami, AWQ skaluje kanały – oba zwykle W4A16 g128.
06 – CENY $/1M (ILUSTR., 2026)
Ile kosztuje 1M tokenów
| Model (ilustr., 2026) | Wejście $/1M | Wyjście $/1M | Cache $/1M | Batch |
|---|---|---|---|---|
| GPT-5.6-Sol | 4,00 | 20,00 | 0,40 | −50% |
| Claude Sonnet 5 | 2,00 | 10,00 | 0,20 | −50% |
| GPT-6 Astra | 10,00 | 50,00 | 1,00 | −50% |
| Gemini 3.8 Flash | 0,75 | 3,75 | 0,075 | −50% |
| GPT-5 mini | 0,25 | 2,00 | 0,025 | −50% |
Cenniki ofertowe, nie pomiar harnessu (ilustr., 2026; sprawdź kartę dostawcy w dniu wyceny). Reguła: odczyt z pamięci podręcznej (cached input) ok. −75–90% (tu −90%), tryb wsadowy (batch) ok. −50%, wyjście zwykle 3–5× droższe od wejścia. Do tego dokłada się reguła z §04: koszt polszczyzny × fertility, tu 1,36×.
07 – BATCH + PREFIX-CACHE
Czemu ten sam model ma inny koszt na 1M
Serwer dokleja zapytania na bieżąco (grupowanie ciągłe, continuous batching) i nie liczy dwa razy wspólnego wstępu: flaga enable_prefix_caching (--enable-prefix-caching) trzyma policzone bloki KV dla identycznego prefiksu, a stronicowana uwaga (PagedAttention) układa te bloki w pamięci jak strony, bez kopiowania całości. Zysk dotyczy wczytywania podpowiedzi (prefill), nie dopisywania odpowiedzi (decode) – stąd ten sam model w osi A4 raz kosztuje pełną stawkę wejścia, a raz stawkę pamięci podręcznej albo wsadową. Warunek: prefiks musi być co do tokena identyczny (białe znaki też).
08 – DESTYLACJA (DISTILLATION) I ADAPTERY
Mały rozumujący po destylacji; baza + adapter
| 1,5–32B | R1-Distill: mały rozumujący | Wariant po destylacji (distillation): uczeń 1,5B–32B (obok 70B) uczony na ok. 800 tys. próbek rozumowania nauczyciela R1; kod pod MIT, wagi na bazach Qwen dziedziczą Apache 2.0 (dane ilustr., 2026). Sens wariantu: budżet rozumowania z arkusza 13.3 w małym ciele – tańszy token przy zachowanym śladzie rozumowania. |
| 4-bit | LoRA / QLoRA w serwowaniu | Baza zamrożona (frozen), często w 4 bitach (QLoRA), plus mały adapter (adapter) niskiego rzędu na zadanie; wiele adapterów na jednej bazie, wybieranych na żądanie (per-request). Flagami vLLM: --enable-lora --lora-modules nazwa=ścieżka --max-loras N --max-lora-rank R (dane ilustr., 2026). |
09 – DROBNE: DRABINA, KONTEKST, LICENCJE
Trzy dopiski do rejestru
Drabina GGUF od największego: Q8_0 → Q6_K → Q5_K_M → Q4_K_M → Q3_K_M → Q2_K / IQ2_XS; bpw to bity na wagę (bits per weight), imatrix to macierz ważności (importance matrix) z kalibracji, K to klasyczne kwanty, I to kwanty pod imatrix (zwykle mniejsze przy tej samej jakości). Kotwica kontekstu: 128K to próg „długiego okna”, rejestr wyżej siedzi na 262K–1M, a horyzont ofert sięga 2M/4M (ilustr., 2026) – przed wyceną sprawdź kartę modelu. Licencje: wspólnota Llamy (Llama Community) wymaga prośby o licencję Mety powyżej 700 mln użytkowników miesięcznie (monthly active users, MAU); Qwen do 32B (Qwen3, w tym 27B) – Apache 2.0, a Max i pochodne (custom) osobno.