NND LAB #003
Lokalne AI na tanim komputerze
Ile tokenów na sekundę wyciśniesz z modelu 7B na maszynie za 600 zł, bez karty graficznej?
WYNIK
Model 7B w kwantyzacji Q4: 4–6 tokenów/s. Do notatek wystarczy, do czatu na żywo już nie.
2026-07-29 • STATUS: ZAKOŃCZONY
Testowałem na używanym desktopie z i5 6. generacji i 16 GB RAM.
bash
ollama run llama3.2:3b --verbose❗ WAŻNE
RAM jest ważniejszy niż procesor. 8 GB to sufit dla modeli 3B.
Najczęstsze pytania
- Czym jest test NND LAB #003?
- To eksperyment „Lokalne AI na tanim komputerze” przeprowadzony w NND LAB — praktyczny test na własnym sprzęcie, a nie opis teoretyczny.
- Jaki był wynik testu?
- Model 7B w kwantyzacji Q4: 4–6 tokenów/s. Do notatek wystarczy, do czatu na żywo już nie.
- Czy test jest aktualny?
- Wpis pochodzi z 2026-07-29, a jego status to ZAKOŃCZONY. Sprzęt i wersje oprogramowania mogą wpływać na wyniki u Ciebie.