Newsy · Ollama
Ollama 0.31: Gemma 4 na Macu prawie o 90% szybsza dzięki MTP i MLX
Właściciele Maców dostali za darmo dużo szybszą Gemmę 4. Wystarczy aktualizacja i ponowne pobranie modelu.
Spis · 5Co nowego w Ollamie 0.31?
Co nowego w Ollamie 0.31?
Wersja v0.31.0 trafiła na GitHuba 29 czerwca 2026 r. Tego samego dnia Ollama opisała na blogu główną nowość: przewidywanie wielu tokenów (multi-token prediction, MTP) dla Gemmy 4 w silniku MLX na Macach z Apple Silicon.
Zwykle model generuje jeden token (kawałek słowa) na krok. Przy MTP szybko przygotowuje szkic kilku kolejnych tokenów, a główny model sprawdza je za jednym razem. Gdy szkic jest trafny, kilka tokenów przybywa w czasie jednego kroku.
Według Ollamy Gemma 4 generuje w ten sposób prawie o 90% szybciej. Pomiar podany przez Ollamę: zadania Aider polyglot, Gemma 4 12B w formacie NVFP4, Mac z M5 Max. Funkcja jest włączona domyślnie, długość szkicu dobierana automatycznie, a wynik ma być identyczny jak bez MTP.
Czym jest MLX i NVFP4 w Ollamie?
MLX to biblioteka Apple do obliczeń na układach M. 11 czerwca 2026 r. Ollama ogłosiła najszybszą dotąd wersję na Apple Silicon opartą na MLX. Doszła obsługa NVFP4, 4-bitowego formatu zapisu wag opracowanego przez NVIDIA. Według Ollamy na Gemmie 4 12B NVFP4 mniej więcej o połowę zmniejsza utratę jakości przy kwantyzacji do 4 bitów w porównaniu z popularnym q4_K_M. Ollama podaje też do 20% wyższą szybkość i nowy system zapamiętywania początku rozmowy, przydatny dla agentów.
Co to zmienia dla ciebie?
Jeśli masz Maca z Apple Silicon, zaktualizuj Ollamę i pobierz model ponownie – stara kopia nie zawiera elementów potrzebnych do MTP:
ollama pull gemma4:12b-mlx
Potem uruchamiasz go jak zwykle:
ollama run gemma4:12b-mlx
Plik ma 7,7 GB według ollama.com, więc wygodnie zmieści się na Macu z 16 GB pamięci. Na Windowsie i Linuksie z kartą NVIDIA ten wpis niczego nie zmienia: używasz zwykłego ollama run gemma4:12b.
Ollama działa też jako most do agentów kodujących: komenda ollama launch z nazwą narzędzia i parametrem --model podłącza lokalny model do programów takich jak Claude Code czy Codex.
Co jeszcze wydarzyło się w Ollamie w 2026 r.?
9 lipca 2026 r. Ollama ogłosiła zebranie 88 mln dolarów (m.in. Benchmark, Theory Ventures, 8VC, Y Combinator). Firma podaje 8,9 mln programistów korzystających z narzędzia i użycie w 85% firm z listy Fortune 500. Rośnie też płatna chmura Ollamy.
Uwaga: modele chmurowe pojawiają się w tym samym programie co lokalne. Tagi kończące się na -cloud lub :cloud wysyłają twoje zapytania na serwery Ollamy. Jeśli zależy ci na prywatności, pobieraj tagi bez tej końcówki.
Kolejne wersje przyniosły m.in. obsługę Mety Muse Glimmer (10 sierpnia) i model NVIDIA Nemotron 3.5 Super w v0.40.5 (15 października). Najnowsza stabilna wersja w chwili publikacji to v0.40.7 z 18 października 2026 r. Inne modele do uruchomienia w Ollamie znajdziesz w katalogu.
Ollama pozostaje darmowa przy uruchamianiu modeli lokalnie. Runda finansowania i rozwój chmury oznaczają jednak, że warto przy każdej komendzie patrzeć na tag: lokalny model działa bez internetu i bez limitów, chmurowy – na warunkach usługi.
Najczęstsze pytania
Czy MTP w Ollamie pogarsza odpowiedzi?
Według Ollamy nie: wynik jest taki sam jak bez MTP, zmienia się tylko szybkość. Funkcja jest włączona domyślnie, a długość szkicu dobierana automatycznie.
Czy przyspieszenie działa na Windowsie i kartach NVIDIA?
Opisane przyspieszenie dotyczy silnika MLX, czyli Maców z Apple Silicon. Ollama nie podała w tym wpisie podobnych wyników dla Windowsa i kart NVIDIA.
Jak sprawdzić wersję Ollamy?
W terminalu wpisz ollama -v. MTP dla Gemmy 4 wymaga co najmniej wersji 0.31; najnowsza stabilna w chwili publikacji to v0.40.7 z 18 października 2026 r.