Newsy · Ollama

Ollama 0.31: Gemma 4 na Macu prawie o 90% szybsza dzięki MTP i MLX

Właściciele Maców dostali za darmo dużo szybszą Gemmę 4. Wystarczy aktualizacja i ponowne pobranie modelu.

Spis · 5Co nowego w Ollamie 0.31?

Co nowego w Ollamie 0.31?

Wersja v0.31.0 trafiła na GitHuba 29 czerwca 2026 r. Tego samego dnia Ollama opisała na blogu główną nowość: przewidywanie wielu tokenów (multi-token prediction, MTP) dla Gemmy 4 w silniku MLX na Macach z Apple Silicon.

Zwykle model generuje jeden token (kawałek słowa) na krok. Przy MTP szybko przygotowuje szkic kilku kolejnych tokenów, a główny model sprawdza je za jednym razem. Gdy szkic jest trafny, kilka tokenów przybywa w czasie jednego kroku.

Według Ollamy Gemma 4 generuje w ten sposób prawie o 90% szybciej. Pomiar podany przez Ollamę: zadania Aider polyglot, Gemma 4 12B w formacie NVFP4, Mac z M5 Max. Funkcja jest włączona domyślnie, długość szkicu dobierana automatycznie, a wynik ma być identyczny jak bez MTP.

Czym jest MLX i NVFP4 w Ollamie?

MLX to biblioteka Apple do obliczeń na układach M. 11 czerwca 2026 r. Ollama ogłosiła najszybszą dotąd wersję na Apple Silicon opartą na MLX. Doszła obsługa NVFP4, 4-bitowego formatu zapisu wag opracowanego przez NVIDIA. Według Ollamy na Gemmie 4 12B NVFP4 mniej więcej o połowę zmniejsza utratę jakości przy kwantyzacji do 4 bitów w porównaniu z popularnym q4_K_M. Ollama podaje też do 20% wyższą szybkość i nowy system zapamiętywania początku rozmowy, przydatny dla agentów.

Co to zmienia dla ciebie?

Jeśli masz Maca z Apple Silicon, zaktualizuj Ollamę i pobierz model ponownie – stara kopia nie zawiera elementów potrzebnych do MTP:

ollama pull gemma4:12b-mlx

Potem uruchamiasz go jak zwykle:

ollama run gemma4:12b-mlx

Plik ma 7,7 GB według ollama.com, więc wygodnie zmieści się na Macu z 16 GB pamięci. Na Windowsie i Linuksie z kartą NVIDIA ten wpis niczego nie zmienia: używasz zwykłego ollama run gemma4:12b.

Ollama działa też jako most do agentów kodujących: komenda ollama launch z nazwą narzędzia i parametrem --model podłącza lokalny model do programów takich jak Claude Code czy Codex.

Co jeszcze wydarzyło się w Ollamie w 2026 r.?

9 lipca 2026 r. Ollama ogłosiła zebranie 88 mln dolarów (m.in. Benchmark, Theory Ventures, 8VC, Y Combinator). Firma podaje 8,9 mln programistów korzystających z narzędzia i użycie w 85% firm z listy Fortune 500. Rośnie też płatna chmura Ollamy.

Uwaga: modele chmurowe pojawiają się w tym samym programie co lokalne. Tagi kończące się na -cloud lub :cloud wysyłają twoje zapytania na serwery Ollamy. Jeśli zależy ci na prywatności, pobieraj tagi bez tej końcówki.

Kolejne wersje przyniosły m.in. obsługę Mety Muse Glimmer (10 sierpnia) i model NVIDIA Nemotron 3.5 Super w v0.40.5 (15 października). Najnowsza stabilna wersja w chwili publikacji to v0.40.7 z 18 października 2026 r. Inne modele do uruchomienia w Ollamie znajdziesz w katalogu.

Ollama pozostaje darmowa przy uruchamianiu modeli lokalnie. Runda finansowania i rozwój chmury oznaczają jednak, że warto przy każdej komendzie patrzeć na tag: lokalny model działa bez internetu i bez limitów, chmurowy – na warunkach usługi.

Najczęstsze pytania

Czy MTP w Ollamie pogarsza odpowiedzi?

Według Ollamy nie: wynik jest taki sam jak bez MTP, zmienia się tylko szybkość. Funkcja jest włączona domyślnie, a długość szkicu dobierana automatycznie.

Czy przyspieszenie działa na Windowsie i kartach NVIDIA?

Opisane przyspieszenie dotyczy silnika MLX, czyli Maców z Apple Silicon. Ollama nie podała w tym wpisie podobnych wyników dla Windowsa i kart NVIDIA.

Jak sprawdzić wersję Ollamy?

W terminalu wpisz ollama -v. MTP dla Gemmy 4 wymaga co najmniej wersji 0.31; najnowsza stabilna w chwili publikacji to v0.40.7 z 18 października 2026 r.

Źródła

5 pozycji
  1. Faster Gemma 4 on MLX with multi-token prediction (Ollama blog) ollama.com
  2. Ollama v0.31.0 (GitHub releases) github.com
  3. Ollama's highest performance on Apple Silicon yet with MLX (Ollama blog) ollama.com
  4. Ollama: all aboard open models (Ollama blog) ollama.com
  5. Ollama releases (GitHub) github.com