JetBrains Mellum2.1: otwarty model MoE 12B do agentów kodujących z uczeniem przez wzmacnianie
W skrócie
- JetBrains udostępnił na licencji Apache 2.0 model Mellum2.1 o architekturze MoE z 12 miliardami parametrów, aktywujący 2,5 miliarda parametrów na token.
- Kluczową nowością jest przeniesienie uczenia przez wzmacnianie z krótkiego etapu końcowego do głównej fazy treningu, co podniosło wynik SWE-bench Verified z 2,0 do 47,0.
- Model osiąga 82,0 punktów na LiveCodeBench v6, wyprzedzając Qwen3.5-9B (75,4) i Gemma 4 E4B (69,4), lecz pozostaje za Qwen3.5-9B w trudniejszych zadaniach agentowych.
JetBrains opublikował Mellum2.1 marktechpost.com— otwarty model językowy przeznaczony do agentów kodujących i szybkich pod-agentów. To następca Mellum2 Thinking, który firma udostępniła w czerwcu 2026 roku. Nowy checkpoint nosi nazwę Mellum2.1-12B-A2.5B-Thinking i jest dostępny na platformie Hugging Face na licencji Apache 2.0.
Architektura: MoE z aktywną częścią parametrów
Mellum2.1 to model typu mieszaniny ekspertów (MoE) z łączną liczbą 12 miliardów parametrów, z których na każdy token aktywowane jest 2,5 miliarda. Model ma 28 warstw i 64 ekspertów — router wybiera 8 z nich dla każdego tokenu. Mechanizm uwagi oparty jest na grupowym zapytaniu (grouped-query attention) z 32 głowicami zapytań i 4 głowicami klucz-wartość. Trzy z każdych czterech warstw korzystają z przesuwnego okna kontekstowego o długości 1 024 tokenów, a całkowita długość kontekstu wynosi 131 072 tokeny. Słownik obejmuje 98 304 tokeny, a wagi zapisano w formacie bfloat16 marktechpost.com.
Architektura pozostała niezmieniona względem Mellum2. Cała istotna praca skupiła się na etapie po-treningu.
Uczenie przez wzmacnianie jako główna faza treningu
Najważniejsza zmiana w Mellum2.1 to reorganizacja procesu treningu: uczenie przez wzmacnianie (RL) przestało być krótkim etapem końcowym i stało się główną częścią całego procesu. JetBrains rozszerzył zadania RL o matematykę, programowanie konkursowe, nauki ścisłe, korzystanie z narzędzi oraz inżynierię oprogramowania marktechpost.com.
W przypadku zadań z inżynierii oprogramowania model trenował w prawdziwych repozytoriach, mając dostęp do powłoki systemowej i narzędzi do edycji plików. Nagroda była przyznawana wtedy, gdy testy jednostkowe przechodziły pomyślnie. Trening wymagał uruchomienia milionów izolowanych środowisk (sandboxów) w tysiącach różnych konfiguracji. Dane RL były dodatkowo filtrowane pod kątem uszkodzonych testów, niemożliwych do zweryfikowania odpowiedzi oraz zadań zbyt łatwych lub niemożliwych do rozwiązania marktechpost.com.
Wyniki na benchmarkach
JetBrains oceniał Mellum2.1 w porównaniu z Mellum2, Qwen3.5-9B i Gemma 4 E4B, stosując jeden wspólny potok w trybie myślenia (thinking mode). Wszystkie wyniki są samodzielnie raportowane przez JetBrains marktechpost.com.
Największy skok widać w zadaniach agentowego kodowania:
- SWE-bench Verified: wzrost z 2,0 do 47,0
- SWE-bench Pro: wzrost z 0,0 do 28,0
- Terminal-Bench 2.1: wzrost z 0,6 do 17,4
Ogólnie Mellum2.1 pokonuje swojego poprzednika na 15 z 17 uwzględnionych benchmarków. W porównaniu z Qwen3.5-9B wygrywa na 5 z 17 testów marktechpost.com.
Najmocniejszy wynik to 82,0 punktów na LiveCodeBench v6, co wyprzedza Qwen3.5-9B (75,4) i Gemma 4 E4B (69,4). Najsłabszym punktem pozostaje Terminal-Bench 2.1 z wynikiem 17,4 — poniżej Qwen3.5-9B (21,7). Uruchomienia agentowe przeprowadzono z użyciem otwartego narzędzia Pi v0.73.1 przy kontekście 114K tokenów marktechpost.com.
Uruchamianie i wdrożenie
Model można uruchomić samodzielnie na własnych kartach graficznych za pomocą vLLM lub SGLang — testy przepustowości przeprowadzono na jednej karcie NVIDIA H200. Dostępne są również kompilacje GGUF o rozmiarze od 7,0 GB, kompatybilne z llama.cpp, Ollama i LM Studio marktechpost.com.
JetBrains wskazuje trzy główne zastosowania modelu: pracownik agentowy, ogólny asystent rozumowania oraz prywatne wdrożenie na własnej infrastrukturze.
Co to oznacza
Mellum2.1 wpisuje się w wyraźny trend, w którym firmy narzędziowe dla programistów — takie jak JetBrains — przestają polegać wyłącznie na zewnętrznych modelach i budują własne, wyspecjalizowane systemy AI. Udostępnienie modelu na licencji Apache 2.0 oznacza, że każda firma lub zespół deweloperski może go wdrożyć wewnętrznie bez opłat licencyjnych i bez przesyłania kodu do zewnętrznych serwerów — co jest istotne szczególnie dla organizacji z rygorystycznymi wymaganiami dotyczącymi prywatności danych.
Skok wyniku SWE-bench Verified z 2,0 do 47,0 to zmiana jakościowa, a nie jedynie ilościowa. Pokazuje, że trening w prawdziwych repozytoriach z weryfikacją przez testy jednostkowe skutecznie przekłada się na zdolność modelu do samodzielnego rozwiązywania realnych zadań programistycznych — nie tylko generowania kodu, ale też jego weryfikacji i poprawiania.
Dla polskich zespołów deweloperskich i firm technologicznych Mellum2.1 jest interesującą opcją jako lekki, samodzielnie hostowany model agentowy. Przy rozmiarze GGUF od 7,0 GB mieści się w możliwościach sprzętowych wielu organizacji, które nie dysponują dużymi klastrami GPU. Jednocześnie wyraźna słabość w zadaniach terminalowych (Terminal-Bench 2.1: 17,4 wobec 21,7 dla Qwen3.5-9B) sugeruje, że model najlepiej sprawdzi się w środowiskach z dobrze zdefiniowanymi testami, a nie w swobodnych zadaniach systemowych.
Szerszy kontekst
Tak. JetBrains udostępnił go na licencji Apache 2.0, tej samej, na której w kwietniu 2025 roku opublikowano oryginalny Mellum oraz wydanie Mellum-all, które po nim nastąpiło.
Model ma 28 warstw i 64 eksperty. Router aktywuje 8 ekspertów na token.
Cztery miesiące później Mellum2.1 rozwija tę samą architekturę w kierunku zastosowań agentowych, czyniąc uczenie przez wzmacnianie rdzeniem treningu, a nie dodatkiem.
W trybie pojedynczych żądań model niemal dokładnie dorównuje Qwen2.5-7B: 192 tokeny na sekundę wobec 193. Przy równoczesnym obciążeniu, czyli w warunkach, w jakich faktycznie pracują wdrożenia produkcyjne, wyprzedza Qwen2.5-7B o 21%, a Qwen3-8B o 79%.
Analiza
Najważniejszy wniosek dotyczy metody, a nie samego modelu. Architektura Mellum2.1 jest identyczna jak w Mellum2 (marktechpost.com), więc skok w SWE-bench Verified z 2,0 do 47,0 wynika niemal w całości z treningu. Uczenie przez wzmacnianie w prawdziwych repozytoriach, z nagrodą za przejście testów jednostkowych, okazało się skuteczniejszą drogą do agentów kodujących niż zwiększanie samego modelu. To kontekst dla całej branży: według tech-insider.org oryginalny Mellum z października 2024 roku był gęstym modelem do uzupełniania kodu w kilku językach, a obecna wersja jest szerszym fundamentem dla agentów. JetBrains, znany głównie z IDE, wyraźnie przesuwa się więc od podpowiedzi w edytorze do budowy warstwy agentowej. Mellum2 został udostępniony 2 czerwca 2026 roku (shattered.io).
Warto jednak zachować ostrożność. Wszystkie wyniki pochodzą od samego JetBrains. W tabeli porównawczej (marktechpost.com) Qwen3.5-9B osiąga w SWE-bench Verified 50,0, czyli więcej niż Mellum2.1 z wynikiem 47,0. Qwen ma też natywny kontekst 262 144 tokenów wobec 131 072 w Mellum2.1. Przewaga, którą firma podkreśla, dotyczy więc raczej wybranych testów (5 z 17 w porównaniu z Qwen3.5-9B) niż całego zestawu. Dane o szybkości z thenewstack.io (192 tokeny na sekundę przy pojedynczym żądaniu wobec 193 dla Qwen2.5-7B, a o 21% szybciej pod obciążeniem) odnoszą się do Mellum2, a nie do wersji 2.1, i nie należy ich przenosić wprost na nowy checkpoint.
Dla polskich zespołów najważniejsza jest kombinacja licencji Apache 2.0, 2,5 mld aktywnych parametrów i wag GGUF od 7,0 GB. Pozwala to uruchomić agenta na własnej infrastrukturze, bez przesyłania kodu na zewnętrzne serwery, co ma znaczenie w firmach z wymogami dotyczącymi danych. Rozsądnie jest jednak potraktować go jako kandydata do testów na własnym kodzie, zwłaszcza w zadaniach terminalowych, gdzie wynik 17,4 w Terminal-Bench 2.1 jest słabszy niż 21,7 dla Qwen3.5-9B (marktechpost.com).