Infrastruktura IT i wdrożenia

Lokalne AI w firmie: jak uruchomić Bielika lub PLLuM na własnym serwerze GPU i kiedy to się opłaca

Lokalne AI w firmie: jak uruchomić Bielika lub PLLuM na własnym serwerze GPU i kiedy to się opłaca
9 listopada 2026|5 minut czytania
Spis treści

Lokalne AI to model językowy (LLM) uruchomiony na serwerze firmy, a nie w usłudze w chmurze. Pytania pracowników i dokumenty firmy nie opuszczają wtedy firmowej sieci. W Polsce najczęściej wybiera się polskie modele otwarte, takie jak Bielik czy PLLuM, uruchamiane narzędziami Ollama lub vLLM na serwerze z kartą GPU.

W skrócie

Lokalne AI chroni dane: nic nie trafia do zewnętrznego API.Bielik (SpeakLeash i ACK Cyfronet AGH) oraz PLLuM (konsorcjum HIVE z NASK na czele) to polskie modele, które można uruchomić u siebie.Ollama wystarcza na start i do testów. Do pracy wielu użytkowników naraz lepszy jest vLLM.Model 11B w kwantyzacji 4-bitowej zmieści się na karcie z 12 do 16 GB pamięci. Do pełnej precyzji potrzeba ok. 24 do 48 GB.Zasada kosztowa: eksperymenty i trening w chmurze, stała praca modelu (inferencja 24/7) u siebie.

Dlaczego firmy uruchamiają AI lokalnie?

  • Poufność danych. Umowy, dokumentacja techniczna, dane klientów i pracowników nie są wysyłane do zewnętrznego dostawcy. To upraszcza zgodność z RODO i tajemnicą przedsiębiorstwa.
  • Przewidywalne koszty. W chmurze płaci się za każde zapytanie lub godzinę GPU. Przy stałym użyciu przez cały zespół własny serwer szybko przestaje być droższy.
  • Niezależność. Model nie zniknie, nie zmieni cennika ani zasad korzystania z dnia na dzień.
  • Praca offline i niskie opóźnienia. Model działa także przy awarii łącza internetowego i odpowiada szybciej w sieci lokalnej.

Zainteresowanie rośnie: w Polsce liczba wyszukiwań frazy „lokalne ai” wzrosła w ciągu roku o 600%, a „lokalny llm” o 267% (Planer słów kluczowych Google Ads, 2026). Jednocześnie według Flexera 2026 to właśnie obciążenia AI podbiły marnotrawstwo wydatków na chmurę do 29% (TechInformed).

Polskie modele językowe: Bielik i PLLuM

Bielik

Bielik to rodzina otwartych modeli rozwijana przez fundację SpeakLeash we współpracy z ACK Cyfronet AGH. Główny model ma ok. 11 mld parametrów (seria v2 i v3), są też mniejsze wersje 1,5B i 4,5B przeznaczone na słabszy sprzęt (arXiv: Bielik v3 Small). W 2026 r. opisano też wariant Bielik-R nastawiony na rozumowanie (arXiv: Bielik-R). Modele są trenowane przede wszystkim na tekstach polskich, dzięki czemu dobrze radzą sobie z językiem urzędowym, prawnym i branżowym.

PLLuM

PLLuM (Polish Large Language Universal Model) to rodzina modeli rozwijana dla Ministerstwa Cyfryzacji przez konsorcjum HIVE, którego liderem jest NASK. Udostępniono m.in. wersje z 8 i 70 mld parametrów (NASK). Od końca 2025 r. PLLuM napędza wirtualnego asystenta w aplikacji mObywatel (iMagazine).

Ważne: przed wdrożeniem komercyjnym sprawdź licencję konkretnej wersji modelu na stronie Hugging Face. Część wersji ma licencje otwarte, część ogranicza użycie komercyjne.

Ollama czy vLLM: czym uruchomić model?

NarzędzieDo czegoZaletyOgraniczenia
OllamaStart, testy, małe zespoły, stacja robocza lub pojedynczy serwerInstalacja w kilka minut, gotowe modele, proste APIMniejsza przepustowość przy wielu użytkownikach naraz
vLLMProdukcja, wielu użytkowników, integracje z aplikacjamiWysoka przepustowość, efektywne zarządzanie pamięcią GPU, API zgodne z OpenAIWymaga więcej konfiguracji i wiedzy
llama.cppSłabszy sprzęt, także bez GPUDziała na CPU i małych kartach, modele w formacie GGUFWolniejsze odpowiedzi przy dużych modelach

Typowa ścieżka: zespół testuje model w Ollamie na jednym komputerze, a gdy sprawdzi się w pracy, przenosi go na serwer z vLLM i podłącza do firmowych aplikacji, np. wyszukiwarki dokumentów (RAG).

Jaki serwer GPU do lokalnego AI?

Najważniejszym parametrem jest pamięć karty graficznej (VRAM). Orientacyjnie model potrzebuje ok. 2 GB VRAM na każdy miliard parametrów w pełnej precyzji (FP16), ok. 1 GB w 8 bitach i ok. 0,5 do 0,6 GB w kwantyzacji 4-bitowej. Do tego trzeba doliczyć 20 do 30% zapasu na kontekst rozmowy. To szacunek, realne zużycie zależy od modelu i długości kontekstu.

ScenariuszModelPamięć GPU (orientacyjnie)Przykładowa konfiguracja
Test, jedna osobaBielik 4,5B lub 11B w 4 bitach8 do 16 GBStacja robocza z jedną kartą klasy konsumenckiej
Dział, kilkanaście osóbBielik 11B w 8 bitach lub FP1624 do 48 GBSerwer z jedną kartą profesjonalną 48 GB
Cała firma, wiele integracjiModel 70B w 4 bitach (np. PLLuM 70B)ok. 40 do 80 GBSerwer z dwiema kartami 48 GB lub jedną 80 GB

Poza GPU liczą się: szybki dysk NVMe na modele i dane, wystarczająca ilość RAM (zwykle co najmniej tyle, ile VRAM), zasilanie i chłodzenie. Karty profesjonalne pracujące 24/7 potrafią pobierać kilkaset watów każda, co trzeba uwzględnić w serwerowni lub w kolokacji.

Lokalnie czy w chmurze: kiedy co się opłaca?

SytuacjaLepiej lokalnieLepiej w chmurze
Model działa codziennie dla całego zespołuTak, stały koszt sprzętu
Jednorazowy trening lub duży eksperymentTak, wynajem wielu GPU na krótko
Poufne dokumenty, dane osoboweTakTylko z umową i regionem w UE
Potrzebny najmocniejszy model na rynkuTak, modele komercyjne przez API
Brak zespołu ITTak, usługa zarządzana

Najczęstszy kompromis to zasada „trenuj w chmurze, uruchamiaj u siebie”. Więcej o tym, kiedy przenosić obciążenia z chmury na własną infrastrukturę, w artykule o powrocie z chmury na on-premise. Ceny GPU w chmurze zmieniają się szybko, więc kalkulację rób zawsze na bieżącym cenniku.

FinOps w firmie średniej wielkości: jak kontrolować koszty chmury w 2026 roku, krok po kroku
Warto przeczytać

FinOps w firmie średniej wielkości: jak kontrolować koszty chmury w 2026 roku, krok po kroku

Jeśli model zostaje w chmurze, kluczowa jest kontrola kosztów GPU. Jak to robić krok po kroku, opisujemy w artykule

Bezpieczeństwo lokalnego AI

  • Dostęp: logowanie przez firmowe konto (np. Entra ID lub LDAP) i role, kto może pytać o jakie dokumenty.
  • Dane w RAG: model widzi tylko te dokumenty, do których użytkownik ma uprawnienia.
  • Logi i audyt: zapis zapytań, z poszanowaniem RODO i polityki prywatności pracowników.
  • Prompt injection: dokumenty z zewnątrz mogą zawierać ukryte polecenia dla modelu. Model nie powinien mieć uprawnień do wykonywania działań bez akceptacji człowieka.
  • AI Act: sprawdź, czy planowane zastosowanie nie należy do kategorii wysokiego ryzyka.

Jak SparkSome pomaga wdrożyć lokalne AI

Dobieramy sprzęt do modelu i liczby użytkowników, instalujemy i konfigurujemy środowisko (Ollama lub vLLM, kontenery, monitoring), podłączamy firmowe dokumenty z kontrolą uprawnień i dbamy o kopie zapasowe oraz bezpieczeństwo.

KONTAKT

Chcesz sprawdzić polski model AI na własnych danych?

Zamów pilotaż: uruchomimy Bielika lub PLLuM na wybranym zbiorze dokumentów i policzymy koszt docelowego serwera.

Wysyłając formularz przekazujesz nam swoje dane w celu odpowiedzi na zapytanie i przygotowania oferty. Administratorem danych jest SparkSome Venture Sp. z o.o. Szczegóły przetwarzania danych znajdziesz w Polityce prywatności.

Dodatkowo możemy się z Tobą skontaktować:
Wybieram kanał

Zgody są dobrowolne i możesz je wycofać w każdej chwili. Szczegóły dotyczące przetwarzania danych znajdziesz w Polityce prywatności.

Często zadawane pytania (FAQ)

Powiązane artykuły

Powrót z chmury na własne serwery: kiedy on-premise się opłaca i co zmienia Data Act od 2027
Infrastruktura IT i wdrożenia

Powrót z chmury na własne serwery: kiedy on-premise się opłaca i co zmienia Data Act od 2027

Repatriacja chmury (ang. cloud repatriation) to przeniesienie części aplikacji, danych lub mocy obliczeniowej z chmury publicznej, takiej jak AWS, Azure czy Google Cloud, z powrotem na własne serwery (on-premise), do kolokacji albo do chmury prywatnej. W praktyce rzadko oznacza całkowite wyjście z chmury. Firmy wycofują stabilne, przewidywalne obciążenia, a chmurę zostawiają tam, gdzie liczy się […]

Czytaj więcej

O autorze

Tomasz Siroń, Board Member & Infrastructure Architect w SparkSome Venture

Tomasz Siroń

Board Member & Infrastructure Architect

W SparkSome odpowiadam za kierunek technologiczny, architekturę systemów oraz projekty infrastrukturalne dla klientów biznesowych. Specjalizuję się w systemach Linux, DevOps, Docker, Kubernetes, sieciach MikroTik, automatyzacji i bezpieczeństwie infrastruktury. Łączę technologie Open Source z elektroniką, IoT i radiokomunikacją, a praktyczne doświadczenie wykorzystuję również podczas autorskich szkoleń technicznych dla firm i uczelni.