Serwer AI on-premise
Dobór sprzętu (GPU, VRAM, RAM, chłodzenie) pod modele, których potrzebujesz; Proxmox z przekazaniem GPU, uruchamianie modeli (np. Qwen, Gemma) w Ollama, llama.cpp lub vLLM.
AI w firmie – lokalne modele i asystenci
Na co dzień pracuję z AI: Claude, Codex, Cursor i OpenRouter przyspieszają mi pisanie kodu, infrastruktury jako kodu i przeglądy. Ale umowy klientów, dane osobowe czy logi bezpieczeństwa nie powinny trafiać do zewnętrznego API. Dlatego przy sprawach wrażliwych używam modeli uruchomionych lokalnie – i to samo wdrażam w firmach: prywatne AI na własnym sprzęcie tam, gdzie dane muszą zostać w środku, a chmurowe modele tam, gdzie to bezpieczne i opłacalne.
Co dostajesz
Prywatny czat dla pracowników
Interfejs w stylu ChatGPT (np. Open WebUI) na Twoim serwerze, logowanie przez firmowe konto (SSO / LDAP), historia rozmów zostaje w firmie.
Bramka AI: lokalnie albo w chmurze
Jedno API dla wszystkich narzędzi (np. LiteLLM): zapytania wrażliwe trafiają do modeli lokalnych, reszta do Claude / GPT / OpenRouter. Limity, koszty i logi w jednym miejscu.
Asystenci AI w zespole IT
Wdrożenie Claude Code, Codex lub Cursora w zespole: zasady, czego nie wysyłamy, konfiguracja repozytoriów, integracja z CI/CD i przeglądami kodu. Na podstawie tego, jak sam z nich korzystam.
AI na firmowych dokumentach
Wyszukiwanie i odpowiedzi na podstawie dokumentacji, procedur czy bazy wiedzy (RAG) – w całości na Twojej infrastrukturze.
Bezpieczeństwo i zgodność
Polityka korzystania z AI, rejestr narzędzi, logi zapytań, kontrola dostępu i monitoring (także w Wazuh) – pod RODO i wymagania NIS2.
Technologie
- Claude / Claude Code
- OpenAI Codex
- Cursor
- OpenRouter
- Qwen
- Gemma
- Ollama
- llama.cpp
- vLLM
- Open WebUI
- LiteLLM
- Proxmox (GPU passthrough)
- Docker
Jak wygląda współpraca
- 01
Rozmowa o zastosowaniach
Do czego AI ma służyć, jakie dane będą przetwarzane, ilu użytkowników. Od tego zależy, co lokalnie, a co w chmurze.
- 02
Dobór modeli i sprzętu
Test kilku modeli na Twoich przykładach, konkretna konfiguracja sprzętu z wyceną albo wariant w wynajmowanym serwerze GPU.
- 03
Wdrożenie
Serwer, modele, czat, bramka API, SSO, monitoring – etapami, z pierwszymi użytkownikami po kilku dniach.
- 04
Utrzymanie i rozwój
Aktualizacje modeli (pojawiają się co kilka miesięcy), strojenie, nowe zastosowania, wsparcie użytkowników.
Najczęstsze pytania
Czy dane naprawdę nie wychodzą poza firmę?
Przy modelu lokalnym – tak: model działa na Twoim serwerze, bez połączenia z zewnętrznym API. Bramka pilnuje, żeby zapytania oznaczone jako wrażliwe nigdy nie trafiły do modeli chmurowych.
Czy lokalny model jest tak dobry jak Claude czy GPT?
Do wielu zadań – streszczenia, klasyfikacja, odpowiedzi z dokumentów, proste skrypty – otwarte modele w zupełności wystarczają. Do najtrudniejszego programowania i rozumowania najlepsze modele chmurowe wciąż prowadzą. Dlatego zwykle proponuję układ hybrydowy.
Jaki sprzęt jest potrzebny?
Zależy od wielkości modelu i liczby użytkowników. Mniejsze modele działają na jednej karcie z 16–24 GB pamięci, większe wymagają więcej VRAM lub kilku kart. Po teście na Twoich przykładach podaję konkretną konfigurację, a czasem lepszy okazuje się wynajem serwera GPU.
Sam używasz AI w pracy?
Codziennie. Claude, Codex i Cursor przy kodzie, Ansible, Terraform i przeglądach; OpenRouter do porównywania modeli; lokalne modele, gdy pracuję z danymi wrażliwymi. Dzięki temu wdrażam rzeczy sprawdzone w praktyce, a nie z prezentacji.
Masz projekt albo problem z infrastrukturą?
Napisz kilka zdań o tym, co chcesz osiągnąć. Odpowiadam zwykle w ciągu 24 godzin i od razu mówię, czy i jak mogę pomóc.
W czym jeszcze pomagam