Przejdź do treści

Sprzęt AI na miejscu

Serwer AI w Waszej serwerowni

Wysyłanie dokumentów firmowych do zewnętrznego API bywa nie do przyjęcia: prawnie albo po prostu z ostrożności. Stawiamy u Was maszynę ze 128 GB pamięci karty graficznej, na której otwarte modele językowe pracują bez połączenia z chmurą.

W praktyce

Dane zostają w budynku

Lokalny serwer LLM to jedno urządzenie w szafie rack. Robi to samo, co usługa chmurowa, tylko bez wysyłania czegokolwiek na zewnątrz.

Konfiguracja ze 128 GB pamięci karty graficznej mieści dziś modele klasy 70B w kwantyzacji. To zwykle wystarcza na kilkanaście równoczesnych rozmów w firmie średniej wielkości.

Zaczynamy od jednego działu, najczęściej od obsługi ofert albo dokumentacji technicznej. Mierzymy, ile czasu realnie wraca, i dopiero potem podłączamy kolejne zespoły. Wasz informatyk po dwóch dniach szkolenia sam dokłada modele i zakłada konta.

Sprzęt jest Wasz od pierwszego dnia. Gdy po roku zmienicie dostawcę oprogramowania, maszyna zostaje na miejscu.

  • Jak działa

    Maszyna trafia do Waszej serwerowni gotowa do pracy: system, sterowniki i kilka otwartych modeli już zainstalowane. Zapytania i odpowiedzi zapisują się na dysku w firmie, a domyślna konfiguracja nie wypuszcza ruchu na zewnątrz.

  • Z czym się łączy

    Serwer wystawia zwykłe API, więc podpinamy go pod to, czego już używacie: pocztę, CRM, dysk sieciowy, arkusze. Uprawnienia do dokumentów przenosimy z Waszych systemów, żeby nikt nie zobaczył w odpowiedzi pliku, do którego nie ma dostępu.

  • Kto decyduje

    Hasło administratora zostaje u Was, a administratorem danych pozostaje Wasza firma. Na serwer wchodzimy dopiero wtedy, gdy ktoś od Was nam otworzy. Rejestr pokazuje, kto o co pytał, a umowa serwisowa mówi, kto odbiera telefon, gdy sprzęt padnie.

Problem

Boisz się wysłać firmowe dokumenty do chmury?

Rozwiązanie HEXART

Serwer ze 128 GB pamięci karty graficznej stoi u Was i mieści modele klasy 70B w kwantyzacji. Zapytania zostają na firmowym dysku, a dostęp rozdaje Wasz administrator. Zaczynamy od jednego procesu i liczymy odzyskany czas, zanim rozszerzymy wdrożenie.

Zapytaj o konfigurację serwera

Pytania i odpowiedzi

Najczęstsze pytania

Jakie modele mieści serwer ze 128 GB pamięci karty graficznej?

Modele klasy 70B w kwantyzacji, co zwykle wystarcza na kilkanaście równoczesnych rozmów w firmie średniej wielkości.

Czy zapytania wychodzą poza firmę?

Nie. Zapytania i odpowiedzi zapisują się na dysku w firmie, a domyślna konfiguracja nie wypuszcza ruchu na zewnątrz. Hasło administratora zostaje u Was, a administratorem danych pozostaje Wasza firma.

Czy sprzęt jest nasz?

Tak, od pierwszego dnia. Gdy po roku zmienicie dostawcę oprogramowania, maszyna zostaje na miejscu. Umowa serwisowa mówi, kto odbiera telefon, gdy sprzęt padnie.

Kto obsługuje serwer po wdrożeniu?

Wasz informatyk. Po dwóch dniach szkolenia sam dokłada modele i zakłada konta. Serwer wystawia zwykłe API, więc podpinamy go pod pocztę, CRM, dysk sieciowy i arkusze, których już używacie.

Rozmowa bez zobowiązań

Umów warsztat z Paulem

Trzydzieści minut albo pełny warsztat, sam wybierz. Termin rezerwujesz w kalendarzu, potwierdzenie przychodzi od razu.

Paul Lazniak

Założyciel HEXART

Kontakt

Porozmawiajmy o Waszym projekcie

Pokażemy działającą rzecz, zanim zaczniemy o niej opowiadać. Napisz, czego potrzebujecie: film, świat XR, system AI albo identyfikację marki.

Napisz albo zadzwoń

Kilka zdań wystarczy: co ma powstać, na kiedy i dla kogo.

Adres
Aleja Zwycięstwa 96/98, 81-451 Gdynia

Katalog wdrożeń

Zobacz cały katalog
  • Lokalna baza wiedzy na serwerze (RAG)

    Umowy, dokumentacja techniczna i korespondencja, których polityka firmy nie pozwala wysłać do chmury, przeszukujecie czatem. Model i indeks stoją w Waszej szafie rack. Jedna maszyna obsługuje równolegle od 5 do 20 prostych zapytań w oknie od 100 do 1 000 ms. Kolejny serwer podwaja tę pulę.

  • Szyfrowany komunikator firmowy z AI

    Plany przejęcia, negocjacje płacowe i sprawy kadrowe krążą dziś po komunikatorach, których regulaminu nikt nie czytał. Stawiamy osobny kanał: serwer w Waszej siedzibie, szyfrowanie od urządzenia do urządzenia, asystent AI w tej samej sieci.

  • Agenci AI na czacie i telefonie

    Duża część zgłoszeń w biurze obsługi to te same pytania o status zamówienia, fakturę i termin dostawy. Agent AI odpowiada na nie z Waszej dokumentacji i w naszych wdrożeniach domyka 30–60% takich zapytań. Resztę przekazuje konsultantowi z kontekstem rozmowy.

  • Analiza umów AI przed podpisem

    Umowa na 40 stron ma zwykle 5 zapisów, które naprawdę bolą. System znajduje je i pokazuje z numerem paragrafu, żeby prawnik albo osoba odpowiedzialna zaczęła od tego, co ważne.

  • Automatyzacja social media w firmie

    Profil firmy zwykle milknie nie z braku pomysłów, tylko dlatego, że nikt nie ma na to godziny w środę. System przygotowuje tygodniową propozycję postów z grafikami, a Wy zatwierdzacie, poprawiacie albo wyrzucacie.