Sprzęt w Waszej serwerowni
Baza wiedzy na własnym sprzęcie
Umowy, dokumentacja techniczna i korespondencja, których polityka firmy nie pozwala wysłać do chmury, przeszukujecie czatem. Model i indeks stoją w Waszej szafie rack. Jedna maszyna obsługuje równolegle od 5 do 20 prostych zapytań w oknie od 100 do 1 000 ms. Kolejny serwer podwaja tę pulę.
W praktyce
Dane nie wychodzą z budynku
Dział prawny, kadry i konstruktorzy trzymają dokumenty, których polityka firmy nie pozwala wysłać do publicznego API. Rozwiązaniem nie jest rezygnacja z wyszukiwania semantycznego, tylko przeniesienie go na sprzęt w Waszej serwerowni.
Dostarczamy skonfigurowaną maszynę z otwartym modelem, indeksem dokumentów i panelem administratora. Wy wskazujecie foldery, my ustawiamy uprawnienia i uczymy Waszego informatyka samodzielnie odświeżać indeks.
Bazy, na których to stawiamy, liczą zwykle 10–500 plików wiedzy, każdy z grafiką. Sposób wektoryzacji dobieramy do procesów, które u Was faktycznie występują.
Zapytania ponad bieżącą pulę nie przepadają. Ustawiają się w kolejce do 1 000 pozycji, z limitem oczekiwania od 1 do 10 sekund ustalanym przy konfiguracji. Każda odpowiedź pokazuje dokument, z którego pochodzi, więc pracownik sprawdza ją u źródła.
Administratorem danych w rozumieniu RODO pozostajecie Wy. Nasz wgląd otwiera się tylko na czas serwisu i na Wasze wyraźne polecenie.
Jak działa
Model językowy i wektorowy indeks Waszych plików stoją na jednym serwerze. Kartę graficzną dobieramy do wielkości zbioru: 128 GB pamięci mieści modele klasy 70B w kwantyzacji. Zapytanie, dokument i odpowiedź nie opuszczają sieci firmowej, a łącze z internetem można odpiąć.
Z czym się łączy
Urządzenie wpina się w istniejącą sieć i czyta udziały SMB, pocztę oraz repozytorium dokumentów, które już macie. Logowanie idzie przez Active Directory, więc nie zakładacie drugiego zestawu kont i haseł do pilnowania.
Kto decyduje
Sprzęt, dyski i wagi modelu są Wasze. Po zakończeniu współpracy nie zostaje nic, co trzeba by od nas odzyskiwać. Logi pokazują, kto o co pytał i który dokument został użyty, co przydaje się przy rozliczeniu z RODO.
Problem
Regulamin zabrania wysyłać te pliki do chmury?
Rozwiązanie HEXART
Lokalny RAG od HEXART trzyma indeks, model i dokumenty na jednym urządzeniu w Waszej serwerowni. Pytania i odpowiedzi zostają w sieci firmowej, a wgląd w logi dostępu ma Wasz administrator, nie dostawca.
Umów przegląd infrastrukturyPytania i odpowiedzi
Najczęstsze pytania
Ile zapytań obsłuży jedna maszyna?
Równolegle od 5 do 20 prostych zapytań wektorowych w oknie 100–1 000 ms. Każdy kolejny serwer podwaja tę pulę. Nadmiarowe zapytania czekają w kolejce do 1 000 pozycji, z limitem oczekiwania od 1 do 10 sekund ustawianym przy konfiguracji.
Czy dokumenty opuszczają sieć firmową?
Nie. Model językowy i wektorowy indeks stoją na jednym serwerze w Waszej serwerowni, a zapytanie, treść dokumentu i odpowiedź nie opuszczają sieci firmowej. Łącze do internetu można odpiąć na czas pracy.
Czy trzeba zakładać osobne konta i hasła?
Nie. Logowanie idzie przez Active Directory, a urządzenie czyta udziały SMB, pocztę oraz repozytorium dokumentów, które już macie.
Kto jest administratorem danych w rozumieniu RODO?
Wy. Nasz wgląd otwiera się tylko na czas serwisu i na Wasze wyraźne polecenie. Logi pokazują, kto o co pytał i który dokument został użyty, co przydaje się przy rozliczeniu z RODO.
Rozmowa bez zobowiązań
Umów warsztat z Paulem
Trzydzieści minut albo pełny warsztat, sam wybierz. Termin rezerwujesz w kalendarzu, potwierdzenie przychodzi od razu.
Paul Lazniak
Założyciel HEXART
- Spotkanie zawsze z tą samą osobą
- 30 min · 90 min · 15 min
- biuro@hexart.pl
- +48 662 016 430
Kontakt
Porozmawiajmy o Waszym projekcie
Pokażemy działającą rzecz, zanim zaczniemy o niej opowiadać. Napisz, czego potrzebujecie: film, świat XR, system AI albo identyfikację marki.
Napisz albo zadzwoń
Kilka zdań wystarczy: co ma powstać, na kiedy i dla kogo.
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Adres
- Aleja Zwycięstwa 96/98, 81-451 Gdynia