Hopp til innhold

Utstyr i serverrommet deres

Kunnskapsbase på eget utstyr

Søk via chat i avtaler, teknisk dokumentasjon og korrespondanse som selskapets retningslinjer forbyr å sende til skyen. Modell og indeks kjører i deres eget rackskap. Én maskin håndterer 5 til 20 enkle forespørsler parallelt på 100 til 1 000 ms. En ekstra server dobler denne kapasiteten.

I praksis

Data forlater ikke bygningen

Juridisk avdeling, HR og ingeniører håndterer dokumenter som bedriftens retningslinjer ikke tillater å sende til et offentlig API. Løsningen er ikke å gi avkall på semantisk søk, men å flytte det til maskinvaren i deres serverrom.

Vi leverer en konfigurert maskin med en åpen modell, dokumentindeks og administrasjonspanel. Dere angir mappene, så setter vi opp tilgangene og lærer opp IT-ansvarlig slik at vedkommende kan oppdatere indeksen selv.

Kunnskapsbasene vi bygger løsningene på, består vanligvis av 10–500 filer, alle med grafikk. Vi tilpasser vektoriseringen til prosessene dere faktisk bruker.

Forespørsler utover den løpende kapasiteten går ikke tapt. De settes i kø med plass til opptil 1 000 forespørsler, med en ventetid på 1 til 10 sekunder som fastsettes under konfigureringen. Hvert svar viser hvilket dokument det kommer fra, slik at medarbeideren kan kontrollere det mot kilden.

Dere er behandlingsansvarlige etter GDPR. Vi får bare innsyn mens vi utfører service, og etter uttrykkelig instruks fra dere.

  • Slik fungerer det

    Språkmodellen og vektorindeksen over filene deres kjører på én server. Vi velger grafikkort ut fra størrelsen på datasettet: 128 GB minne er nok til modeller i 70B-klassen med kvantisering. Forespørsler, dokumenter og svar forlater ikke bedriftsnettverket, og internettilkoblingen kan kobles fra.

  • Hva den integreres med

    Enheten kobles til det eksisterende nettverket og leser SMB-områder, e-post og dokumentlageret dere allerede har. Innlogging skjer via Active Directory, slik at dere slipper å opprette og administrere et ekstra sett med kontoer og passord.

  • Hvem bestemmer

    Maskinvaren, diskene og modellvektene er deres. Når samarbeidet avsluttes, er det ingenting vi må hente tilbake. Loggene viser hvem som spurte om hva, og hvilket dokument som ble brukt. Det er nyttig når dere skal dokumentere etterlevelse av GDPR.

Problem

Forbyr regelverket å sende disse filene til skyen?

HEXARTs løsning

Lokal RAG fra HEXART holder indeksen, modellen og dokumentene på én enhet i serverrommet deres. Spørsmål og svar forblir i bedriftens nettverk, og administratoren deres, ikke leverandøren, har tilgang til tilgangsloggene.

Bestill en gjennomgang av infrastrukturen

Spørsmål og svar

Ofte stilte spørsmål

Hvor mange forespørsler kan én maskin håndtere?

Fra 5 til 20 enkle vektorsøk kan kjøres parallelt i et tidsvindu på 100–1 000 ms. Hver ekstra server dobler kapasiteten. Overskytende søk settes i kø med plass til opptil 1 000 søk. Ventetiden kan konfigureres til mellom 1 og 10 sekunder.

Forlater dokumentene bedriftens nettverk?

Nei. Språkmodellen og den vektorbaserte indeksen kjører på én server i serverrommet deres, og forespørselen, dokumentinnholdet og svaret forlater ikke bedriftsnettverket. Internettforbindelsen kan kobles fra mens systemet er i bruk.

Må man opprette egne kontoer og passord?

Nei. Pålogging skjer via Active Directory, og enheten leser fra SMB-områder, e-post og dokumentlageret dere allerede har.

Hvem er behandlingsansvarlig for personopplysningene i henhold til GDPR?

De. Innsynet vårt åpnes bare mens tjenesten brukes, og etter uttrykkelig instruks fra dere. Loggene viser hvem som spurte om hva, og hvilket dokument som ble brukt. Det er nyttig ved dokumentasjon av etterlevelse av GDPR.

Uforpliktende samtale

Book en workshop med Paul

Velg tretti minutter eller en full workshop. Reserver tid i kalenderen, bekreftelsen kommer umiddelbart.

Paul Lazniak

Grunnlegger av HEXART

Kontakt

La oss diskutere prosjektet deres

Vi demonstrerer en fungerende løsning før vi går inn på detaljene. Send en melding om hva dere trenger: film, XR-miljø, AI-system eller merkevareidentitet.

Send en melding eller ring

Noen få setninger holder: hva som skal lages, til når og for hvem.

Adresse
Aleja Zwycięstwa 96/98, 81-451 Gdynia

Katalog over implementeringer

Se hele katalogen
  • Intern kunnskapsbase for teamet

    En nyansatt spør om en rutine og får svar hentet rett fra det aktuelle dokumentet, komplett med kildelenke. Lederen slipper å fungere som søkemotor for hele avdelingen, og bedriftens kunnskap forblir i huset ved personalskifter.

  • Lokal AI-server (Blackwell, 128 GB)

    Sending av bedriftsdokumenter til et eksternt API kan være uaktuelt: juridisk eller av ren forsiktighet. Vi installerer en maskin hos dere med 128 GB grafikkminne, der åpne språkmodeller kjører helt uten skyforbindelse.

  • Kryptert bedriftsintern meldingstjeneste med AI

    Oppkjøpsplaner, lønnsforhandlinger og personalsaker deles i dag i meldingstjenester der ingen har lest vilkårene. Vi etablerer en separat kanal: lokal server hos dere, ende-til-ende-kryptering og en AI-assistent i samme nettverk.

  • Automatisering av videokampanjer

    Én opptaksdag etterfølges ofte av uker med tilpasning til hvert marked, språk og format. Vi bygger en rendringsmal der nye varianter genereres på timer, slik at markedsavdelingen raskt kan velge ut hvilke som publiseres.

  • AI-agenter på chat og telefon

    Mange henvendelser til kundeservice er gjengangere om ordrestatus, faktura og leveringstid. AI-agenten svarer direkte ut fra bedriftens dokumentasjon, og løser i våre leveranser 30–60% av slike henvendelser. Resten sendes videre til en rådgiver sammen med hele konteksten.