AI-maskinvare på stedet
AI-server i serverrommet deres
Sending av bedriftsdokumenter til et eksternt API kan være uaktuelt: juridisk eller av ren forsiktighet. Vi installerer en maskin hos dere med 128 GB grafikkminne, der åpne språkmodeller kjører helt uten skyforbindelse.
I praksis
Dataene forblir i bygningen
En lokal LLM-server er én enhet i et rackskap. Den gjør det samme som en skytjeneste, men uten å sende noe ut av huset.
En konfigurasjon med 128 GB grafikkminne kan i dag kjøre modeller i 70B-klassen i kvantisert format. Det er vanligvis nok til et titalls samtidige samtaler i en mellomstor bedrift.
Vi starter med én avdeling, som oftest tilbudsavdelingen eller avdelingen for teknisk dokumentasjon. Vi måler hvor mye tid dere faktisk sparer, og kobler først deretter på flere team. IT-ansvarlig kan selv legge til modeller og opprette kontoer etter to dagers opplæring.
Utstyret er deres fra første dag. Hvis dere bytter programvareleverandør etter ett år, blir maskinen stående.
-
Slik fungerer det
Maskinen leveres til serverrommet deres klar til bruk: Systemet, driverne og flere åpne modeller er allerede installert. Forespørsler og svar lagres på en disk hos dere, og standardkonfigurasjonen sender ikke trafikk ut av virksomheten.
-
Hva den integreres med
Serveren tilbyr et standard API, så vi kobler den til verktøyene dere allerede bruker: e-post, CRM, nettverksdisk og regneark. Vi overfører dokumenttilgang fra systemene deres, slik at ingen får se et dokument i svaret hvis de ikke har tilgang til det.
-
Hvem bestemmer
Administratorpassordet forblir hos dere, og bedriften deres er fortsatt behandlingsansvarlig. Vi logger oss først på serveren når noen hos dere gir oss tilgang. Loggen viser hvem som spurte om hva, og serviceavtalen sier hvem som tar telefonen når utstyret svikter.
Problem
Er du redd for å sende bedriftsdokumenter til skyen?
HEXARTs løsning
En server med 128 GB grafikkminne står hos dere og kjører modeller i 70B-klassen med kvantisering. Forespørslene lagres på bedriftens disk, og administratoren deres styrer tilgangen. Vi starter med én prosess og måler hvor mye tid dere sparer før vi utvider implementeringen.
Spør om serverkonfigurasjonSpørsmål og svar
Ofte stilte spørsmål
Hvilke modeller får plass på en server med 128 GB grafikkminne?
70B-modeller i kvantisert versjon, som vanligvis er tilstrekkelig for et titalls samtidige samtaler i en mellomstor bedrift.
Sendes forespørsler utenfor bedriften?
Nei. Forespørsler og svar lagres på en disk i bedriften, og standardkonfigurasjonen sender ikke trafikk ut av bedriften. Administratorpassordet forblir hos dere, og bedriften deres er fortsatt behandlingsansvarlig.
Er utstyret vårt?
Ja, fra første dag. Hvis dere bytter programvareleverandør etter ett år, blir maskinen stående. Serviceavtalen angir hvem som svarer når utstyret svikter.
Hvem drifter serveren etter implementeringen?
IT-ansvarlig hos dere. Etter to dagers opplæring legger vedkommende selv til modeller og oppretter kontoer. Serveren tilbyr et vanlig API, så vi kobler den til e-post, CRM, nettverksdisk og regnearkene dere allerede bruker.
Uforpliktende samtale
Book en workshop med Paul
Velg tretti minutter eller en full workshop. Reserver tid i kalenderen, bekreftelsen kommer umiddelbart.
Paul Lazniak
Grunnlegger av HEXART
- Møt alltid samme person
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontakt
La oss diskutere prosjektet deres
Vi demonstrerer en fungerende løsning før vi går inn på detaljene. Send en melding om hva dere trenger: film, XR-miljø, AI-system eller merkevareidentitet.
Send en melding eller ring
Noen få setninger holder: hva som skal lages, til når og for hvem.
- E-post
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Adresse
- Aleja Zwycięstwa 96/98, 81-451 Gdynia