AI-udstyr på stedet
AI-server i jeres serverrum
At sende virksomhedsdokumenter til et eksternt API kan være uacceptabelt: juridisk eller af forsigtighedshensyn. Vi installerer en maskine hos jer med 128 GB GPU-hukommelse, hvor åbne sprogmodeller kører uden forbindelse til skyen.
I praksis
Dataene forbliver i bygningen
En lokal LLM-server er én enhed i et rackskab. Den gør det samme som en cloudtjeneste, men uden at sende noget eksternt.
En konfiguration med 128 GB grafikhukommelse kan i dag køre modeller i 70B-klassen med kvantisering. Det er typisk nok til et dusin samtidige samtaler i en mellemstor virksomhed.
Vi starter med én afdeling, oftest med tilbudshåndtering eller teknisk dokumentation. Vi måler, hvor meget tid der reelt frigøres, og kobler først derefter flere teams på. Jeres IT-medarbejder kan selv tilføje modeller og oprette konti efter to dages oplæring.
Udstyret er jeres fra første dag. Hvis I skifter softwareleverandør efter et år, bliver maskinen stående.
-
Sådan fungerer det
Maskinen leveres til jeres serverrum klar til brug: Systemet, driverne og flere open source-modeller er allerede installeret. Forespørgsler og svar gemmes på virksomhedens disk, og standardkonfigurationen sender ikke trafik ud af huset.
-
Hvad integreres den med
Serveren stiller et almindeligt API til rådighed, så vi kobler den til de systemer, I allerede bruger: e-mail, CRM, netværksdrev og regneark. Vi overfører dokumentrettigheder fra jeres systemer, så ingen får vist en fil i svaret, som de ikke har adgang til.
-
Hvem bestemmer
Administratoradgangskoden forbliver hos jer, og jeres virksomhed forbliver dataansvarlig. Vi får først adgang til serveren, når en af jer åbner for os. Loggen viser, hvem der har spurgt om hvad, og serviceaftalen angiver, hvem der tager telefonen, når udstyret går ned.
Problem
Er du bekymret for at sende virksomhedens dokumenter til skyen?
HEXART løsningen
En server med 128 GB grafikhukommelse står hos jer og kan køre modeller i 70B-klassen med kvantisering. Forespørgslerne bliver på virksomhedens disk, og jeres administrator styrer adgangen. Vi starter med én proces og måler den sparede tid, før vi udvider implementeringen.
Spørg om serverkonfigurationSpørgsmål og svar
Ofte stillede spørgsmål
Hvilke modeller kan en server med 128 GB grafikhukommelse køre?
Modeller i 70B-klassen med kvantisering, hvilket typisk er nok til et dusin samtidige samtaler i en mellemstor virksomhed.
Forlader forespørgsler virksomheden?
Nej. Forespørgsler og svar gemmes på virksomhedens disk, og standardkonfigurationen sender ikke trafik ud af huset. Administratoradgangskoden forbliver hos jer, og jeres virksomhed forbliver dataansvarlig.
Er udstyret vores?
Ja, fra dag ét. Hvis I skifter softwareleverandør efter et år, bliver maskinen stående. Serviceaftalen beskriver, hvem der tager telefonen, når udstyret går ned.
Hvem står for driften af serveren efter implementeringen?
Jeres IT-medarbejder kan selv tilføje modeller og oprette konti efter 2 dages oplæring. Serveren stiller et almindeligt API til rådighed, så vi kobler den til jeres e-mail, CRM, netværksdrev og regneark, som I allerede bruger.
Uforpligtende samtale
Book en workshop med Paul
Vælg 30 minutter eller en hel workshop. Book tidspunktet i kalenderen, og få bekræftelsen med det samme.
Paul Lazniak
Grundlægger af HEXART
- Møde altid med den samme person
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontakt
Lad os drøfte jeres projekt
Vi viser en fungerende løsning, før vi begynder at tale om den. Skriv, hvad I har brug for: film, en XR-verden, et AI-system eller en brandidentitet.
Skriv eller ring
Et par sætninger er nok: hvad der skal laves, hvornår og til hvem.
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Adresse
- Aleja Zwycięstwa 96/98, 81-451 Gdynia