AI-utrustning på plats
AI-server i ert serverrum
Att skicka företagsdokument till externa API:er är ofta uteslutet: juridiskt eller av ren försiktighet. Vi installerar en maskin hos er med 128 GB grafikminne, där öppna språkmodeller körs utan molnanslutning.
I praktiken
Data stays in the building
En lokal LLM-server är en enda enhet i ett rackskåp. Den gör samma sak som en molntjänst, men utan att skicka något utanför organisationen.
En konfiguration med 128 GB grafikminne rymmer i dag modeller i 70B-klassen i kvantiserad form. Det räcker vanligtvis för ett dussintal samtidiga samtal i ett medelstort företag.
Vi börjar med en avdelning, oftast anbudshantering eller teknisk dokumentation. Vi mäter hur mycket tid ni faktiskt sparar och kopplar sedan in fler team. Efter två dagars utbildning kan er IT-ansvariga själv lägga till modeller och skapa konton.
Utrustningen är er från första dagen. Om ni byter mjukvaruleverantör efter ett år står maskinen kvar.
-
Hur det fungerar
Maskinen levereras färdig att tas i drift i ert serverrum: system, drivrutiner och flera öppna modeller är redan installerade. Förfrågningar och svar sparas på företagets disk, och standardkonfigurationen skickar ingen trafik utanför företaget.
-
Vad den integreras med
Servern exponerar ett vanligt API, så vi kopplar den till det ni redan använder: e-post, CRM, nätverksdiskar och kalkylblad. Vi hämtar behörigheterna till dokumenten från era system, så att ingen får svar med en fil som personen saknar åtkomst till.
-
Vem som bestämmer
Administratörslösenordet stannar hos er, och ert företag förblir personuppgiftsansvarigt. Vi får åtkomst till servern först när någon hos er öppnar den för oss. Loggen visar vem som frågade om vad, och serviceavtalet anger vem som svarar i telefon när utrustningen går sönder.
Problem
Orolig för att skicka företagets dokument till molnet?
HEXARTs lösning
En server med 128 GB grafikminne står hos er och klarar modeller i 70B-klassen med kvantisering. Förfrågningarna stannar på företagets disk, och er administratör styr åtkomsten. Vi börjar med en process och mäter den återvunna tiden innan vi utökar implementeringen.
Fråga om serverkonfigurationFrågor och svar
Vanliga frågor
Vilka modeller ryms på en server med 128 GB grafikminne?
Modeller i 70B-klassen i kvantiserad form, vilket vanligtvis räcker för ett tiotal samtidiga konversationer på ett medelstort företag.
Skickas förfrågningar utanför företaget?
Nej. Förfrågningar och svar sparas på företagets disk, och standardkonfigurationen skickar inte trafik utanför företaget. Administratörslösenordet stannar hos er, och ert företag förblir personuppgiftsansvarigt.
Är utrustningen vår?
Ja, från dag ett. Om ni byter programvaruleverantör efter ett år står maskinen kvar. Serviceavtalet anger vem som svarar i telefon om utrustningen går sönder.
Vem ansvarar för servern efter implementeringen?
Er IT-ansvarige. Efter två dagars utbildning lägger hen själv till modeller och skapar konton. Servern erbjuder ett vanligt API, så vi kopplar den till e-post, CRM, nätverksdiskar och kalkylblad som ni redan använder.
Förutsättningslöst samtal
Boka workshop med Paul
Välj 30 minuter eller en hel workshop. Boka en tid i kalendern och få en bekräftelse direkt.
Paul Lazniak
Grundare av HEXART
- Möte alltid med samma person
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontakt
Diskutera ert projekt
Vi visar en fungerande lösning innan vi börjar prata om den. Berätta vad ni behöver: film, XR-värld, AI-system eller varumärkesidentitet.
Skriv eller ring
Några meningar räcker: vad som ska skapas, till när och för vem.
- E-post
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Adress
- Aleja Zwycięstwa 96/98, 81-451 Gdynia