Hoppa till innehållet

AI-utrustning på plats

AI-server i ert serverrum

Att skicka företagsdokument till externa API:er är ofta uteslutet: juridiskt eller av ren försiktighet. Vi installerar en maskin hos er med 128 GB grafikminne, där öppna språkmodeller körs utan molnanslutning.

I praktiken

Data stays in the building

En lokal LLM-server är en enda enhet i ett rackskåp. Den gör samma sak som en molntjänst, men utan att skicka något utanför organisationen.

En konfiguration med 128 GB grafikminne rymmer i dag modeller i 70B-klassen i kvantiserad form. Det räcker vanligtvis för ett dussintal samtidiga samtal i ett medelstort företag.

Vi börjar med en avdelning, oftast anbudshantering eller teknisk dokumentation. Vi mäter hur mycket tid ni faktiskt sparar och kopplar sedan in fler team. Efter två dagars utbildning kan er IT-ansvariga själv lägga till modeller och skapa konton.

Utrustningen är er från första dagen. Om ni byter mjukvaruleverantör efter ett år står maskinen kvar.

  • Hur det fungerar

    Maskinen levereras färdig att tas i drift i ert serverrum: system, drivrutiner och flera öppna modeller är redan installerade. Förfrågningar och svar sparas på företagets disk, och standardkonfigurationen skickar ingen trafik utanför företaget.

  • Vad den integreras med

    Servern exponerar ett vanligt API, så vi kopplar den till det ni redan använder: e-post, CRM, nätverksdiskar och kalkylblad. Vi hämtar behörigheterna till dokumenten från era system, så att ingen får svar med en fil som personen saknar åtkomst till.

  • Vem som bestämmer

    Administratörslösenordet stannar hos er, och ert företag förblir personuppgiftsansvarigt. Vi får åtkomst till servern först när någon hos er öppnar den för oss. Loggen visar vem som frågade om vad, och serviceavtalet anger vem som svarar i telefon när utrustningen går sönder.

Problem

Orolig för att skicka företagets dokument till molnet?

HEXARTs lösning

En server med 128 GB grafikminne står hos er och klarar modeller i 70B-klassen med kvantisering. Förfrågningarna stannar på företagets disk, och er administratör styr åtkomsten. Vi börjar med en process och mäter den återvunna tiden innan vi utökar implementeringen.

Fråga om serverkonfiguration

Frågor och svar

Vanliga frågor

Vilka modeller ryms på en server med 128 GB grafikminne?

Modeller i 70B-klassen i kvantiserad form, vilket vanligtvis räcker för ett tiotal samtidiga konversationer på ett medelstort företag.

Skickas förfrågningar utanför företaget?

Nej. Förfrågningar och svar sparas på företagets disk, och standardkonfigurationen skickar inte trafik utanför företaget. Administratörslösenordet stannar hos er, och ert företag förblir personuppgiftsansvarigt.

Är utrustningen vår?

Ja, från dag ett. Om ni byter programvaruleverantör efter ett år står maskinen kvar. Serviceavtalet anger vem som svarar i telefon om utrustningen går sönder.

Vem ansvarar för servern efter implementeringen?

Er IT-ansvarige. Efter två dagars utbildning lägger hen själv till modeller och skapar konton. Servern erbjuder ett vanligt API, så vi kopplar den till e-post, CRM, nätverksdiskar och kalkylblad som ni redan använder.

Förutsättningslöst samtal

Boka workshop med Paul

Välj 30 minuter eller en hel workshop. Boka en tid i kalendern och få en bekräftelse direkt.

Paul Lazniak

Grundare av HEXART

Kontakt

Diskutera ert projekt

Vi visar en fungerande lösning innan vi börjar prata om den. Berätta vad ni behöver: film, XR-värld, AI-system eller varumärkesidentitet.

Skriv eller ring

Några meningar räcker: vad som ska skapas, till när och för vem.

Adress
Aleja Zwycięstwa 96/98, 81-451 Gdynia

Implementeringskatalog

Se hela katalogen
  • Lokal kunskapsbas på server (RAG)

    Avtal, teknisk dokumentation och korrespondens som företagspolicyn förbjuder i molnet söks via chatt. Modell och index körs i ert rack. En maskin hanterar parallellt 5 till 20 enkla förfrågningar inom 100 till 1 000 ms. Ytterligare en server fördubblar kapaciteten.

  • Krypterad företagschatt med AI

    Förvärvsplaner, löneförhandlingar och personalärenden hanteras idag ofta i chattappar vars användarvillkor ingen har läst. Vi sätter upp en separat kanal: lokal server i era lokaler, totalsträckskryptering och en AI-assistent i samma nätverk.

  • AI-agenter för chatt och telefon

    En stor del av ärendena i kundtjänst gäller samma frågor om orderstatus, faktura och leveranstid. AI-agenten svarar utifrån er dokumentation och stänger i våra implementeringar 30–60% av dessa förfrågningar. Resten skickas vidare till en handläggare med full samtalshistorik.

  • AI-avtalsanalys före signering

    Ett avtal på 40 sidor innehåller vanligtvis 5 klausuler med verkliga risker. Systemet identifierar dem och visar paragrafnummer direkt, så att juristen eller ansvarig person kan fokusera på det som är viktigt.

  • Automatisering av företagets sociala medier

    Företagets flöde stannar sällan av brist på idéer, utan för att ingen har en ledig timme på onsdagen. Systemet tar fram veckans förslag på inlägg med grafik. Ni godkänner, justerar eller raderar.