Ugrás a tartalomra

Helyszíni AI-eszközök

AI-szerver az Önök szervertermében

A vállalati dokumentumok külső API-nak történő átadása jogi megfontolásból vagy pusztán elővigyázatosságból sokszor elfogadhatatlan. Telepítünk Önnél egy 128 GB videomemóriával felszerelt gépet, amelyen a nyílt nyelvi modellek felhőkapcsolat nélkül futnak.

A gyakorlatban

Az adatok az épületen belül maradnak

A helyi LLM-szerver egyetlen eszköz a rack szekrényben. Ugyanazt végzi, mint a felhőszolgáltatás, csak semmit sem küld ki a szervezeten kívülre.

A 128 GB grafikusmemória-kapacitású konfiguráció ma már kvantált, 70B kategóriájú modellek futtatására is alkalmas. Ez rendszerint elegendő egy közepes méretű vállalatban zajló, egyidejűleg folytatott több tucat beszélgetéshez.

Egyetlen részleggel kezdünk, leggyakrabban az ajánlatkezeléssel vagy a műszaki dokumentációval. Megmérjük, ténylegesen mennyi időt takarítunk meg, és csak ezután kapcsoljuk be a további csapatokat. Az informatikusuk egy kétnapos képzés után önállóan ad hozzá modelleket, és hoz létre fiókokat.

A berendezés már az első naptól az Önöké. Ha egy év múlva szoftverszolgáltatót váltanak, a gép a helyén marad.

  • Hogyan működik

    A gép használatra készen érkezik a szervertermükbe: a rendszer, az illesztőprogramok és több nyílt modell már telepítve van. A kérések és a válaszok a vállalatnál lévő meghajtón tárolódnak, az alapértelmezett konfiguráció pedig nem enged külső hálózati forgalmat.

  • Mivel integrálható

    A szerver szabványos API-t biztosít, így összekapcsoljuk azzal, amit már használnak: e-maillel, CRM-rendszerrel, hálózati meghajtóval és táblázatokkal. A dokumentumokhoz való jogosultságokat a meglévő rendszereikből vesszük át, így senki sem kaphat választ olyan fájllal, amelyhez nincs hozzáférése.

  • Ki dönt

    A rendszergazdai jelszó Önöknél marad, az adatkezelő pedig továbbra is az Önök vállalata. Csak akkor lépünk be a szerverre, ha valaki Önöktől hozzáférést biztosít nekünk. A napló megmutatja, ki mire kérdezett rá, a szervizszerződés pedig rögzíti, ki veszi fel a telefont, ha meghibásodik a berendezés.

Probléma

Attól tart, hogy vállalati dokumentumait a felhőbe töltse fel?

A HEXART megoldása

A 128 GB videokártya-memóriával rendelkező szerver az Önök telephelyén működik, és kvantált, 70B kategóriájú modelleket futtat. A kérések a vállalati szerveren maradnak, a hozzáféréseket pedig az Önök rendszergazdája kezeli. Egyetlen folyamattal kezdünk, és megmérjük a megtakarított időt, mielőtt kiterjesztjük a bevezetést.

Kérjen ajánlatot a szerver konfigurációjára

Gyakori kérdések

Gyakori kérdések

Milyen modellek férnek el egy 128 GB videokártya-memóriával rendelkező szerveren?

70B osztályú kvantált modellek, amelyek általában elegendők egy közepes méretű vállalatban zajló tucatnyi párhuzamos beszélgetéshez.

Kikerülnek a megkeresések a vállalaton kívülre?

Nem. A lekérdezések és a válaszok a vállalatnál tárolt lemezre kerülnek, az alapértelmezett konfiguráció pedig nem továbbít adatforgalmat külső hálózatba. Az adminisztrátori jelszó Önöknél marad, az adatok kezelője pedig továbbra is az Önök vállalata.

A berendezés a miénk?

Igen, már az első naptól. Ha egy év múlva szolgáltatót váltanak, a gép marad. A szervizszerződés rögzíti, ki veszi fel a telefont, ha meghibásodik a berendezés.

Ki üzemelteti a szervert a bevezetés után?

Az Ön informatikusa. Kétnapos képzés után önállóan telepít modelleket és hoz létre fiókokat. A szerver szabványos API-t biztosít, így összekapcsoljuk az e-mail-rendszerrel, a CRM-mel, a hálózati meghajtóval és az Önök által már használt táblázatokkal.

Kötelezettségmentes beszélgetés

Foglaljon workshopot Paullal

Válasszon harminc percet vagy teljes workshopot. Az időpontot a naptárban foglalhatja le, a visszaigazolás azonnal megérkezik.

Paul Lazniak

A HEXART alapítója

Kapcsolat

Beszéljünk a projektjéről

Működő megoldást mutatunk, mielőtt beszélni kezdenénk róla. Írja meg, mire van szükségük: filmre, XR-világra, AI-rendszerre vagy márkaidentitásra.

Írjon vagy hívjon minket

Néhány mondat elegendő: mi a feladat, milyen határidővel és kinek.

Cím
Aleja Zwycięstwa 96/98, 81-451 Gdynia

Bevezetési katalógus

Tekintse meg a teljes katalógust
  • Helyi tudásbázis a szerveren (RAG)

    A szerződésekben, műszaki dokumentációkban és levelezésekben, amelyeket a vállalati szabályzat nem enged felhőbe küldeni, csevegőfelületen kereshetnek. A modell és az index az Önök rack szekrényében fut. Egyetlen gép párhuzamosan 5–20 egyszerű lekérdezést szolgál ki 100–1000 ms-os ablakban. Egy további szerver megduplázza ezt a kapacitást.

  • Titkosított vállalati csevegő AI-val

    A felvásárlási tervek, bérfeszültségek és személyzeti ügyek ma olyan csevegőkben forognak, amelyek szabályzatát senki sem olvasta. Külön csatornát építünk: szerver az Önök székhelyén, végpontok közötti titkosítás, AI asszisztens ugyanazon a belső hálózaton.

  • AI ágensek chaten és telefonon

    Az ügyfélszolgálati megkeresések jelentős része ugyanazokra a kérdésekre irányul: rendelés állapota, számla és szállítási határidő. Az AI ágens az Önök dokumentációja alapján válaszol, rendszereinkben az ilyen kérdések 30–60%-át lezárja. A többit az előzményekkel együtt átadja a munkatársnak.

  • Szerződések MI-alapú elemzése aláírás előtt

    Egy 40 oldalas szerződésben általában 5 olyan záradék van, amely valóban kockázatos. A rendszer megtalálja ezeket, és megjelöli a bekezdés számával, így a jogász vagy a felelős vezető a lényeggel kezdheti az áttekintést.

  • Vállalati közösségi média automatizálása

    A vállalati profil általában nem ötlethiány miatt némul el, hanem mert szerdánként senkinek sincs rá egy szabad órája. A rendszer heti posztjavaslatokat készít grafikákkal együtt, Önök pedig jóváhagyják, módosítják vagy elvetik azokat.