Helyszíni AI-eszközök
AI-szerver az Önök szervertermében
A vállalati dokumentumok külső API-nak történő átadása jogi megfontolásból vagy pusztán elővigyázatosságból sokszor elfogadhatatlan. Telepítünk Önnél egy 128 GB videomemóriával felszerelt gépet, amelyen a nyílt nyelvi modellek felhőkapcsolat nélkül futnak.
A gyakorlatban
Az adatok az épületen belül maradnak
A helyi LLM-szerver egyetlen eszköz a rack szekrényben. Ugyanazt végzi, mint a felhőszolgáltatás, csak semmit sem küld ki a szervezeten kívülre.
A 128 GB grafikusmemória-kapacitású konfiguráció ma már kvantált, 70B kategóriájú modellek futtatására is alkalmas. Ez rendszerint elegendő egy közepes méretű vállalatban zajló, egyidejűleg folytatott több tucat beszélgetéshez.
Egyetlen részleggel kezdünk, leggyakrabban az ajánlatkezeléssel vagy a műszaki dokumentációval. Megmérjük, ténylegesen mennyi időt takarítunk meg, és csak ezután kapcsoljuk be a további csapatokat. Az informatikusuk egy kétnapos képzés után önállóan ad hozzá modelleket, és hoz létre fiókokat.
A berendezés már az első naptól az Önöké. Ha egy év múlva szoftverszolgáltatót váltanak, a gép a helyén marad.
-
Hogyan működik
A gép használatra készen érkezik a szervertermükbe: a rendszer, az illesztőprogramok és több nyílt modell már telepítve van. A kérések és a válaszok a vállalatnál lévő meghajtón tárolódnak, az alapértelmezett konfiguráció pedig nem enged külső hálózati forgalmat.
-
Mivel integrálható
A szerver szabványos API-t biztosít, így összekapcsoljuk azzal, amit már használnak: e-maillel, CRM-rendszerrel, hálózati meghajtóval és táblázatokkal. A dokumentumokhoz való jogosultságokat a meglévő rendszereikből vesszük át, így senki sem kaphat választ olyan fájllal, amelyhez nincs hozzáférése.
-
Ki dönt
A rendszergazdai jelszó Önöknél marad, az adatkezelő pedig továbbra is az Önök vállalata. Csak akkor lépünk be a szerverre, ha valaki Önöktől hozzáférést biztosít nekünk. A napló megmutatja, ki mire kérdezett rá, a szervizszerződés pedig rögzíti, ki veszi fel a telefont, ha meghibásodik a berendezés.
Probléma
Attól tart, hogy vállalati dokumentumait a felhőbe töltse fel?
A HEXART megoldása
A 128 GB videokártya-memóriával rendelkező szerver az Önök telephelyén működik, és kvantált, 70B kategóriájú modelleket futtat. A kérések a vállalati szerveren maradnak, a hozzáféréseket pedig az Önök rendszergazdája kezeli. Egyetlen folyamattal kezdünk, és megmérjük a megtakarított időt, mielőtt kiterjesztjük a bevezetést.
Kérjen ajánlatot a szerver konfigurációjáraGyakori kérdések
Gyakori kérdések
Milyen modellek férnek el egy 128 GB videokártya-memóriával rendelkező szerveren?
70B osztályú kvantált modellek, amelyek általában elegendők egy közepes méretű vállalatban zajló tucatnyi párhuzamos beszélgetéshez.
Kikerülnek a megkeresések a vállalaton kívülre?
Nem. A lekérdezések és a válaszok a vállalatnál tárolt lemezre kerülnek, az alapértelmezett konfiguráció pedig nem továbbít adatforgalmat külső hálózatba. Az adminisztrátori jelszó Önöknél marad, az adatok kezelője pedig továbbra is az Önök vállalata.
A berendezés a miénk?
Igen, már az első naptól. Ha egy év múlva szolgáltatót váltanak, a gép marad. A szervizszerződés rögzíti, ki veszi fel a telefont, ha meghibásodik a berendezés.
Ki üzemelteti a szervert a bevezetés után?
Az Ön informatikusa. Kétnapos képzés után önállóan telepít modelleket és hoz létre fiókokat. A szerver szabványos API-t biztosít, így összekapcsoljuk az e-mail-rendszerrel, a CRM-mel, a hálózati meghajtóval és az Önök által már használt táblázatokkal.
Kötelezettségmentes beszélgetés
Foglaljon workshopot Paullal
Válasszon harminc percet vagy teljes workshopot. Az időpontot a naptárban foglalhatja le, a visszaigazolás azonnal megérkezik.
Paul Lazniak
A HEXART alapítója
- A megbeszélés mindig ugyanazzal a személlyel történik
- 30 perc
- biuro@hexart.pl
- +48 662 016 430
Kapcsolat
Beszéljünk a projektjéről
Működő megoldást mutatunk, mielőtt beszélni kezdenénk róla. Írja meg, mire van szükségük: filmre, XR-világra, AI-rendszerre vagy márkaidentitásra.
Írjon vagy hívjon minket
Néhány mondat elegendő: mi a feladat, milyen határidővel és kinek.
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Cím
- Aleja Zwycięstwa 96/98, 81-451 Gdynia