Hardvér AI priamo u vás
AI server vo vašej serverovni
Odosielanie firemných dokumentov do externého API býva neprípustné: z právnych dôvodov alebo jednoducho z opatrnosti. Nasadíme u vás stroj so 128 GB grafickej pamäte, na ktorom otvorené jazykové modely pracujú bez pripojenia ku cloudu.
V praxi
Dáta zostávajú v budove
Lokálny server LLM je jedno zariadenie v rackovej skrini. Robí to isté ako cloudová služba, len bez odosielania čohokoľvek mimo firmy.
Konfigurácia so 128 GB pamäte grafickej karty dnes zvládne modely triedy 70B v kvantizovanej verzii. Zvyčajne to stačí na niekoľko desiatok súbežných konverzácií v stredne veľkej firme.
Začíname s jedným oddelením, najčastejšie s prípravou ponúk alebo technickou dokumentáciou. Meriame, koľko času sa reálne ušetrí, a až potom zapájame ďalšie tímy. Váš IT pracovník po dvojdňovom školení sám pridáva modely a zakladá účty.
Zariadenie je vaše od prvého dňa. Ak po roku zmeníte dodávateľa softvéru, stroj zostáva na mieste.
-
Ako funguje
Zariadenie dorazí do vašej serverovne pripravené na prevádzku: systém, ovládače a niekoľko otvorených modelov sú už nainštalované. Dopyty a odpovede sa ukladajú na disk vo firme a predvolená konfigurácia neodosiela žiadnu komunikáciu mimo nej.
-
S čím sa prepája
Server poskytuje štandardné API, preto ho prepojíme s nástrojmi, ktoré už používate: e-mailom, CRM, sieťovým diskom a tabuľkami. Oprávnenia k dokumentom preberieme z vašich systémov, aby sa vo výsledku nikomu nezobrazil súbor, ku ktorému nemá prístup.
-
Kto rozhoduje
Heslo správcu zostáva u vás a správcom údajov zostáva vaša spoločnosť. Na server vstupujeme až vtedy, keď nám niekto z vašej firmy otvorí prístup. Register ukazuje, kto sa na čo pýtal, a servisná zmluva určuje, kto zdvihne telefón, keď sa zariadenie pokazí.
Problém
Bojíte sa posielať firemné dokumenty do cloudu?
Riešenie HEXART
Server so 128 GB pamäte grafickej karty máte u seba a zmestia sa naň modely triedy 70B v kvantizácii. Požiadavky zostávajú na firemnom disku a prístup prideľuje váš administrátor. Začneme jedným procesom a zmeriame ušetrený čas ešte pred rozšírením nasadenia.
Opýtajte sa na konfiguráciu serveraOtázky a odpovede
Najčastejšie otázky
Aké modely sa zmestia na server so 128 GB pamäte grafickej karty?
Modely triedy 70B v kvantizovanej podobe, čo zvyčajne stačí na niekoľko desiatok súbežných rozhovorov v stredne veľkej firme.
Odchádzajú dopyty mimo firmy?
Nie. Dopytyvania a odpovede sa ukladajú na firemný disk a predvolená konfigurácia neodosiela údaje mimo firmy. Heslo správcu zostáva u vás a správcom údajov zostáva vaša firma.
Je zariadenie naše?
Áno, od prvého dňa. Ak po roku zmeníte dodávateľa softvéru, stroj zostane na mieste. Servisná zmluva určuje, kto zdvihne telefón, keď sa zariadenie pokazí.
Kto sa stará o server po implementácii?
Váš IT špecialista. Po dvoch dňoch školenia sám pridáva modely a zakladá účty. Server poskytuje štandardné API, takže ho prepojíme s e-mailom, CRM, sieťovým diskom a tabuľkami, ktoré už používate.
Nezáväzný rozhovor
Dohodnúť workshop s Paulom
Vyberte si tridsať minút alebo celý workshop. Termín si zarezervujete v kalendári, potvrdenie príde okamžite.
Paul Lazniak
Zakladateľ HEXART
- Stretnutie vždy s rovnakou osobou
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontakt
Porozprávajme sa o vašom projekte
Ukážeme fungujúce riešenie skôr, než o ňom začneme hovoriť. Napíšte, čo potrebujete: film, XR svet, AI systém alebo identitu značky.
Napíšte alebo zavolajte
Stačí pár viet: čo má vzniknúť, na kedy a pre koho.
- biuro@hexart.pl
- Telefón
- +48 662 016 430
- Adresa
- Aleja Zwycięstwa 96/98, 81-451 Gdynia