Vietoje esanti AI įranga
AI serveris jūsų serverinėje
Įmonės dokumentų siuntimas į išorinį API dažnai netinka teisiškai arba dėl saugumo sumetimų. Įrengiame pas jus mašiną su 128 GB vaizdo plokštės atminties, kurioje atviri kalbos modeliai veikia be jokio ryšio su debesimi.
Praktikoje
Duomenys lieka pastate
Vietinis LLM serveris, vienas įrenginys serverių spintoje. Jis atlieka tą patį, ką debesijos paslauga, tik nieko nesiunčia išorėn.
Konfigūracija su 128 GB vaizdo plokštės atminties šiandien talpina kvantizuotus 70B klasės modelius. Paprastai to pakanka keliolikai vienu metu vykstančių pokalbių vidutinio dydžio įmonėje.
Pradedame nuo vieno skyriaus, dažniausiai nuo pasiūlymų administravimo arba techninės dokumentacijos. Matuojame, kiek laiko iš tiesų sutaupoma, ir tik tada įtraukiame kitas komandas. Jūsų IT specialistas po dviejų dienų mokymų pats įdiegia papildomus modelius ir sukuria paskyras.
Įranga priklauso jums nuo pirmosios dienos. Jei po metų pakeisite programinės įrangos tiekėją, įranga liks vietoje.
-
Kaip tai veikia
Įranga pristatoma į Jūsų serverinę paruošta darbui: joje jau įdiegta sistema, tvarkyklės ir keli atvirojo kodo modeliai. Užklausos ir atsakymai saugomi įmonės diske, o numatytoji konfigūracija neleidžia duomenų srauto į išorę.
-
Su kuo jungiasi
Serveris pateikia standartinę API, todėl prijungiame jį prie to, ką jau naudojate: el. pašto, CRM, tinklo disko, skaičiuoklių. Dokumentų prieigos teises perkeliame iš jūsų sistemų, kad atsakyme niekas negautų failo, prie kurio neturi prieigos.
-
Kas priima sprendimus
Administratoriaus slaptažodis lieka pas Jus, o duomenų valdytoja išlieka Jūsų įmonė. Prie serverio prisijungiame tik tada, kai kas nors iš Jūsų suteikia mums prieigą. Žurnale matyti, kas ko teiravosi, o priežiūros sutartyje nurodyta, kas atsiliepia telefonu sugedus įrangai.
Problema
Ar bijote siųsti įmonės dokumentus į debesiją?
HEXART sprendimas
Serveris su 128 GB vaizdo plokštės atminties yra jūsų patalpose ir talpina 70B klasės kvantizuotus modelius. Užklausos lieka įmonės diske, o prieigą suteikia jūsų administratorius. Pradedame nuo vieno proceso ir apskaičiuojame sutaupytą laiką, prieš plėsdami diegimą.
Klauskite dėl serverio konfigūravimoKlausimai ir atsakymai
Dažniausiai užduodami klausimai
Kokius modelius galima paleisti serveryje su 128 GB vaizdo plokštės atminties?
70B klasės modeliai kvantizuota forma. Paprastai jų pakanka keliolikai vienu metu vykstančių pokalbių vidutinio dydžio įmonėje.
Ar užklausos išsiunčiamos už įmonės ribų?
Ne. Užklausos ir atsakymai saugomi įmonės diske, o numatytoji konfigūracija neleidžia duomenų srauto į išorę. Administratoriaus slaptažodis lieka pas Jus, o duomenų valdytoja lieka Jūsų įmonė.
Ar įranga priklauso mums?
Taip, nuo pirmos dienos. Jei po metų pakeisite programinės įrangos tiekėją, įranga liks vietoje. Techninės priežiūros sutartyje nurodyta, kas atsiliepia telefonu, kai įranga sugenda.
Kas prižiūri serverį po įdiegimo?
Jūsų IT specialistas. Po dviejų dienų mokymų jis pats įdiegia modelius ir sukuria paskyras. Serveryje veikia standartinė API, todėl prijungiame jį prie el. pašto, CRM, tinklo disko ir skaičiuoklių, kurias jau naudojate.
Pokalbis be jokių įsipareigojimų
Užsakyti praktinius mokymus su Paul
Pasirinkite trisdešimt minučių arba visą seminarą. Laiką rezervuojate kalendoriuje, patvirtinimas ateina iš karto.
Paul Lazniak
HEXART įkūrėjas
- Susitikimas visada su tuo pačiu žmogumi
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontaktai
Pasikalbėkime apie jūsų projektą
Parodysime veikiantį sprendimą prieš pradėdami apie jį pasakoti. Parašykite, ko jums reikia: filmo, XR pasaulio, AI sistemos ar prekės ženklo tapatybės.
Parašykite arba paskambinkite
Užtenka kelių sakinių: ką reikia sukurti, iki kada ir kam.
- El. paštas
- biuro@hexart.pl
- Telefonas
- +48 662 016 430
- Adresas
- Aleja Zwycięstwa 96/98, 81-451 Gdynia