Kohapealne AI-seade
AI-server Teie serveriruumis
Ettevõtte dokumentide saatmine välisesse API-sse ei pruugi sobida: õiguslikel põhjustel või lihtsalt ettevaatusest. Paigaldame teie juurde 128 GB videokaardimäluga masina, kus avatud keelemudelid töötavad ilma pilveühenduseta.
Praktikas
Andmed jäävad hoonesse
Kohalik LLM-server on üks seade serverikapis. See teeb sama, mida pilveteenus, kuid midagi ei saadeta väljapoole.
128 GB videokaardimäluga konfiguratsioon mahutab tänapäeval 70B-klassi kvantiseeritud mudeleid. Sellest piisab tavaliselt kümmekonnaks samaaegseks vestluseks keskmise suurusega ettevõttes.
Alustame ühest osakonnast, enamasti pakkumiste koostamisest või tehnilisest dokumentatsioonist. Mõõdame, kui palju aega tegelikult kokku hoitakse, ja alles seejärel kaasame järgmised meeskonnad. Teie IT-spetsialist saab pärast kahepäevast koolitust ise mudeleid lisada ja kontosid luua.
Seade kuulub teile esimesest päevast peale. Kui vahetate aasta pärast tarkvarapakkujat, jääb masin teile.
-
Kuidas see töötab
Seade jõuab teie serveriruumi kasutusvalmina: süsteem, draiverid ja mitu avatud mudelit on juba installitud. Päringud ja vastused salvestatakse ettevõtte kettale ning vaikimisi seadistus ei saada andmeid välisvõrku.
-
Millega see liidestub
Server pakub tavalist API-t, seega ühendame selle tööriistadega, mida juba kasutate: e-posti, CRM-i, võrguketta ja tabelitega. Dokumendiõigused pärinevad teie süsteemidest, et keegi ei näeks vastuses faili, millele tal puudub juurdepääs.
-
Kes otsustab
Administraatori parool jääb teie valdusse ja andmete vastutav töötleja on endiselt teie ettevõte. Serverile pääseme ligi alles siis, kui keegi teie ettevõttest meile juurdepääsu annab. Logi näitab, kes mida küsis, ning hooldusleping määrab, kes telefonile vastab, kui seade rikki läheb.
Probleem
Kas kardate saata ettevõtte dokumendid pilve?
HEXARTi lahendus
128 GB graafikamäluga server asub teie juures ja mahutab kvantiseeritud 70B-klassi mudeleid. Päringud jäävad ettevõtte kettale ning juurdepääsu haldab teie administraator. Alustame ühe protsessiga ja mõõdame säästetud aega enne juurutuse laiendamist.
Küsige serveri seadistuse kohtaKorduma kippuvad küsimused
Korduma kippuvad küsimused
Milliseid mudeleid saab käitada serveris, mille graafikakaardil on 128 GB mälu?
70B-klassi kvantiseeritud mudelid, millest piisab tavaliselt keskmise suurusega ettevõttes mitme samaaegse vestluse jaoks.
Kas päringud liiguvad ettevõttest välja?
Ei. Päringud ja vastused salvestatakse ettevõtte kettale ning vaikimisi konfiguratsioon ei saada andmeid ettevõttest välja. Administraatori parool jääb teie valdusse ja andmete vastutav töötleja on teie ettevõte.
Kas seadmed kuuluvad meile?
Jah, alates esimesest päevast. Kui vahetate aasta pärast tarkvarapakkujat, jääb masin paigale. Hoolduslepingus on kirjas, kes telefonile vastab, kui seade rikki läheb.
Kes haldab serverit pärast juurutamist?
Teie IT-spetsialist saab pärast kahepäevast koolitust ise mudeleid lisada ja kontosid luua. Server pakub standardset API-t, mille kaudu ühendame selle teie e-posti, CRM-i, võrguketta ja juba kasutatavate tabelitega.
Kohustusteta konsultatsioon
Broneerige töötuba Pauliga
Valige 30 minutit või terve töötuba. Broneerige aeg kalendris, kinnitus saabub kohe.
Paul Lazniak
HEXART asutaja
- Kohtumine alati sama inimesega
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontakt
Räägime teie projektist
Näitame töötavat lahendust enne, kui sellest rääkima hakkame. Kirjutage, mida vajate: video, XR-maailm, AI-süsteem või brändi identiteet.
Kirjutage või helistage
Piisab paarist lausest: mida on vaja luua, millal ja kellele.
- E-post
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Aadress
- Aleja Zwycięstwa 96/98, 81-451 Gdynia