AI aprīkojums uz vietas
AI serveris jūsu serveru telpā
Uzņēmuma dokumentu nosūtīšana ārējam API mēdz būt nepieņemama: juridisku apsvērumu dēļ vai vienkārši piesardzības dēļ. Uzstādām pie jums iekārtu ar 128 GB videokartes atmiņu, kurā atvērtie valodu modeļi darbojas bez savienojuma ar mākoni.
Praksē
Dati paliek ēkā
Lokālais LLM serveris ir viena ierīce serveru skapī. Tas dara to pašu, ko mākoņpakalpojums, tikai neko nenosūta ārpus uzņēmuma.
Konfigurācija ar 128 GB grafiskās kartes atmiņu šobrīd spēj darbināt 70B klases modeļus kvantizētā formātā. Parasti ar to pietiek vairākām vienlaicīgām sarunām vidēja lieluma uzņēmumā.
Sākam ar vienu nodaļu, visbiežāk ar piedāvājumu apstrādi vai tehnisko dokumentāciju. Izmērām, cik daudz laika patiešām atgūstam, un tikai pēc tam pieslēdzam nākamās komandas. Jūsu IT speciālists pēc divu dienu apmācībām pats pievieno modeļus un izveido kontus.
Iekārta ir jūsu īpašumā jau no pirmās dienas. Ja pēc gada mainīsiet programmatūras piegādātāju, iekārta paliks pie jums.
-
Kā tas darbojas
Iekārta nonāk jūsu serveru telpā gatava darbam: sistēma, draiveri un vairāki atvērtā koda modeļi jau ir instalēti. Pieprasījumi un atbildes tiek saglabāti uzņēmuma diskā, un noklusējuma konfigurācija nenovirza datplūsmu ārpus uzņēmuma.
-
Ar ko integrējas
Serveris nodrošina standarta API, tāpēc pieslēdzam to jūsu jau izmantotajiem rīkiem: e-pastam, CRM, tīkla diskam un izklājlapām. Dokumentu piekļuves tiesības pārņemam no jūsu sistēmām, lai atbildē neviens neredzētu failu, kuram tam nav piekļuves.
-
Kas pieņem lēmumu
Administratora parole paliek pie jums, un datu pārzinis joprojām ir jūsu uzņēmums. Serverim piekļūstam tikai tad, kad kāds no jūsu uzņēmuma mums to atver. Reģistrā redzams, kurš un par ko ir jautājis, bet servisa līgumā noteikts, kurš atbild uz zvanu, ja iekārta salūst.
Problēma
Vai baidāties augšupielādēt uzņēmuma dokumentus mākonī?
HEXART risinājums
Serveris ar 128 GB videokartes atmiņu atrodas pie jums un spēj darbināt 70B klases kvantizētus modeļus. Pieprasījumi paliek uzņēmuma diskā, bet piekļuvi piešķir jūsu administrators. Sākam ar vienu procesu un aprēķinām ietaupīto laiku, pirms paplašinām ieviešanu.
Jautājiet par servera konfigurēšanuJautājumi un atbildes
Biežāk uzdotie jautājumi
Kādus modeļus var darbināt serverī ar 128 GB grafiskās kartes atmiņu?
70B klases modeļi kvantizētā formā, kas parasti ir pietiekami vairākiem desmitiem vienlaicīgu sarunu vidēja lieluma uzņēmumā.
Vai pieprasījumi tiek nosūtīti ārpus uzņēmuma?
Nē. Vaicājumi un atbildes tiek saglabātas uzņēmuma diskā, un noklusējuma konfigurācija nenovirza datplūsmu ārpus uzņēmuma. Administratora parole paliek jūsu rīcībā, un jūsu uzņēmums joprojām ir datu pārzinis.
Vai aprīkojums ir mūsu?
Jā, jau no pirmās dienas. Ja pēc gada mainīsiet programmatūras piegādātāju, iekārta paliks uz vietas. Pakalpojumu līgumā noteikts, kurš atbildēs uz zvanu, ja iekārta salūzīs.
Kas uztur serveri pēc ieviešanas?
Jūsu IT speciālists pēc 2 dienu apmācības pats pievieno modeļus un izveido kontus. Serveris nodrošina standarta API, tāpēc to pieslēdzam e-pastam, CRM, tīkla diskam un izklājlapām, ko jau izmantojat.
Saruna bez saistībām
Pieteikt darbnīcu ar Paul
Izvēlieties 30 minūtes vai pilnu darbnīcu. Rezervējiet laiku kalendārā, un apstiprinājums pienāks uzreiz.
Paul Lazniak
HEXART dibinātājs
- Tikšanās vienmēr ar vienu un to pašu personu
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Kontakti
Pārrunāsim jūsu projektu
Parādīsim strādājošu risinājumu, pirms sāksim par to stāstīt. Uzrakstiet, kas jums nepieciešams: filma, XR vide, AI sistēma vai zīmola identitāte.
Rakstiet vai zvaniet
Pietiek ar dažiem teikumiem: kas jāizveido, līdz kuram datumam un kam.
- E-pasts
- biuro@hexart.pl
- Tālrunis
- +48 662 016 430
- Adrese
- Aleja Zwycięstwa 96/98, 81-451 Gdynia