Liigu sisu juurde

Kohapealne AI-seade

AI-server Teie serveriruumis

Ettevõtte dokumentide saatmine välisesse API-sse ei pruugi sobida: õiguslikel põhjustel või lihtsalt ettevaatusest. Paigaldame teie juurde 128 GB videokaardimäluga masina, kus avatud keelemudelid töötavad ilma pilveühenduseta.

Praktikas

Andmed jäävad hoonesse

Kohalik LLM-server on üks seade serverikapis. See teeb sama, mida pilveteenus, kuid midagi ei saadeta väljapoole.

128 GB videokaardimäluga konfiguratsioon mahutab tänapäeval 70B-klassi kvantiseeritud mudeleid. Sellest piisab tavaliselt kümmekonnaks samaaegseks vestluseks keskmise suurusega ettevõttes.

Alustame ühest osakonnast, enamasti pakkumiste koostamisest või tehnilisest dokumentatsioonist. Mõõdame, kui palju aega tegelikult kokku hoitakse, ja alles seejärel kaasame järgmised meeskonnad. Teie IT-spetsialist saab pärast kahepäevast koolitust ise mudeleid lisada ja kontosid luua.

Seade kuulub teile esimesest päevast peale. Kui vahetate aasta pärast tarkvarapakkujat, jääb masin teile.

  • Kuidas see töötab

    Seade jõuab teie serveriruumi kasutusvalmina: süsteem, draiverid ja mitu avatud mudelit on juba installitud. Päringud ja vastused salvestatakse ettevõtte kettale ning vaikimisi seadistus ei saada andmeid välisvõrku.

  • Millega see liidestub

    Server pakub tavalist API-t, seega ühendame selle tööriistadega, mida juba kasutate: e-posti, CRM-i, võrguketta ja tabelitega. Dokumendiõigused pärinevad teie süsteemidest, et keegi ei näeks vastuses faili, millele tal puudub juurdepääs.

  • Kes otsustab

    Administraatori parool jääb teie valdusse ja andmete vastutav töötleja on endiselt teie ettevõte. Serverile pääseme ligi alles siis, kui keegi teie ettevõttest meile juurdepääsu annab. Logi näitab, kes mida küsis, ning hooldusleping määrab, kes telefonile vastab, kui seade rikki läheb.

Probleem

Kas kardate saata ettevõtte dokumendid pilve?

HEXARTi lahendus

128 GB graafikamäluga server asub teie juures ja mahutab kvantiseeritud 70B-klassi mudeleid. Päringud jäävad ettevõtte kettale ning juurdepääsu haldab teie administraator. Alustame ühe protsessiga ja mõõdame säästetud aega enne juurutuse laiendamist.

Küsige serveri seadistuse kohta

Korduma kippuvad küsimused

Korduma kippuvad küsimused

Milliseid mudeleid saab käitada serveris, mille graafikakaardil on 128 GB mälu?

70B-klassi kvantiseeritud mudelid, millest piisab tavaliselt keskmise suurusega ettevõttes mitme samaaegse vestluse jaoks.

Kas päringud liiguvad ettevõttest välja?

Ei. Päringud ja vastused salvestatakse ettevõtte kettale ning vaikimisi konfiguratsioon ei saada andmeid ettevõttest välja. Administraatori parool jääb teie valdusse ja andmete vastutav töötleja on teie ettevõte.

Kas seadmed kuuluvad meile?

Jah, alates esimesest päevast. Kui vahetate aasta pärast tarkvarapakkujat, jääb masin paigale. Hoolduslepingus on kirjas, kes telefonile vastab, kui seade rikki läheb.

Kes haldab serverit pärast juurutamist?

Teie IT-spetsialist saab pärast kahepäevast koolitust ise mudeleid lisada ja kontosid luua. Server pakub standardset API-t, mille kaudu ühendame selle teie e-posti, CRM-i, võrguketta ja juba kasutatavate tabelitega.

Kohustusteta konsultatsioon

Broneerige töötuba Pauliga

Valige 30 minutit või terve töötuba. Broneerige aeg kalendris, kinnitus saabub kohe.

Paul Lazniak

HEXART asutaja

Kontakt

Räägime teie projektist

Näitame töötavat lahendust enne, kui sellest rääkima hakkame. Kirjutage, mida vajate: video, XR-maailm, AI-süsteem või brändi identiteet.

Kirjutage või helistage

Piisab paarist lausest: mida on vaja luua, millal ja kellele.

Aadress
Aleja Zwycięstwa 96/98, 81-451 Gdynia

Lahenduste kataloog

Vaata kogu kataloogi
  • Kohalik teadmusbaas serveris (RAG)

    Otsige vestluse kaudu lepinguid, tehnilist dokumentatsiooni ja kirjavahetust, mida ettevõtte reeglid ei luba pilve saata. Mudel ja indeks asuvad teie serverikapis. Üks masin töötleb paralleelselt 5 kuni 20 lihtsat päringut 100 kuni 1 000 ms aknas. Järgmine server kahekordistab selle mahu.

  • Krüpteeritud ettevõtte sõnumside tehisintellektiga

    Ülevõtmisplaanid, palgaläbirääkimised ja personaliküsimused liiguvad praegu sõnumirakendustes, mille kasutustingimusi pole keegi lugenud. Loome eraldi kanali: server teie ruumides, seadmest seadmeni krüpteering ja AI-assistent samas võrgus.

  • AI-agendid vestluses ja telefonis

    Suur osa klienditoe päringutest on korduvad küsimused tellimuse staatuse, arve ja tarneaja kohta. AI-agent vastab neile teie dokumentatsiooni põhjal ning lahendab meie projektides 30–60% sellistest päringutest. Ülejäänud suunatakse koos vestluse kontekstiga edasi spetsialistile.

  • Lepingute AI analüüs enne allkirjastamist

    40-leheküljelises lepingus on tavaliselt 5 sätet, mis võivad tekitada tegelikke probleeme. Süsteem tuvastab need ning kuvab koos paragrahvi numbriga, et jurist või vastutav isik saaks alustada kõige olulisemast.

  • Sotsiaalmeedia automatiseerimine ettevõttes

    Ettevõtte profiil vaikib tavaliselt mitte ideede puudumise tõttu, vaid seetõttu, et kolmapäeval pole kellelgi selleks vaba tundi. Süsteem valmistab ette iganädalase postituste kava koos graafikaga, teie aga kinnitate, parandate või lükkate tagasi.