Paikan päällä oleva AI-laitteisto
AI-palvelin omassa palvelintilassanne
Yrityksen asiakirjojen lähettäminen ulkoiseen rajapintaan voi olla juridisesti mahdotonta tai tietoturvariski. Asennamme toimitiloihinne koneen 128 GB:n näytönohjainmuistilla, jolloin avoimet kielimallit toimivat ilman pilviyhteyttä.
Käytännössä
Tiedot pysyvät rakennuksessa
Paikallinen LLM-palvelin on yksi laite räkkikaapissa. Se tekee saman kuin pilvipalvelu, mutta mitään ei lähetetä ulkopuolelle.
Näytönohjaimen 128 Gt:n muistilla varustettu kokoonpano pystyy nykyään ajamaan kvantisoituja 70B-luokan malleja. Se riittää yleensä useisiin samanaikaisiin keskusteluihin keskisuuressa yrityksessä.
Aloitamme yhdestä osastosta, useimmiten tarjouspalvelusta tai teknisestä dokumentaatiosta. Mittaamme, kuinka paljon aikaa todella säästyy, ja liitämme mukaan muita tiimejä vasta sen jälkeen. IT-vastaavanne pystyy lisäämään malleja ja luomaan tilejä itsenäisesti kahden päivän koulutuksen jälkeen.
Laitteisto on teidän ensimmäisestä päivästä lähtien. Jos vaihdatte ohjelmistotoimittajaa vuoden kuluttua, laite jää teille.
-
Miten se toimii
Laite saapuu palvelintilaanne käyttövalmiina: järjestelmä, ajurit ja muutama avoin malli on jo asennettu. Kyselyt ja vastaukset tallentuvat yrityksen omalle levylle, eikä oletusmääritys lähetä liikennettä ulkopuolelle.
-
Mihin se yhdistetään
Palvelin tarjoaa tavallisen API:n, joten liitämme sen jo käyttämiinne järjestelmiin: sähköpostiin, CRM-järjestelmään, verkkolevyyn ja taulukkolaskentaan. Siirrämme asiakirjojen käyttöoikeudet järjestelmistänne, jotta kukaan ei näe vastauksessa tiedostoa, johon hänellä ei ole pääsyä.
-
Kuka päättää
Pääkäyttäjän salasana pysyy teillä, ja yrityksenne säilyy tietojen rekisterinpitäjänä. Kirjaudumme palvelimelle vasta, kun joku teiltä antaa meille pääsyn. Loki näyttää, kuka kysyi mitäkin, ja huoltosopimus kertoo, kuka vastaa puhelimeen, jos laite rikkoutuu.
Ongelma
Epäröitkö yrityksen asiakirjojen lähettämistä pilveen?
HEXART-ratkaisu
Palvelimella on 128 GB näytönohjaimen muistia, ja se pyörittää kvantisoituja 70B-luokan malleja. Kyselyt pysyvät yrityksen omalla levyllä, ja käyttöoikeudet hallinnoi yrityksenne ylläpitäjä. Aloitamme yhdestä prosessista ja mittaamme säästyneen ajan ennen käyttöönoton laajentamista.
Kysy palvelimen määrityksistäKysymykset ja vastaukset
Usein kysytyt kysymykset
Mitä malleja 128 Gt:n näytönohjainmuistilla varustettu palvelin pystyy ajamaan?
70B-luokan kvantisoidut mallit, jotka riittävät yleensä useisiin samanaikaisiin keskusteluihin keskisuuressa yrityksessä.
Poistuvatko kyselyt yrityksen ulkopuolelle?
Ei. Kyselyt ja vastaukset tallentuvat yrityksen omalle levylle, eikä oletusmääritys lähetä tietoja yrityksen ulkopuolelle. Järjestelmänvalvojan salasana pysyy teillä, ja yrityksenne säilyy tietojen rekisterinpitäjänä.
Onko laitteisto meidän?
Kyllä, ensimmäisestä päivästä alkaen. Jos vaihdatte vuoden kuluttua ohjelmistotoimittajaa, laite jää paikalleen. Huoltosopimuksessa määritellään, kuka vastaa puhelimeen, jos laite vikaantuu.
Kuka ylläpitää palvelinta käyttöönoton jälkeen?
IT-asiantuntijanne. Kahden päivän koulutuksen jälkeen hän lisää itse malleja ja luo tilejä. Palvelin tarjoaa tavallisen API:n, joten liitämme sen sähköpostiin, CRM-järjestelmään, verkkolevyyn ja taulukkolaskentaohjelmiin, joita jo käytätte.
Sitoumukseton keskustelu
Varaa työpaja Paulin kanssa
Valitse 30 minuuttia tai kokonainen työpaja. Varaa aika kalenterista, vahvistus tulee heti.
Paul Lazniak
HEXARTin perustaja
- Tapaaminen aina saman henkilön kanssa
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Yhteystiedot
Keskustellaan projektistanne
Näytämme toimivan ratkaisun ennen kuin alamme esitellä sitä. Kirjoita, mitä tarvitsette: elokuva, XR-maailma, AI-järjestelmä tai brändi-identiteetti.
Kirjoita tai soita
Muutama lause riittää: mitä toteutetaan, milloin ja kenelle.
- Sähköposti
- biuro@hexart.pl
- Puhelin
- +48 662 016 430
- Osoite
- Aleja Zwycięstwa 96/98, 81-451 Gdynia