Equipamento de IA no local
Servidor de IA no vosso centro de dados
O envio de documentos da empresa para uma API externa pode ser inaceitável: por motivos jurídicos ou simplesmente por precaução. Instalamos na sua empresa uma máquina com 128 GB de memória de placa gráfica, onde modelos linguísticos abertos funcionam sem qualquer ligação à nuvem.
Na prática
Os dados permanecem nas instalações
Um servidor LLM local é um único equipamento num bastidor. Faz o mesmo que um serviço na cloud, mas sem enviar dados para o exterior.
Uma configuração com 128 GB de memória da placa gráfica permite executar atualmente modelos de 70B quantizados. Normalmente, é suficiente para várias dezenas de conversas simultâneas numa empresa de média dimensão.
Começamos por um departamento, geralmente pelo tratamento de propostas ou pela documentação técnica. Medimos o tempo que é efetivamente recuperado e só depois envolvemos as restantes equipas. Após dois dias de formação, o vosso informático consegue adicionar modelos e criar contas sem ajuda.
O equipamento é vosso desde o primeiro dia. Se, ao fim de um ano, mudarem de fornecedor de software, a máquina fica convosco.
-
Como funciona
O equipamento chega às vossas instalações pronto a funcionar: o sistema, os controladores e vários modelos de código aberto já estão instalados. As perguntas e respostas ficam guardadas no disco da empresa, e a configuração predefinida não envia tráfego para o exterior.
-
Com o que se integra
O servidor disponibiliza uma API normal, por isso ligamo-lo às ferramentas que já utilizam: email, CRM, unidade de rede e folhas de cálculo. Replicamos as permissões dos documentos dos vossos sistemas para que ninguém receba uma resposta com um ficheiro a que não tem acesso.
-
Quem decide
A palavra-passe de administrador fica convosco e a vossa empresa continua a ser a responsável pelos dados. Só acedemos ao servidor quando alguém da vossa equipa nos dá acesso. O registo mostra quem perguntou o quê, e o contrato de assistência define quem atende o telefone quando o equipamento avaria.
Problema
Tem receio de enviar documentos da empresa para a cloud?
Solução HEXART
O servidor com 128 GB de memória gráfica fica nas vossas instalações e suporta modelos de classe 70B quantizados. Os pedidos permanecem no disco da empresa e o acesso é gerido pelo vosso administrador. Começamos com um processo e contabilizamos o tempo poupado antes de alargar a implementação.
Peça a configuração do servidorPerguntas e respostas
Perguntas frequentes
Que modelos cabem num servidor com 128 GB de memória gráfica?
Modelos de classe 70B em quantização, normalmente suficientes para várias dezenas de conversas simultâneas numa empresa de média dimensão.
Os pedidos saem da empresa?
Não. Os pedidos e as respostas são guardados num disco na empresa, e a configuração predefinida não envia tráfego para o exterior. A palavra-passe de administrador fica convosco, e a vossa empresa continua a ser a responsável pelos dados.
O equipamento é nosso?
Sim, desde o primeiro dia. Se ao fim de um ano mudarem de fornecedor de software, a máquina fica no mesmo sítio. O contrato de assistência define quem atende o telefone quando o equipamento avaria.
Quem gere o servidor após a implementação?
O seu profissional de TI. Após dois dias de formação, instala modelos e cria contas sem ajuda. O servidor disponibiliza uma API padrão, por isso ligamo-lo ao correio eletrónico, ao CRM, à unidade de rede e às folhas de cálculo que já utiliza.
Conversa sem compromisso
Agendar workshop com Paul
Escolha trinta minutos ou um workshop completo. Reserve a data no calendário, a confirmação chega de imediato.
Paul Lazniak
Fundador da HEXART
- Reunião sempre com a mesma pessoa
- 30 min
- biuro@hexart.pl
- +48 662 016 430
Contacto
Fale-nos sobre o seu projeto
Mostramos soluções funcionais antes de as apresentar. Indique o que procura: vídeo, mundo XR, sistema de IA ou identidade de marca.
Escreva ou ligue
Basta indicar em poucas frases: o que pretende criar, para quando e para quem.
- biuro@hexart.pl
- Telefone
- +48 662 016 430
- Morada
- Aleja Zwycięstwa 96/98, 81-451 Gdynia