Zum Inhalt springen

KI-Hardware vor Ort

KI-Server in Ihrem Serverraum

Die Übertragung von Firmendaten an externe APIs ist oft unzulässig: aus rechtlichen Gründen oder Sicherheitsbedenken. Wir implementieren bei Ihnen Hardware mit 128 GB GPU-Speicher, auf der Open-Source-Sprachmodelle ohne Cloud-Anbindung laufen.

In der Praxis

Die Daten bleiben im Gebäude

Ein lokaler LLM-Server ist ein Gerät im Rack. Er leistet dasselbe wie ein Cloud-Dienst, ohne Daten nach außen zu senden.

Eine Konfiguration mit 128 GB Grafikspeicher kann heute Modelle der 70B-Klasse in quantisierter Form ausführen. Das reicht in der Regel für ein Dutzend gleichzeitige Gespräche in einem mittelständischen Unternehmen.

Wir beginnen mit einer Abteilung, meist mit dem Angebotsservice oder der technischen Dokumentation. Wir messen, wie viel Zeit tatsächlich eingespart wird, und binden erst danach weitere Teams ein. Ihr IT-Mitarbeiter kann nach einer zweitägigen Schulung selbst Modelle hinzufügen und Konten einrichten.

Die Hardware gehört Ihnen vom ersten Tag an. Wenn Sie nach einem Jahr den Softwareanbieter wechseln, bleibt die Maschine vor Ort.

  • So funktioniert es

    Die Maschine kommt betriebsbereit in Ihr Rechenzentrum: System, Treiber und mehrere Open-Source-Modelle sind bereits installiert. Anfragen und Antworten werden auf einem Datenträger in Ihrem Unternehmen gespeichert. Die Standardkonfiguration überträgt keine Daten nach außen.

  • Integration

    Der Server stellt eine normale API bereit. So binden wir ihn an die Systeme an, die Sie bereits nutzen: E-Mail, CRM, Netzlaufwerk und Tabellen. Die Dokumentenberechtigungen übernehmen wir aus Ihren Systemen, damit niemand in einer Antwort eine Datei sieht, auf die er keinen Zugriff hat.

  • Entscheidungshoheit

    Das Administratorpasswort bleibt bei Ihnen, und Ihre Firma bleibt für die Daten verantwortlich. Wir greifen erst auf den Server zu, wenn jemand aus Ihrem Team uns den Zugang freigibt. Das Protokoll zeigt, wer welche Anfrage gestellt hat. Der Wartungsvertrag regelt, wer ans Telefon geht, wenn die Hardware ausfällt.

Problem

Haben Sie Bedenken, Unternehmensdokumente in die Cloud hochzuladen?

Die Lösung von HEXART

Ein Server mit 128 GB Grafikspeicher steht bei Ihnen und kann Modelle der 70B-Klasse in quantisierter Form ausführen. Anfragen bleiben auf dem Unternehmenslaufwerk, und Ihr Administrator verwaltet die Zugriffsrechte. Wir starten mit einem Prozess und messen die eingesparte Zeit, bevor wir die Implementierung ausweiten.

Fragen Sie nach der Serverkonfiguration

Fragen und Antworten

Häufig gestellte Fragen

Welche Modelle passen auf einen Server mit 128 GB Grafikspeicher?

Modelle der 70B-Klasse in quantisierter Form, was für gewöhnlich für mehrere gleichzeitige Gespräche in einem mittelständischen Unternehmen ausreicht.

Verlassen Anfragen das Unternehmen?

Nein. Anfragen und Antworten werden auf einem Datenträger in Ihrem Unternehmen gespeichert. Die Standardkonfiguration leitet keinen Datenverkehr nach außen. Das Administratorpasswort bleibt bei Ihnen, und Ihr Unternehmen bleibt der Datenverantwortliche.

Gehört die Ausrüstung uns?

Ja, ab dem ersten Tag. Wenn Sie nach einem Jahr den Softwareanbieter wechseln, bleibt die Maschine vor Ort. Der Servicevertrag legt fest, wer ans Telefon geht, wenn die Anlage ausfällt.

Wer betreut den Server nach der Implementierung?

Ihr IT-Experte. Nach einer 2-tägigen Schulung fügt er selbst Modelle hinzu und legt Konten an. Der Server stellt eine gewöhnliche API bereit. So binden wir ihn an E-Mail, CRM, Netzlaufwerk und Tabellen an, die Sie bereits nutzen.

Unverbindliches Gespräch

Workshop mit Paul vereinbaren

Wählen Sie 30 Minuten oder einen vollständigen Workshop. Buchen Sie den Termin im Kalender, die Bestätigung erfolgt sofort.

Paul Lazniak

Gründer von HEXART

Kontakt

Lassen Sie uns über Ihr Projekt sprechen

Wir zeigen ein funktionierendes System, bevor wir darüber sprechen. Schreiben Sie uns, was Sie benötigen: Film, XR-Welt, KI-System oder Markenidentität.

Schreiben Sie uns oder rufen Sie an

Wenige Sätze genügen: Was soll entstehen, bis wann und für wen.

Adresse
Aleja Zwycięstwa 96/98, 81-451 Gdynia

Implementierungskatalog

Gesamten Katalog ansehen
  • Lokale Wissensdatenbank auf dem Server (RAG)

    Durchsuchen Sie Verträge, technische Dokumente und E-Mails per Chat, ohne Daten in die Cloud zu senden. Modell und Index verbleiben in Ihrem Server-Rack. Eine Maschine verarbeitet parallel 5 bis 20 Standardanfragen in 100 bis 1.000 ms. Ein weiterer Server verdoppelt diese Kapazität.

  • Verschlüsselter Unternehmens-Messenger mit KI

    Übernahmepläne, Gehaltsverhandlungen und Personalthemen laufen heute über Messenger, deren Nutzungsbedingungen niemand gelesen hat. Wir richten einen dedizierten Kanal ein: Server an Ihrem Standort, Ende-zu-Ende-Verschlüsselung, KI-Assistent im selben Netzwerk.

  • KI-Agenten für Chat und Telefonie

    Ein Großteil der Supportanfragen betrifft wiederkehrende Themen wie Bestellstatus, Rechnungen oder Liefertermine. Der KI-Agent beantwortet diese direkt aus Ihrer Dokumentation und schließt in unseren Projekten 30–60% dieser Fälle ab. Übrige Anfragen übergibt er inklusive Gesprächskontext an Ihre Mitarbeiter.

  • KI-Vertragsanalyse vor der Unterzeichnung

    Ein 40-seitiger Vertrag enthält meist 5 Klauseln, die wirklich kritisch sind. Das System findet sie und verweist direkt auf die Paragrafennummer, damit Juristen oder Verantwortliche sofort beim Wesentlichen ansetzen.

  • Social-Media-Automatisierung für Unternehmen

    Unternehmensprofile verstummen selten aus Mangel an Ideen, sondern weil am Mittwoch die Zeit fehlt. Das System erstellt wöchentliche Beitragsentwürfe inklusive Grafiken; Sie prüfen, passen an oder verwerfen.