KI-Hardware vor Ort
KI-Server in Ihrem Serverraum
Die Übertragung von Firmendaten an externe APIs ist oft unzulässig: aus rechtlichen Gründen oder Sicherheitsbedenken. Wir implementieren bei Ihnen Hardware mit 128 GB GPU-Speicher, auf der Open-Source-Sprachmodelle ohne Cloud-Anbindung laufen.
In der Praxis
Die Daten bleiben im Gebäude
Ein lokaler LLM-Server ist ein Gerät im Rack. Er leistet dasselbe wie ein Cloud-Dienst, ohne Daten nach außen zu senden.
Eine Konfiguration mit 128 GB Grafikspeicher kann heute Modelle der 70B-Klasse in quantisierter Form ausführen. Das reicht in der Regel für ein Dutzend gleichzeitige Gespräche in einem mittelständischen Unternehmen.
Wir beginnen mit einer Abteilung, meist mit dem Angebotsservice oder der technischen Dokumentation. Wir messen, wie viel Zeit tatsächlich eingespart wird, und binden erst danach weitere Teams ein. Ihr IT-Mitarbeiter kann nach einer zweitägigen Schulung selbst Modelle hinzufügen und Konten einrichten.
Die Hardware gehört Ihnen vom ersten Tag an. Wenn Sie nach einem Jahr den Softwareanbieter wechseln, bleibt die Maschine vor Ort.
-
So funktioniert es
Die Maschine kommt betriebsbereit in Ihr Rechenzentrum: System, Treiber und mehrere Open-Source-Modelle sind bereits installiert. Anfragen und Antworten werden auf einem Datenträger in Ihrem Unternehmen gespeichert. Die Standardkonfiguration überträgt keine Daten nach außen.
-
Integration
Der Server stellt eine normale API bereit. So binden wir ihn an die Systeme an, die Sie bereits nutzen: E-Mail, CRM, Netzlaufwerk und Tabellen. Die Dokumentenberechtigungen übernehmen wir aus Ihren Systemen, damit niemand in einer Antwort eine Datei sieht, auf die er keinen Zugriff hat.
-
Entscheidungshoheit
Das Administratorpasswort bleibt bei Ihnen, und Ihre Firma bleibt für die Daten verantwortlich. Wir greifen erst auf den Server zu, wenn jemand aus Ihrem Team uns den Zugang freigibt. Das Protokoll zeigt, wer welche Anfrage gestellt hat. Der Wartungsvertrag regelt, wer ans Telefon geht, wenn die Hardware ausfällt.
Problem
Haben Sie Bedenken, Unternehmensdokumente in die Cloud hochzuladen?
Die Lösung von HEXART
Ein Server mit 128 GB Grafikspeicher steht bei Ihnen und kann Modelle der 70B-Klasse in quantisierter Form ausführen. Anfragen bleiben auf dem Unternehmenslaufwerk, und Ihr Administrator verwaltet die Zugriffsrechte. Wir starten mit einem Prozess und messen die eingesparte Zeit, bevor wir die Implementierung ausweiten.
Fragen Sie nach der ServerkonfigurationFragen und Antworten
Häufig gestellte Fragen
Welche Modelle passen auf einen Server mit 128 GB Grafikspeicher?
Modelle der 70B-Klasse in quantisierter Form, was für gewöhnlich für mehrere gleichzeitige Gespräche in einem mittelständischen Unternehmen ausreicht.
Verlassen Anfragen das Unternehmen?
Nein. Anfragen und Antworten werden auf einem Datenträger in Ihrem Unternehmen gespeichert. Die Standardkonfiguration leitet keinen Datenverkehr nach außen. Das Administratorpasswort bleibt bei Ihnen, und Ihr Unternehmen bleibt der Datenverantwortliche.
Gehört die Ausrüstung uns?
Ja, ab dem ersten Tag. Wenn Sie nach einem Jahr den Softwareanbieter wechseln, bleibt die Maschine vor Ort. Der Servicevertrag legt fest, wer ans Telefon geht, wenn die Anlage ausfällt.
Wer betreut den Server nach der Implementierung?
Ihr IT-Experte. Nach einer 2-tägigen Schulung fügt er selbst Modelle hinzu und legt Konten an. Der Server stellt eine gewöhnliche API bereit. So binden wir ihn an E-Mail, CRM, Netzlaufwerk und Tabellen an, die Sie bereits nutzen.
Unverbindliches Gespräch
Workshop mit Paul vereinbaren
Wählen Sie 30 Minuten oder einen vollständigen Workshop. Buchen Sie den Termin im Kalender, die Bestätigung erfolgt sofort.
Paul Lazniak
Gründer von HEXART
- Fester Ansprechpartner für jedes Gespräch
- 30 Min.
- biuro@hexart.pl
- +48 662 016 430
Kontakt
Lassen Sie uns über Ihr Projekt sprechen
Wir zeigen ein funktionierendes System, bevor wir darüber sprechen. Schreiben Sie uns, was Sie benötigen: Film, XR-Welt, KI-System oder Markenidentität.
Schreiben Sie uns oder rufen Sie an
Wenige Sätze genügen: Was soll entstehen, bis wann und für wen.
- biuro@hexart.pl
- Telefon
- +48 662 016 430
- Adresse
- Aleja Zwycięstwa 96/98, 81-451 Gdynia