Wir raten nicht dazu, alles Bestehende zu verwerfen. Eine eigenständige Umsetzung ist ein guter Ausgangspunkt: Das Unternehmen weiß bereits, was es will, und hat einen funktionsfähigen Prototyp. Die Prüfung beantwortet Fragen, die während der Entwicklung niemand gestellt hat, weil sie damals noch nicht relevant waren.
Von 344 verifizierten KI-Vorfällen in Unternehmen aus den Jahren 2023–2026 verursachte das System in 188 Fällen selbst den Schaden, ohne dass ein Angreifer beteiligt war. Das Muster wiederholt sich: Der Agent erhielt während der Entwicklung Schreibzugriff auf die Datenbank, und während des Betriebs wurde ihm dieser Zugriff nicht entzogen.
Im Juli 2026 führte ein an die Produktionsdatenbank angebundener Coding-Agent nach zehn Minuten eine Migration in der Produktionsumgebung durch. In einem anderen dokumentierten Fall dauerte es neun Sekunden, die Datenbank samt Backups zu löschen.
Was bei eigenständigen Implementierungen schiefläuft
Die Berechtigungen aus der Bauphase bleiben auf die Bauphase beschränkt
Der Agent hat vollständigen Schreibzugriff auf die Datenbank, das Postfach oder das CRM, weil das beim Testen praktisch war. Schreibzugriff entziehen und eine menschliche Freigabe einführen: Das ist meist die erste Korrektur.
Ein Backup, das noch niemand wiederhergestellt hat
Ein Backup ist in den Einstellungen vorhanden. Niemand hat geprüft, ob sich die Daten daraus wiederherstellen lassen und wie lange das dauert.
API-Schlüssel im Code, in einer Tabelle oder im Chat
Der Schlüssel zum Modell und zum Buchhaltungssystem befindet sich in einer einzigen Datei, die alle Personen mit Zugriff auf das Repository sehen können.
Kein Protokoll
Niemand kann sagen, was das System letzten Dienstag verschickt hat und an wen. Ohne diese Information lassen sich weder Reklamationen noch Beschwerden bearbeiten.
„Funktioniert“ bedeutet: „Es hat in drei Fällen funktioniert“
Es gibt kein Testset. Daher wird jede Änderung am Prompt oder an der Modellversion live an Kunden getestet.
Chatbot ohne Hinweis darauf, dass er eine KI ist
Ab dem 2. August 2026 gilt die Pflicht aus Art. 50 des AI Act. Sie betrifft Website-Chatbots, Voicebots und Postfachassistenten, wenn sie Kunden antworten.
Modellanbieter außerhalb des Verarbeitungsverzeichnisses
Kundendaten werden an eine externe API übermittelt, doch im Verzeichnis der Verarbeitungstätigkeiten und in den Auftragsverarbeitungsverträgen steht dazu nichts.
So läuft die Bestandsaufnahme ab
- Tag 1: Gespräch und Zugriff auf die Konfiguration Wer hat es gebaut, was soll es tun, wo läuft es und welche Schlüssel verwendet es? Zugriff auf die Konfiguration, nicht auf Kundendaten.
- Tage 2–3: Prüfung anhand einer Liste mit zwölf Punkten Dieselbe Liste, die wir weiter unten veröffentlichen. Jeder Punkt erhält eine von drei Bewertungen: beibehalten, überarbeiten, neu aufsetzen.
- Tag 4: Bericht mit den Kosten für jede Position Was bleibt, was wir verbessern, was neu aufgebaut wird und was jeder Posten kostet. Der Bericht gehört Ihnen, unabhängig davon, wer die Änderungen umsetzt.
- Tage 5–10: Anpassungen (optional) Üblicherweise Berechtigungen, Geheimnisse, Backups, Protokolle und ein Testsatz. Die Dokumentation entsteht von Grund auf, weil es sie bei eigenständigen Implementierungen nicht gibt.
Eine Checkliste, die Sie selbst durchgehen können
Zwölf Fragen. Wenn Sie mehr als drei davon mit „weiß ich nicht“ beantworten, ist eine Prüfung nötig. Wenn Sie alle mit „ja“ beantworten, ist sie nicht nötig und Sie sollten dafür nicht bezahlen.
- Hat der Agent ein eigenes Konto mit minimalen Berechtigungen? Nicht das Konto des Mitarbeiters, der es eingerichtet hat.
- Erfordert die Produktionsfreigabe eine menschliche Genehmigung? E-Mail-Versand, Rechnung, Änderung im CRM, Löschung beliebiger Inhalte.
- Hat jemand im letzten Monat ein Backup wiederhergestellt? Er hat es wiederhergestellt, nicht „eingeschaltet“.
- Wo werden die API-Schlüssel gespeichert und wer kann sie sehen? Wenn die Antwort mit „in der Datei“ beginnt, ist das die Antwort.
- Wird jede Systemaktivität protokolliert? Mit Zeitstempel und Inhalt, damit Sie auf eine Beschwerde von letzter Woche antworten können.
- Wer startet nach jeder Änderung den Testsatz? Mindestens dreißig Fälle, darunter auch schwierige.
- Was passiert, wenn der Anbieter die Modellversion ändert? Versionen werden alle paar Monate eingestellt. Wer weiß davon und wer prüft das Ergebnis nach der Änderung?
- Weiß Ihr Gesprächspartner, dass er mit einer KI spricht? Kunde oder Mitarbeiter. Art. 50 AI Act, ab dem 2. August 2026.
- Ist der Modellanbieter im Verzeichnis der Verarbeitungstätigkeiten aufgeführt? Zusammen mit dem Auftragsverarbeitungsvertrag. Gilt für jede externe API, an die personenbezogene Daten übermittelt werden.
- Wer reagiert, wenn morgens um sieben etwas ausfällt? Vor- und Nachname der für das System verantwortlichen Person, nicht „IT-Abteilung“.
- Haben die Personen, die das Tool verwenden, eine dokumentierte Schulung absolviert? Art. 4 AI Act: Plan, Teilnehmerliste, Materialien.
- Wie viel kostet das System pro Monat und wer kann die Rechnung einsehen? Sprunghaft steigende API-Rechnungen sind nach dem dritten Monat die häufigste Überraschung.
Was bleibt und was überarbeitet wird
| Bleibt | Wir verbessern | Wird von Grund auf neu entwickelt |
|---|---|---|
| Prozesslogik und Toolauswahl | Berechtigungen und separate Konten | Richtlinie zur Nutzung von KI |
| Prompts und Konfiguration nach den Tests | Platz für Schlüssel und Geheimnisse | KI-Systemregister im Unternehmen |
| Integrationen, die funktionieren | Backups mit Wiederherstellungstest | Testset |
| Die Person, die den Prozess aufgebaut hat, als Prozesseigner | Aktionsprotokolle | Offenlegungstexte gemäß Art. 50 |
Fragen und Antworten
Häufig gestellte Fragen
Wir haben einen Agenten in Claude Code gebaut und er funktioniert. Wozu brauchen wir einen Review?
Um zu prüfen, was passiert, wenn es ausfällt oder etwas tut, das niemand wollte. Die Prüfung bewertet Berechtigungen, Backups, Schlüssel, Protokolle, den Testsatz und die Dokumentation, nicht den Prototyp. Wenn Sie zwölf Fragen auf der Liste mit „Ja“ beantworten, ist keine Prüfung erforderlich.
Bedeutet eine Überprüfung, dass alles von Grund auf neu aufgebaut wird?
Nein. Die Prozesslogik, Prompts und funktionierenden Integrationen bleiben in der Regel bestehen. Überarbeitet werden Berechtigungen, Secrets, Backups und Logs. Die Dokumentation wird neu erstellt, da sie bei eigenständigen Implementierungen meist fehlt.
Wie lange dauert ein Audit und was kostet es?
Vier Arbeitstage bis zum Bericht: Gespräch, zwei Tage Prüfung anhand einer Liste mit zwölf Punkten, ein Tag für den Bericht mit den Kosten jeder Korrektur. Das Angebot erhalten Sie nach dem ersten Gespräch, abhängig von der Anzahl der Systeme. Der Bericht gehört Ihnen, unabhängig davon, wer die Korrekturen umsetzt.
Müssen wir Ihnen Zugriff auf Kundendaten gewähren?
Nein. Für die Prüfung benötigen wir Zugriff auf Konfigurationen, Berechtigungen und Protokolle, nicht auf die Dateninhalte. Wenn wir die Funktionsweise anhand von Beispielen prüfen müssen, arbeiten wir mit einer Kopie oder anonymisierten Daten.
Weitere Pfade
Nächste Schritte
-
Wir möchten starten Wo die KI-Implementierung im Unternehmen beginnt Welcher Prozess zuerst kommt, wie man ihn misst und woran man den ROI erkennt. -
Recht und Compliance AI Act und polnisches Gesetz: Pflichten für Unternehmen Art. 4, Art. 50, polnisches Gesetz ab 11. August, Bußgelder ab 28. Oktober. Was wir prüfen und welche Dokumentation wir übergeben. -
Förderungen Förderungen für KI-Implementierungen für Unternehmen im Jahr 2026 PARP, KPO, FENG: Programme, Schwellenwerte und Unterlagen für einen einreichfähigen Antrag. - Generator Implementierungsplan in neun Fragen Branche, Größe, Prozess, Daten, Systeme. Sie erhalten als Antwort Empfehlungen, Etappen, Kostenrichtwerte, Pflichten und Fördermöglichkeiten. Jeder Punkt ist mit Quellen belegt.
Unverbindliches Gespräch
Prüfung innerhalb von vier Werktagen
Ein Gespräch, zwei Tage nach einer Liste mit zwölf Punkten, ein Bericht mit den Kosten für jede Korrektur. Beginnen wir mit 30 Minuten, in denen Sie uns erzählen, was ansteht und wo.