Hoppa till innehållet

Gjort på egen hand

Granskning av en AI-lösning som ni har byggt själva

Någon på företaget har satt upp en agent i Claude Code, n8n eller Make. Den fungerar så länge den fungerar. Vi undersöker vad som händer när den slutar fungera, och vad som bör behållas respektive byggas om.

  • Steg: 4
  • Lästid: 5 min
  • Frågor: 4

Vi uppmanar er inte att kasta bort det ni redan har. En egen implementation är en bra utgångspunkt: företaget vet redan vad det vill och har en fungerande prototyp. Genomgången besvarar frågor som ingen ställde under utvecklingen, eftersom de inte behövdes då.

Av 344 verifierade AI-incidenter i företag under 2023–2026 orsakade systemet självt skada i 188 fall, utan någon angripare. Mönstret upprepas: agenten fick skrivbehörighet till databasen under utvecklingen, och ingen tog bort den när systemet sattes i drift.

I juli 2026 genomförde en kodningsagent som var ansluten till produktionsdatabasen en migrering i produktion efter tio minuter. I ett annat dokumenterat fall tog det nio sekunder att radera databasen tillsammans med säkerhetskopiorna.

Vad går fel vid egenimplementeringar

Behörigheter från byggfasen gäller endast under byggfasen

Agenten har full skrivbehörighet till databasen, inkorgen eller CRM-systemet eftersom det var bekvämt under testerna. Att ta bort skrivbehörigheten och införa mänskligt godkännande är vanligtvis den första åtgärden.

En säkerhetskopia som ingen har återställt

En kopia finns i inställningarna. Ingen har kontrollerat om det går att återställa den eller hur lång tid det tar.

API-nycklar i kod, kalkylblad eller chatt

Nyckeln till modellen och bokföringssystemet i en och samma fil, synlig för alla med åtkomst till kodförrådet.

Ingen logotyp

Ingen kan säga vad systemet skickade förra tisdagen eller till vem. Utan den informationen går det inte att hantera reklamationer eller klagomål.

”Fungerar” betyder ”det fungerade i tre exempel”

Det finns ingen testsvit, så varje ändring av prompten eller modellversionen testas live på kunderna.

Chatbot utan information om att det är AI

Från och med den 2 augusti 2026 gäller skyldigheten enligt artikel 50 i AI Act. Den omfattar en bot på webbplatsen, en röstbot och en assistent i inkorgen om de svarar kunder.

Modellleverantör utanför behandlingsregistret

Kunddata skickas till ett externt API, men det nämns inte i behandlingsregistret eller i personuppgiftsbiträdesavtalen.

Närbild på kugghjul i mässing, en tand är sprucken, en tunn gyllene spricka
Vidare, steg 02 Så går genomgången till

Så går genomgången till

  1. Dag 1: samtal och åtkomst till konfigurationen Vem byggde det, vad ska det göra, var finns det och vilka nycklar har det. Åtkomst till konfigurationen, inte till kundernas data.
  2. Dag 2–3: genomgång enligt en checklista med tolv punkter Samma lista som vi publicerar nedan. Varje punkt får ett av tre betyg: behåll, förbättra eller bygg om.
  3. Dag 4: rapport med kostnaden för varje post Vad som behålls, vad vi förbättrar, vad som byggs om och vad varje post kostar. Rapporten tillhör er, oavsett vem som utför ändringarna.
  4. Dag 5–10: ändringar (valfritt) Vanligtvis behörigheter, hemligheter, säkerhetskopior, loggar och en testuppsättning. Dokumentationen skapas från grunden eftersom den saknas vid fristående implementationer.
Ett stort förstoringsglas över en plan för liten automatisering, ritad med gyllene linjer, med några svaga punkter markerade i orange
Vidare, steg 03 En checklista som ni kan gå igenom själva

En checklista som ni kan gå igenom själva

Tolv frågor. Om svaret på fler än tre är ”jag vet inte” behövs en genomgång. Om svaret är ”ja” på alla behövs den inte, och det finns ingen anledning att betala för den.

  1. Har agenten ett eget konto med minimala behörigheter? Inte kontot tillhörande medarbetaren som satte upp det.
  2. Kräver överföring till produktion godkännande av en människa? Skicka ett mejl, skapa en faktura, uppdatera CRM eller ta bort något.
  3. Har någon återställt en säkerhetskopia under den senaste månaden? Han återställde, han ”satte inte på”.
  4. Var lagras API-nycklarna och vem kan se dem? Om svaret börjar med ”i filen” är det svaret.
  5. Loggas alla systemåtgärder? Med tid och innehåll, så att det går att besvara reklamationen från förra veckan.
  6. Vem kör testsviten efter varje ändring? Minst trettio fall, även svåra.
  7. Vad händer om leverantören ändrar modellversionen? Versioner fasas ut med några månaders mellanrum. Vem känner till det och vem kontrollerar resultatet efter ändringen?
  8. Vet samtalspartnern att hen pratar med AI? Kund eller anställd. Artikel 50 i AI Act, från och med 2 augusti 2026.
  9. Finns modellleverantören med i registret över behandlingsaktiviteter? Tillsammans med ett personuppgiftsbiträdesavtal. Gäller alla externa API:er som tar emot personuppgifter.
  10. Vem rycker in när något slutar fungera klockan sju på morgonen? För- och efternamn på den person som ansvarar för systemet, inte ”IT-avdelningen”.
  11. Har de som använder verktyget genomgått dokumenterad utbildning? Art. 4 i AI Act: plan, deltagarlista, material.
  12. Vad kostar systemet per månad och vem ser fakturan? Kostnadstoppar på API-fakturan är den vanligaste överraskningen efter den tredje månaden.
Ett underlägg med tolv rutor, fyra markerade med en gyllene bock, med en nyckel och ett hänglås bredvid
Vidare, steg 04 Vad som brukar vara kvar och vad som byggs om

Vad som brukar vara kvar och vad som byggs om

KvarstårVi förbättrarSkapas från grunden
Processlogik och val av verktygBehörigheter och separata kontonPolicy för användning av AI
Prompter och konfiguration, efter testernaPlats för nycklar och hemligheterRegister över AI-system i företaget
Integrationer som fungerarSäkerhetskopior med återställningstestTestkit
Personen som byggde det, som processägareÅtgärdsloggUpplysningstexter enligt artikel 50
Tre lådor på ett transportband: en förseglad med ett guldfärgat band, en öppen med verktyg, en demonterad i delar
Detta är alla steg Vanliga frågor och nästa steg

Frågor och svar

Vanliga frågor

Vi har byggt en agent i Claude Code och den fungerar. Varför behöver vi en granskning?

För att ta reda på vad som händer om det slutar fungera eller gör något som ingen ville. Granskningen bedömer behörigheter, säkerhetskopior, nycklar, loggar, testuppsättning och dokumentation, inte prototypen. Om ni svarar ”ja” på tolv frågor i listan behövs ingen granskning.

Innebär en granskning att allt måste byggas om från grunden?

Nej. Processlogik, promptar och fungerande integrationer brukar finnas kvar. Behörigheter, hemligheter, säkerhetskopior och loggar behöver ses över. Dokumentationen tas fram från grunden, eftersom den vanligtvis saknas i egenutvecklade lösningar.

Hur lång tid tar en genomgång och vad kostar den?

Fyra arbetsdagar till rapporten: ett samtal, två dagar för granskning enligt en checklista med tolv punkter och en dag för rapporten med kostnaden för varje korrigering. Prisförslag efter det första samtalet, beroende på antalet system. Rapporten tillhör er, oavsett vem som genomför korrigeringarna.

Behöver vi ge er tillgång till kunddata?

Nej. Granskningen kräver åtkomst till konfiguration, behörigheter och loggar, inte till innehållet i data. Där vi behöver kontrollera funktionen med exempel arbetar vi med en kopia eller anonymiserade data.

Andra vägar

Nästa steg

Förutsättningslöst samtal

Genomgång på fyra arbetsdagar

Ett samtal, två dagar enligt en lista med tolv punkter och en rapport med kostnaden för varje åtgärd. Vi börjar med 30 minuter där ni berättar vad som står still och var.