Mēs neaicinām atteikties no tā, kas jums jau ir. Pašu spēkiem veikta ieviešana ir labs sākumpunkts: uzņēmums jau zina, ko vēlas, un tam ir strādājošs prototips. Izvērtējums sniedz atbildes uz jautājumiem, kurus izstrādes posmā neviens neuzdeva, jo tobrīd tie nebija nepieciešami.
No 344 pārbaudītiem AI incidentiem uzņēmumos 2023.–2026. gadā 188 gadījumos kaitējumu nodarīja pati sistēma bez uzbrucēja. Šis modelis atkārtojas: izstrādes posmā aģentam piešķīra piekļuvi ar rakstīšanas tiesībām datubāzei, bet darbības posmā šīs tiesības tam neatņēma.
2026. gada jūlijā kodēšanas aģents, kas bija pieslēgts produkcijas datubāzei, pēc desmit minūtēm veica migrāciju produkcijas vidē. Citā aprakstītā gadījumā datubāzes dzēšana kopā ar rezerves kopijām aizņēma deviņas sekundes.
Kas noiet greizi patstāvīgās ieviešanās
Būvniecības posmā iegūtās atļaujas paliek spēkā arī ekspluatācijas posmā
Aģentam ir pilnas rakstīšanas tiesības datubāzē, pastkastē vai CRM, jo testēšanas laikā tā bija ērtāk. Rakstīšanas tiesību atņemšana un cilvēka apstiprinājuma ieviešana parasti ir pirmais labojums.
Rezerves kopija, kuru neviens nav atjaunojis
Dublējums ir iestatījumos. Neviens nav pārbaudījis, vai no tā var atjaunot datus un cik ilgs laiks tam nepieciešams.
API atslēgas kodā, izklājlapā vai tērzētavā
Modela un grāmatvedības sistēmas atslēga vienā failā, ko var redzēt ikviens, kam ir piekļuve repozitorijam.
Nav logotipa
Neviens nevar pateikt, ko sistēma nosūtīja pagājušajā otrdienā un kam. Bez šīs informācijas nav iespējams izskatīt pretenziju vai sūdzību.
“Darbojas” nozīmē “darbojās trīs piemēros”
Nav testu kopas, tāpēc katras izmaiņas uzvednē vai modeļa versijā tiek pārbaudītas reāllaikā uz klientiem.
Tērzēšanas robots bez informācijas, ka tas ir AI
No 2026. gada 2. augusta ir spēkā AI Act 50. pantā noteiktais pienākums. Tas attiecas uz tīmekļvietnes botu, balss botu un asistentu pastkastē, ja tas atbild klientam.
Modeļa nodrošinātājs ārpus apstrādes reģistra
Klientu dati tiek nosūtīti uz ārēju API, bet apstrādes darbību reģistrā un datu apstrādes līgumos par to nav ne vārda.
Kā notiek izvērtēšana
- 1. diena: saruna un piekļuve konfigurācijai Kas to izveidoja, kas tam jādara, kur tas atrodas un kādas atslēgas tam ir. Piekļuve konfigurācijai, nevis klientu datiem.
- 2.–3. diena: pārbaude pēc 12 punktu saraksta Tas pats saraksts, ko publicējam zemāk. Katrs punkts saņem vienu no trim vērtējumiem: atstāt, labot, pārveidot.
- 4. diena: pārskats ar katras pozīcijas izmaksām Kas paliek, ko uzlabojam, kas jāpārveido un cik maksā katra pozīcija. Ziņojums pieder jums neatkarīgi no tā, kurš veiks labojumus.
- 5.–10. diena: labojumi (pēc izvēles) Parasti tās ir piekļuves tiesības, noslēpumi, rezerves kopijas, žurnāli un testu kopa. Dokumentācija tiek veidota no nulles, jo pašrocīgi veiktās ieviešanās tās nav.
Kontrolsaraksts, ko varat izpildīt paši
Divpadsmit jautājumi. Ja uz vairāk nekā trim atbilde ir “nezinu”, pārbaude ir nepieciešama. Ja uz visiem atbilde ir “jā”, tā nav vajadzīga, un par to nav jēgas maksāt.
- Vai aģentam ir atsevišķs konts ar minimālajām piekļuves tiesībām? Nevis tā darbinieka konts, kurš to izveidoja.
- Vai reģistrēšana ražošanas vidē ir jāapstiprina cilvēkam? E-pasta nosūtīšana, rēķins, izmaiņas CRM sistēmā, jebkā dzēšana.
- Vai kāds pēdējā mēneša laikā ir atjaunojis rezerves kopiju? Viņš to atskaņoja, nevis “ieslēdza”.
- Kur tiek glabātas API atslēgas, un kas tās var redzēt? Ja atbilde sākas ar “failā”, tā ir atbilde.
- Vai visas sistēmas darbības tiek reģistrētas žurnālā? Ar laiku un saturu, lai varētu atbildēt uz pagājušās nedēļas sūdzību.
- Kurš palaiž testu komplektu pēc katrām izmaiņām? Vismaz trīsdesmit gadījumu, tostarp sarežģīti.
- Kas notiek, ja pakalpojuma sniedzējs maina modeļa versiju? Versijas tiek izņemtas ik pēc dažiem mēnešiem. Kurš par to zina un kurš pārbauda rezultātu pēc izmaiņām?
- Vai sarunas biedrs zina, ka runā ar AI? Klients vai darbinieks. AI Act 50. pants, no 2026. gada 2. augusta.
- Vai modeļa piegādātājs ir iekļauts apstrādes darbību reģistrā? Kopā ar datu apstrādes līgumu. Attiecas uz katru ārējo API, uz kuru tiek nosūtīti personas dati.
- Kurš reaģē, ja septiņos no rīta kaut kas pārstāj darboties? Par sistēmu atbildīgās personas vārds un uzvārds, nevis “IT nodaļa”.
- Vai rīka lietotāji ir izgājuši dokumentētas apmācības? AI Act 4. pants: plāns, dalībnieku saraksts, materiāli.
- Cik sistēma maksā mēnesī, un kurš redz rēķinu? API rēķina izmaksu lēciens ir biežākais pārsteigums pēc trešā mēneša.
Kas parasti tiek saglabāts un kas tiek pārbūvēts
| Paliek | Mēs uzlabojam | Tiek veidots no nulles |
|---|---|---|
| Procesa loģika un rīka izvēle | Atļaujas un atsevišķi konti | MI izmantošanas politika |
| Prompts un konfigurācija pēc testēšanas | Vieta atslēgām un noslēpumiem | Uzņēmuma AI sistēmu reģistrs |
| Integrācijas, kas darbojas | Dublējumkopijas ar atjaunošanas pārbaudi | Testa komplekts |
| Persona, kas to izveidoja, kā procesa īpašnieks | Darbību žurnāli | Informācijas atklāšanas teksti saskaņā ar 50. pantu |
Jautājumi un atbildes
Biežāk uzdotie jautājumi
Izveidojām aģentu Claude Code vidē, un tas darbojas. Kāpēc vajadzīgs pārskats?
Lai pārbaudītu, kas notiks, ja tas pārstās darboties vai izdarīs ko tādu, ko neviens nav vēlējies. Pārbaudē izvērtē piekļuves tiesības, rezerves kopijas, atslēgas, žurnālus, testu kopu un dokumentāciju, nevis prototipu. Ja uz visiem divpadsmit kontrolsaraksta jautājumiem atbildat „jā”, pārbaude nav vajadzīga.
Vai audits nozīmē, ka viss jāpārbūvē no jauna?
Nē. Procesa loģika, uzvednes un darbojošās integrācijas parasti paliek. Jāsakārto piekļuves tiesības, noslēpumi, rezerves kopijas un žurnāli. Dokumentācija jāveido no nulles, jo patstāvīgi veiktās ieviešanās tās parasti nav.
Cik ilgi ilgst audits un cik tas maksā?
Četras darba dienas līdz ziņojumam: saruna, divas dienas pārbaudei pēc 12 punktu saraksta, viena diena ziņojuma sagatavošanai ar katra labojuma izmaksām. Cenas piedāvājums pēc pirmās sarunas atkarībā no sistēmu skaita. Ziņojums pieder jums neatkarīgi no tā, kurš veiks labojumus.
Vai mums ir jānodrošina jums piekļuve klientu datiem?
Nē. Pārbaudei nepieciešama piekļuve konfigurācijai, atļaujām un žurnāliem, nevis datu saturam. Ja darbība jāpārbauda ar piemēriem, strādājam ar kopiju vai anonimizētiem datiem.
Citi ceļi
Kas tālāk
-
Vēlamies sākt Ar ko sākt AI ieviešanu uzņēmumā Kuru procesu izvēlēties pirmo, kā to izmērīt un kā noteikt, ka tas ir atmaksājies. -
Tiesības un uzraudzība AI Act un Polijas likums: uzņēmuma pienākumi 4. pants, 50. pants, Polijas likums no 11. augusta, sodi no 28. oktobra. Ko pārbaudām un kādu dokumentāciju sagatavojam. -
Dotācijas Dotācijas AI ieviešanai uzņēmumos 2026. gadā PARP, KPO, FENG: kādas programmas, kādi sliekšņi un ko sagatavojam pieteikumam, lai to varētu iesniegt. - Ģenerators Ieviešanas plāns deviņos jautājumos Nozare, izmērs, process, dati, sistēmas. Atbildē jūs saņemat ieteikumu, posmus, izmaksu atsauces punktus, pienākumus un dotācijas. Katrai pozīcijai ir norādīts avots.
Saruna bez saistībām
Pārskats četru darbdienu laikā
Saruna, divas dienas pēc 12 punktu saraksta, pārskats ar katra labojuma izmaksām. Sāksim ar 30 minūtēm, kurās pastāstīsiet, kas kavē darbu un kur.