Eiti į turinį

Pasidarėme patys

Savarankiškai įdiegto AI auditas

Kažkas įmonėje sukūrė agentą naudodamas Claude Code, n8n arba Make. Jis veikia tol, kol veikia. Patikriname, kas nutiks jam nustojus veikti ir ką palikti, o ką pertvarkyti.

  • Žingsniai: 4
  • Skaitymo laikas: 5 min
  • Klausimai: 4

Nesiūlome atsisakyti to, ką jau turite. Savarankiškas diegimas yra gera pradžia: įmonė jau žino, ko nori, ir turi veikiantį prototipą. Peržiūra atsako į klausimus, kurių kūrimo etape niekas neuždavė, nes tuo metu jų nereikėjo.

Iš 344 patikrintų AI incidentų įmonėse 2023–2026 m. 188 atvejais žalą padarė pati sistema, be užpuoliko. Dėsningumas kartojasi: kūrimo etape agentui suteikta prieiga rašyti į duomenų bazę, o veikimo etape ji iš jo nebuvo atimta.

2026 m. liepą koduojantis agentas, prijungtas prie gamybinės duomenų bazės, po dešimties minučių atliko migraciją gamybinėje aplinkoje. Kitu aprašytu atveju duomenų bazės ir atsarginių kopijų ištrynimas užtruko devynias sekundes.

Kas sugenda savarankiškai diegiant

Statybos etapo leidimai lieka tik statybos etape

Agentas turi visišką prieigą prie duomenų bazės, pašto dėžutės arba CRM, nes taip buvo patogu atliekant bandymus. Prieigos panaikinimas ir žmogaus patvirtinimo įvedimas paprastai yra pirmasis pakeitimas.

Atsarginė kopija, kurios niekas neatkūrė

Kopija yra nustatymuose. Niekas nepatikrino, ar iš jos galima atkurti duomenis ir kiek tai užtrunka.

API raktai kode, skaičiuoklėje arba pokalbyje

Raktas į modelį ir apskaitos sistemą viename faile, kurį mato visi, turintys prieigą prie saugyklos.

Nėra žurnalo

Niekas negali pasakyti, ką sistema išsiuntė praėjusį antradienį ir kam. Be šios informacijos neįmanoma išnagrinėti pretenzijos ar skundo.

„Veikia“ reiškia „suveikė trijuose pavyzdžiuose“

Nėra testų rinkinio, todėl kiekvienas užklausos arba modelio versijos pakeitimas išbandomas realiu laiku su klientais.

Pokalbių robotas be informacijos, kad tai AI

Nuo 2026 m. rugpjūčio 2 d. taikoma AI akto 50 straipsnyje nustatyta pareiga. Ji taikoma svetainės pokalbių robotui, balso robotui ir pašto dėžutės asistentui, jei jie atsako klientui.

Modelio teikėjas neįtrauktas į duomenų tvarkymo registrą

Klientų duomenys perduodami išorinei API, tačiau veiklos įrašuose ir duomenų tvarkymo sutartyse apie tai neužsimenama.

Stambus žalvarinių krumpliaračių planas, vienas dantis įskilęs, plonas auksinis įtrūkis
Toliau, 02 žingsnis Kaip vyksta peržiūra

Kaip vyksta peržiūra

  1. 1 diena: pokalbis ir prieiga prie konfigūracijos Kas tai sukūrė, ką tai turi daryti, kur tai veikia, kokius raktus turi. Prieiga prie konfigūracijos, ne prie klientų duomenų.
  2. 2–3 dienos: peržiūra pagal dvylikos punktų sąrašą Tas pats sąrašas, kurį skelbiame toliau. Kiekvienas punktas įvertinamas viena iš trijų žymų: palikti, patobulinti, pertvarkyti.
  3. 4 diena: kiekvienos pozicijos sąnaudų ataskaita Kas lieka, ką patobuliname, ką reikia pertvarkyti ir kiek kainuoja kiekviena pozicija. Ataskaita priklauso jums, nepriklausomai nuo to, kas atliks pataisymus.
  4. 5–10 dienos: pataisymai (pasirinktinai) Paprastai tai yra prieigos teisės, slaptieji raktai, atsarginės kopijos, žurnalai ir testavimo rinkinys. Dokumentacija rengiama nuo nulio, nes savarankiškai įgyvendinant jos nebūna.
Didelis didinamasis stiklas virš mažos automatizacijos plano, nubrėžto auksinėmis linijomis. Keletas silpnųjų vietų pažymėtos oranžine spalva
Toliau, 03 žingsnis Kontrolinis sąrašas, kurį galite peržiūrėti patys

Kontrolinis sąrašas, kurį galite peržiūrėti patys

Dvylika klausimų. Jei į daugiau nei tris atsakymas yra „nežinau“, reikia audito. Jei į visus atsakymas „taip“, jo nereikia ir nėra prasmės už jį mokėti.

  1. Ar agentas turi atskirą paskyrą su minimaliomis teisėmis? Ne darbuotojo, kuris jį įdiegė, paskyra.
  2. Ar prieš paleidžiant į gamybą būtinas žmogaus patvirtinimas? El. laiško išsiuntimas, sąskaita faktūra, CRM pakeitimas, bet ko ištrynimas.
  3. Ar kas nors atkūrė atsarginę kopiją per pastarąjį mėnesį? Jis atkūrė, o ne „įjungė“.
  4. Kur saugomi API raktai ir kas juos mato? Jei atsakymas prasideda žodžiais „faile“, tai ir yra atsakymas.
  5. Ar kiekvienas sistemos veiksmas įrašomas į žurnalą? Su data ir turiniu, kad būtų galima atsakyti į praėjusios savaitės skundą.
  6. Kas po kiekvieno pakeitimo paleidžia testų rinkinį? Bent trisdešimt atvejų, įskaitant sudėtingus.
  7. Kas nutinka, kai tiekėjas pakeičia modelio versiją? Versijos nutraukiamos kas kelis mėnesius. Kas apie tai žino ir kas patikrina rezultatą po pakeitimo?
  8. Ar pašnekovas žino, kad kalbasi su DI? Klientas arba darbuotojas. AI Act 50 straipsnis, nuo 2026 m. rugpjūčio 2 d.
  9. Ar modelio tiekėjas yra įtrauktas į veiklos registrą? Kartu su duomenų tvarkymo sutartimi. Taikoma kiekvienai išorinei API, į kurią perduodami asmens duomenys.
  10. Kas reaguos, jei kas nors nustos veikti septintą ryto? Už sistemą atsakingo asmens vardas ir pavardė, ne „IT skyrius“.
  11. Ar įrankio naudotojams buvo surengti dokumentuoti mokymai? AI akto 4 straipsnis: planas, dalyvių sąrašas, medžiaga.
  12. Kiek sistema kainuoja per mėnesį ir kas mato sąskaitą? API sąskaitos šuoliai dažniausiai nustebina po trečio mėnesio.
Dvylikos langelių kilimėlis, keturi pažymėti auksine varnele, šalia raktas ir spyna
Toliau, 04 žingsnis Kas paprastai išlieka, o kas pertvarkoma

Kas paprastai išlieka, o kas pertvarkoma

LiekaTobulinameKuriama nuo nulio
Proceso logika ir įrankio pasirinkimasLeidimai ir atskiros paskyrosDirbtinio intelekto naudojimo politika
Užklausos ir konfigūracija po testavimoVieta raktams ir paslaptimsĮmonės DI sistemų registras
Veikiančios integracijosAtsarginės kopijos su atkūrimo bandymuTestavimo rinkinys
Žmogus, kuris tai sukūrė, yra proceso savininkasVeiksmų žurnalaiAtskleidimo tekstai pagal 50 straipsnį
Trys dėžės ant konvejerio: viena užplombuota auksine juosta, viena atvira su įrankiais, viena išardyta į dalis
Tai visi žingsniai Dažniausi klausimai ir kas toliau

Klausimai ir atsakymai

Dažniausiai užduodami klausimai

Sukūrėme agentą su „Claude Code“, ir jis veikia. Kam mums reikalinga peržiūra?

Kad patikrintume, kas nutiks, jei jis nustos veikti arba padarys tai, ko niekas nenorėjo. Vertinant tikrinamos prieigos teisės, atsarginės kopijos, raktai, žurnalai, testų rinkinys ir dokumentacija, o ne prototipas. Jei į dvylika sąrašo klausimų atsakote „taip“, vertinimo nereikia.

Ar peržiūra reiškia, kad viską reikia perdaryti nuo nulio?

Ne. Proceso logika, užklausos ir veikiančios integracijos paprastai išlieka. Reikia sutvarkyti prieigos teises, slaptus raktus, atsargines kopijas ir žurnalus. Dokumentaciją reikia parengti nuo nulio, nes savarankiškai diegiant jos paprastai nebūna.

Kiek trunka peržiūra ir kiek ji kainuoja?

Ataskaita per 4 darbo dienas: pokalbis, 2 dienos peržiūrai pagal 12 punktų sąrašą, 1 diena ataskaitai, kurioje nurodyta kiekvieno taisymo kaina. Kaina pateikiama po pirmojo pokalbio, atsižvelgiant į sistemų skaičių. Ataskaita priklauso jums, nepriklausomai nuo to, kas atliks taisymus.

Ar turime suteikti jums prieigą prie klientų duomenų?

Ne. Peržiūrai reikia prieigos prie konfigūracijos, leidimų ir žurnalų, o ne prie duomenų turinio. Kai veikimą reikia patikrinti su pavyzdžiais, dirbame su kopija arba anonimizuotais duomenimis.

Kiti keliai

Kas toliau

Pokalbis be jokių įsipareigojimų

Apžvalga per keturias darbo dienas

Pokalbis, dvi dienos pagal 12 punktų sąrašą, ataskaita su kiekvieno taisymo kaina. Pradėkime nuo 30 minučių pokalbio, per kurį papasakosite, kas stringa ir kur.