Nesiūlome atsisakyti to, ką jau turite. Savarankiškas diegimas yra gera pradžia: įmonė jau žino, ko nori, ir turi veikiantį prototipą. Peržiūra atsako į klausimus, kurių kūrimo etape niekas neuždavė, nes tuo metu jų nereikėjo.
Iš 344 patikrintų AI incidentų įmonėse 2023–2026 m. 188 atvejais žalą padarė pati sistema, be užpuoliko. Dėsningumas kartojasi: kūrimo etape agentui suteikta prieiga rašyti į duomenų bazę, o veikimo etape ji iš jo nebuvo atimta.
2026 m. liepą koduojantis agentas, prijungtas prie gamybinės duomenų bazės, po dešimties minučių atliko migraciją gamybinėje aplinkoje. Kitu aprašytu atveju duomenų bazės ir atsarginių kopijų ištrynimas užtruko devynias sekundes.
Kas sugenda savarankiškai diegiant
Statybos etapo leidimai lieka tik statybos etape
Agentas turi visišką prieigą prie duomenų bazės, pašto dėžutės arba CRM, nes taip buvo patogu atliekant bandymus. Prieigos panaikinimas ir žmogaus patvirtinimo įvedimas paprastai yra pirmasis pakeitimas.
Atsarginė kopija, kurios niekas neatkūrė
Kopija yra nustatymuose. Niekas nepatikrino, ar iš jos galima atkurti duomenis ir kiek tai užtrunka.
API raktai kode, skaičiuoklėje arba pokalbyje
Raktas į modelį ir apskaitos sistemą viename faile, kurį mato visi, turintys prieigą prie saugyklos.
Nėra žurnalo
Niekas negali pasakyti, ką sistema išsiuntė praėjusį antradienį ir kam. Be šios informacijos neįmanoma išnagrinėti pretenzijos ar skundo.
„Veikia“ reiškia „suveikė trijuose pavyzdžiuose“
Nėra testų rinkinio, todėl kiekvienas užklausos arba modelio versijos pakeitimas išbandomas realiu laiku su klientais.
Pokalbių robotas be informacijos, kad tai AI
Nuo 2026 m. rugpjūčio 2 d. taikoma AI akto 50 straipsnyje nustatyta pareiga. Ji taikoma svetainės pokalbių robotui, balso robotui ir pašto dėžutės asistentui, jei jie atsako klientui.
Modelio teikėjas neįtrauktas į duomenų tvarkymo registrą
Klientų duomenys perduodami išorinei API, tačiau veiklos įrašuose ir duomenų tvarkymo sutartyse apie tai neužsimenama.
Kaip vyksta peržiūra
- 1 diena: pokalbis ir prieiga prie konfigūracijos Kas tai sukūrė, ką tai turi daryti, kur tai veikia, kokius raktus turi. Prieiga prie konfigūracijos, ne prie klientų duomenų.
- 2–3 dienos: peržiūra pagal dvylikos punktų sąrašą Tas pats sąrašas, kurį skelbiame toliau. Kiekvienas punktas įvertinamas viena iš trijų žymų: palikti, patobulinti, pertvarkyti.
- 4 diena: kiekvienos pozicijos sąnaudų ataskaita Kas lieka, ką patobuliname, ką reikia pertvarkyti ir kiek kainuoja kiekviena pozicija. Ataskaita priklauso jums, nepriklausomai nuo to, kas atliks pataisymus.
- 5–10 dienos: pataisymai (pasirinktinai) Paprastai tai yra prieigos teisės, slaptieji raktai, atsarginės kopijos, žurnalai ir testavimo rinkinys. Dokumentacija rengiama nuo nulio, nes savarankiškai įgyvendinant jos nebūna.
Kontrolinis sąrašas, kurį galite peržiūrėti patys
Dvylika klausimų. Jei į daugiau nei tris atsakymas yra „nežinau“, reikia audito. Jei į visus atsakymas „taip“, jo nereikia ir nėra prasmės už jį mokėti.
- Ar agentas turi atskirą paskyrą su minimaliomis teisėmis? Ne darbuotojo, kuris jį įdiegė, paskyra.
- Ar prieš paleidžiant į gamybą būtinas žmogaus patvirtinimas? El. laiško išsiuntimas, sąskaita faktūra, CRM pakeitimas, bet ko ištrynimas.
- Ar kas nors atkūrė atsarginę kopiją per pastarąjį mėnesį? Jis atkūrė, o ne „įjungė“.
- Kur saugomi API raktai ir kas juos mato? Jei atsakymas prasideda žodžiais „faile“, tai ir yra atsakymas.
- Ar kiekvienas sistemos veiksmas įrašomas į žurnalą? Su data ir turiniu, kad būtų galima atsakyti į praėjusios savaitės skundą.
- Kas po kiekvieno pakeitimo paleidžia testų rinkinį? Bent trisdešimt atvejų, įskaitant sudėtingus.
- Kas nutinka, kai tiekėjas pakeičia modelio versiją? Versijos nutraukiamos kas kelis mėnesius. Kas apie tai žino ir kas patikrina rezultatą po pakeitimo?
- Ar pašnekovas žino, kad kalbasi su DI? Klientas arba darbuotojas. AI Act 50 straipsnis, nuo 2026 m. rugpjūčio 2 d.
- Ar modelio tiekėjas yra įtrauktas į veiklos registrą? Kartu su duomenų tvarkymo sutartimi. Taikoma kiekvienai išorinei API, į kurią perduodami asmens duomenys.
- Kas reaguos, jei kas nors nustos veikti septintą ryto? Už sistemą atsakingo asmens vardas ir pavardė, ne „IT skyrius“.
- Ar įrankio naudotojams buvo surengti dokumentuoti mokymai? AI akto 4 straipsnis: planas, dalyvių sąrašas, medžiaga.
- Kiek sistema kainuoja per mėnesį ir kas mato sąskaitą? API sąskaitos šuoliai dažniausiai nustebina po trečio mėnesio.
Kas paprastai išlieka, o kas pertvarkoma
| Lieka | Tobuliname | Kuriama nuo nulio |
|---|---|---|
| Proceso logika ir įrankio pasirinkimas | Leidimai ir atskiros paskyros | Dirbtinio intelekto naudojimo politika |
| Užklausos ir konfigūracija po testavimo | Vieta raktams ir paslaptims | Įmonės DI sistemų registras |
| Veikiančios integracijos | Atsarginės kopijos su atkūrimo bandymu | Testavimo rinkinys |
| Žmogus, kuris tai sukūrė, yra proceso savininkas | Veiksmų žurnalai | Atskleidimo tekstai pagal 50 straipsnį |
Klausimai ir atsakymai
Dažniausiai užduodami klausimai
Sukūrėme agentą su „Claude Code“, ir jis veikia. Kam mums reikalinga peržiūra?
Kad patikrintume, kas nutiks, jei jis nustos veikti arba padarys tai, ko niekas nenorėjo. Vertinant tikrinamos prieigos teisės, atsarginės kopijos, raktai, žurnalai, testų rinkinys ir dokumentacija, o ne prototipas. Jei į dvylika sąrašo klausimų atsakote „taip“, vertinimo nereikia.
Ar peržiūra reiškia, kad viską reikia perdaryti nuo nulio?
Ne. Proceso logika, užklausos ir veikiančios integracijos paprastai išlieka. Reikia sutvarkyti prieigos teises, slaptus raktus, atsargines kopijas ir žurnalus. Dokumentaciją reikia parengti nuo nulio, nes savarankiškai diegiant jos paprastai nebūna.
Kiek trunka peržiūra ir kiek ji kainuoja?
Ataskaita per 4 darbo dienas: pokalbis, 2 dienos peržiūrai pagal 12 punktų sąrašą, 1 diena ataskaitai, kurioje nurodyta kiekvieno taisymo kaina. Kaina pateikiama po pirmojo pokalbio, atsižvelgiant į sistemų skaičių. Ataskaita priklauso jums, nepriklausomai nuo to, kas atliks taisymus.
Ar turime suteikti jums prieigą prie klientų duomenų?
Ne. Peržiūrai reikia prieigos prie konfigūracijos, leidimų ir žurnalų, o ne prie duomenų turinio. Kai veikimą reikia patikrinti su pavyzdžiais, dirbame su kopija arba anonimizuotais duomenimis.
Kiti keliai
Kas toliau
-
Norime pradėti Nuo ko pradėti AI diegimą įmonėje Kurį procesą pasirinkti pirmą, kaip jį išmatuoti ir kaip suprasti, kad jis atsipirko. -
Teisė ir priežiūra AI Act ir Lenkijos įstatymas: įmonės pareigos 4 straipsnis, 50 straipsnis, Lenkijos įstatymas nuo rugpjūčio 11 d., baudos nuo spalio 28 d. Ką tikriname ir kokią dokumentaciją parengiame. -
Subsidijos Subsidijos AI diegimui įmonėms 2026 m. PARP, KPO, FENG: kurios programos, kokios ribos ir ką parengiame paraiškai, kad ją būtų galima pateikti. - Generatorius Diegimo planas per devynis klausimus Sektorius, dydis, procesas, duomenys, sistemos. Atsakyme gaunate rekomendaciją, etapus, išlaidų gaires, įsipareigojimus ir subsidijas. Kiekviena pozicija turi šaltinį.
Pokalbis be jokių įsipareigojimų
Apžvalga per keturias darbo dienas
Pokalbis, dvi dienos pagal 12 punktų sąrašą, ataskaita su kiekvieno taisymo kaina. Pradėkime nuo 30 minučių pokalbio, per kurį papasakosite, kas stringa ir kur.