Vai ai contenuti

Sviluppo interno

Audit dell'implementazione IA sviluppata internamente

Qualcuno in azienda ha configurato un agente in Claude Code, n8n o Make. Funziona, finché funziona. Verifichiamo cosa succede quando smette di funzionare e cosa mantenere o riprogettare.

  • Passaggi: 4
  • Tempo di lettura: 5 min
  • Domande: 4

Non vi invitiamo a buttare via ciò che avete già. Un’implementazione autonoma è un buon punto di partenza: l’azienda sa già cosa vuole e dispone di un prototipo funzionante. La revisione risponde alle domande che nessuno si è posto durante la realizzazione, perché allora non erano necessarie.

Dei 344 incidenti AI verificati nelle aziende tra il 2023 e il 2026, in 188 casi il danno è stato causato dal sistema stesso, senza un attaccante. Lo schema si ripete: durante la fase di sviluppo, all’agente è stato concesso l’accesso in scrittura al database e nessuno glielo ha revocato in fase operativa.

Nel luglio 2026, un agente di coding collegato al database di produzione ha eseguito una migrazione in produzione dopo dieci minuti. In un altro caso documentato, la cancellazione del database e delle copie di backup ha richiesto nove secondi.

Cosa non funziona nelle implementazioni autonome

Le autorizzazioni della fase di sviluppo restano valide anche durante l’utilizzo

L’agente dispone di accesso completo in scrittura al database, alla casella di posta o al CRM perché durante i test era la soluzione più comoda. Revocare l’accesso in scrittura e introdurre l’approvazione umana è di solito la prima correzione.

Un backup che nessuno ha mai ripristinato

Esiste una copia nelle impostazioni. Nessuno ha verificato se sia possibile ripristinarla e quanto tempo richieda.

Chiavi API nel codice, in un foglio di calcolo o in chat

La chiave del modello e del sistema contabile in un unico file, visibile a chiunque abbia accesso al repository.

Nessun logo

Nessuno sa dire cosa abbia inviato il sistema martedì scorso e a chi. Senza queste informazioni, non è possibile gestire un reclamo o una contestazione.

«Funziona» significa «ha funzionato in tre esempi»

Non esiste una suite di test, quindi ogni modifica al prompt o alla versione del modello viene verificata dal vivo, sui clienti.

Chatbot senza indicazione che è un’IA

Dal 2 agosto 2026 è in vigore l’obbligo previsto dall’art. 50 dell’AI Act. Riguarda i chatbot sul sito, i voicebot e gli assistenti nella casella di posta, se rispondono ai clienti.

Fornitore del modello non incluso nel registro dei trattamenti

I dati dei clienti vengono inviati a un’API esterna, ma né nel registro delle attività né negli accordi sul trattamento dei dati si fa riferimento a questo.

Primo piano di ingranaggi in ottone, un dente è rotto, una sottile crepa dorata
Avanti, fase 02 Come si svolge la revisione

Come si svolge la revisione

  1. Giorno 1: confronto e accesso alla configurazione Chi l’ha realizzato, cosa deve fare, dove si trova, quali chiavi possiede. Accesso alla configurazione, non ai dati dei clienti.
  2. Giorni 2–3: revisione secondo una lista di dodici punti Lo stesso elenco che pubblichiamo qui sotto. Ogni punto riceve una delle tre valutazioni: mantenere, correggere, riprogettare.
  3. Giorno 4: report con il costo di ogni voce Cosa resta, cosa correggiamo, cosa va rifatto e quanto costa ogni intervento. Il report è vostro, indipendentemente da chi realizzerà le modifiche.
  4. Giorni 5–10: revisioni (facoltative) Di solito, autorizzazioni, segreti, backup, log e un set di test. La documentazione viene creata da zero, perché nelle implementazioni autonome non esiste.
Una grande lente d’ingrandimento sopra un piano di automazione su piccola scala tracciato con linee dorate, alcuni punti deboli evidenziati in arancione
Avanti, fase 03 Una checklist da seguire in autonomia

Una checklist da seguire in autonomia

Dodici domande. Se a più di tre risponde «non lo so», serve una revisione. Se risponde «sì» a tutte, non serve e non ha senso pagarla.

  1. L’agente dispone di un account separato con autorizzazioni minime? Non l’account del dipendente che lo ha configurato.
  2. La messa in produzione richiede l’approvazione di una persona? Invio di un’e-mail, fatturazione, modifica nel CRM, eliminazione di qualsiasi elemento.
  3. Qualcuno ha ripristinato un backup nell’ultimo mese? Ha riprodotto, non «ha attivato».
  4. Dove sono conservate le chiavi API e chi può vederle? Se la risposta inizia con «nel file», è la risposta.
  5. Ogni operazione del sistema viene registrata nel log? Con data e contenuto, così da poter rispondere a un reclamo della settimana scorsa.
  6. Chi avvia la suite di test dopo ogni modifica? Almeno trenta casi, compresi quelli complessi.
  7. Cosa succede quando il fornitore cambia versione del modello? Le versioni vengono ritirate ogni pochi mesi. Chi ne è al corrente e chi verifica il risultato dopo ogni modifica?
  8. L’interlocutore sa di parlare con l’IA? Cliente o dipendente. Art. 50 AI Act, dal 2 agosto 2026.
  9. Il fornitore del modello è incluso nel registro delle attività? Insieme all’accordo sul trattamento dei dati. Vale per ogni API esterna a cui vengono trasmessi dati personali.
  10. Chi interviene se qualcosa smette di funzionare alle sette del mattino? Nome e cognome del responsabile del sistema, non del «reparto IT».
  11. Gli utenti dello strumento hanno seguito una formazione documentata? Art. 4 AI Act: piano, elenco dei partecipanti, materiali.
  12. Quanto costa il sistema al mese e chi vede la fattura? I picchi nella fattura API sono la sorpresa più frequente dopo il terzo mese.
Tappetino con dodici caselle, quattro contrassegnate da un segno di spunta dorato, accanto una chiave e un lucchetto
Avanti, fase 04 Cosa si mantiene e cosa viene riprogettato di solito

Cosa si mantiene e cosa viene riprogettato di solito

RestaMiglioriamoCreato da zero
Logica del processo e scelta dello strumentoAutorizzazioni e account separatiPolitica sull’uso dell’AI
Prompt e configurazione, dopo i testSpazio per chiavi e segretiRegistro dei sistemi di IA aziendali
Integrazioni che funzionanoBackup con test di ripristinoKit di test
La persona che lo ha realizzato, in qualità di responsabile del processoRegistri delle attivitàTesti delle informative ai sensi dell’art. 50
Tre casse sul nastro trasportatore: una sigillata con una fascetta dorata, una aperta con gli attrezzi, una smontata in parti
Questi sono tutti i passaggi Domande frequenti e prossimi passi

Domande frequenti

Domande frequenti

Abbiamo creato un agente con Claude Code e funziona. Perché serve una revisione?

Per verificare cosa succede se smette di funzionare o fa qualcosa che nessuno voleva. La revisione valuta autorizzazioni, backup, chiavi, log, suite di test e documentazione, non il prototipo. Se rispondete «sì» a tutte e dodici le domande dell’elenco, la revisione non è necessaria.

La revisione comporta rifare tutto da zero?

No. La logica del processo, i prompt e le integrazioni funzionanti di solito restano. Vanno rivisti i permessi, i segreti, i backup e i log. La documentazione va creata da zero, perché nelle implementazioni autonome di solito manca.

Quanto dura e quanto costa la revisione?

Quattro giorni lavorativi per il report: un colloquio, due giorni di verifica secondo una lista di dodici punti e un giorno per preparare il report con il costo di ogni correzione. Preventivo dopo il primo colloquio, in base al numero di sistemi. Il report è vostro, indipendentemente da chi eseguirà le correzioni.

Dobbiamo darvi accesso ai dati dei clienti?

No. La revisione richiede accesso alla configurazione, alle autorizzazioni e ai log, non ai contenuti dei dati. Quando è necessario verificare il funzionamento su alcuni esempi, lavoriamo su una copia oppure su dati anonimizzati.

Altri percorsi

Passi successivi

Colloquio senza impegno

Analisi in quattro giorni lavorativi

Un incontro, due giorni seguendo una lista di dodici punti, un rapporto con il costo di ogni correzione. Iniziamo con trenta minuti in cui ci raccontate cosa è bloccato e dove.