Ir al contenido

Desarrollo propio

Auditoría de la implantación de IA realizada internamente

Alguien de la empresa ha montado un agente con Claude Code, n8n o Make. Funciona hasta que deja de funcionar. Comprobamos qué ocurre cuando falla y qué conviene conservar o rediseñar.

  • Pasos: 4
  • Lectura: 5 min
  • Preguntas: 4

No le proponemos descartar lo que ya tienen. Una implementación propia es un buen punto de partida: la empresa ya sabe qué necesita y cuenta con un prototipo funcional. La revisión responde a preguntas que nadie se planteó durante el desarrollo porque entonces no eran necesarias.

De 344 incidentes de IA verificados en empresas entre 2023 y 2026, en 188 el propio sistema causó daños, sin que hubiera un atacante. El patrón se repite: el agente obtuvo acceso de escritura a la base de datos durante la fase de desarrollo y nadie se lo retiró al ponerlo en funcionamiento.

En julio de 2026, un agente de programación conectado a una base de datos de producción ejecutó una migración en producción tras diez minutos. En otro caso documentado, borrar la base de datos junto con las copias de seguridad llevó nueve segundos.

Qué falla en las implementaciones por cuenta propia

Los permisos de la fase de construcción se mantienen durante la fase de operación

El agente tiene acceso completo de escritura a la base de datos, al buzón o al CRM porque resultaba más cómodo durante las pruebas. Retirar ese acceso e introducir la aprobación humana suele ser la primera corrección.

Una copia de seguridad que nadie ha restaurado

Hay una copia en la configuración. Nadie ha comprobado si se puede restaurar ni cuánto tarda.

Claves API en el código, en una hoja de cálculo o en el chat

La clave del modelo y del sistema contable en un único archivo, visible para cualquiera con acceso al repositorio.

Sin logotipo

Nadie sabe decir qué envió el sistema el martes pasado ni a quién. Sin esa información, no hay forma de gestionar una reclamación ni una queja.

«Funciona» significa «ha funcionado en tres ejemplos»

No hay un conjunto de pruebas, así que cada cambio en el prompt o en la versión del modelo se prueba en directo con clientes.

Chatbot sin indicar que es una IA

Desde el 2 de agosto de 2026, obligación conforme al artículo 50 del AI Act. Se aplica a los bots de la web, los voicebots y los asistentes del correo electrónico si responden a clientes.

Proveedor del modelo fuera del registro de tratamiento

Los datos de los clientes se envían a una API externa, pero ni el registro de actividades ni los acuerdos de tratamiento mencionan este hecho.

Primer plano de engranajes de latón, un diente agrietado y una fina grieta dorada
Continuar, paso 02 Cómo es la revisión

Cómo es la revisión

  1. Día 1: reunión y acceso a la configuración Quién lo ha construido, qué debe hacer, dónde está y qué claves tiene. Acceso a la configuración, no a los datos de los clientes.
  2. Días 2–3: revisión según una lista de doce puntos La misma lista que publicamos más abajo. Cada punto recibe una de tres valoraciones: mantener, corregir o rehacer.
  3. Día 4: informe con el coste de cada partida Qué se mantiene, qué mejoramos, qué se reconstruye y cuánto cuesta cada elemento. El informe es suyo, independientemente de quién realice las mejoras.
  4. Días 5–10: ajustes (opcionales) Normalmente, permisos, secretos, copias de seguridad, registros y un conjunto de pruebas. La documentación se crea desde cero porque no existe en las implementaciones realizadas por cuenta propia.
Una gran lupa sobre un plan de automatización a pequeña escala dibujado con líneas doradas, con varios puntos débiles señalados en naranja
Continuar, paso 03 Lista de verificación para que puedan completarla por su cuenta

Lista de verificación para que puedan completarla por su cuenta

Doce preguntas. Si responde «no lo sé» a más de tres, necesita una revisión. Si responde «sí» a todas, no la necesita y no tiene sentido pagar por ella.

  1. ¿Tiene el agente una cuenta independiente con permisos mínimos? No la cuenta del empleado que lo configuró.
  2. ¿La puesta en producción requiere la aprobación de una persona? Enviar un correo, emitir una factura, modificar el CRM o eliminar cualquier cosa.
  3. ¿Alguien ha restaurado una copia de seguridad durante el último mes? Lo restauró, no lo «encendió».
  4. ¿Dónde se guardan las claves de API y quién puede verlas? Si la respuesta empieza por «en el archivo», esa es la respuesta.
  5. ¿Se registra cada acción del sistema? Con fecha y contenido, para poder responder a la reclamación de la semana pasada.
  6. ¿Quién ejecuta el conjunto de pruebas después de cada cambio? Al menos treinta casos, incluidos los difíciles.
  7. ¿Qué ocurre cuando el proveedor cambia la versión del modelo? Las versiones se retiran cada pocos meses. ¿Quién está al tanto y quién comprueba el resultado después del cambio?
  8. ¿Sabe la persona interlocutora que está hablando con una IA? Cliente o empleado. Art. 50 del AI Act, a partir del 2 de agosto de 2026.
  9. ¿Está el proveedor del modelo incluido en el registro de actividades? Junto con el contrato de encargado del tratamiento. Se aplica a todas las API externas a las que se envían datos personales.
  10. ¿Quién responde cuando algo falla a las siete de la mañana? Nombre y apellidos de la persona responsable del sistema, no del «departamento de TI».
  11. ¿Las personas que utilizan la herramienta han recibido formación documentada? Art. 4 del AI Act: plan, lista de participantes y materiales.
  12. ¿Cuánto cuesta el sistema al mes y quién ve la factura? Los picos en la factura de la API son la sorpresa más habitual después del tercer mes.
Alfombrilla con doce casillas, cuatro marcadas con una marca dorada, junto a una llave y un candado
Siguiente, paso 04 Qué suele conservarse y qué se reconstruye

Qué suele conservarse y qué se reconstruye

Se quedaMejoramosSe crea desde cero
Lógica del proceso y selección de la herramientaPermisos y cuentas independientesPolítica de uso de IA
Prompts y configuración, tras las pruebasEspacio para claves y secretosRegistro de sistemas de IA de la empresa
Integraciones que funcionanCopias de seguridad con prueba de restauraciónKit de prueba
La persona que lo ha creado, como responsable del procesoRegistros de actividadTextos de divulgación del art. 50
Tres cajas en una cinta transportadora: una sellada con una banda dorada, una abierta con herramientas y una desmontada en piezas
Estos son todos los pasos Preguntas frecuentes y siguientes pasos

Preguntas frecuentes

Preguntas frecuentes

Hemos creado un agente en Claude Code y funciona. ¿Para qué necesitamos una revisión?

Para comprobar qué ocurre si deja de funcionar o hace algo que nadie quería. La revisión evalúa los permisos, las copias de seguridad, las claves, los registros, el conjunto de pruebas y la documentación, no el prototipo. Si responde «sí» a las doce preguntas de la lista, no necesita una revisión.

¿Una revisión implica rehacerlo todo desde cero?

No. La lógica del proceso, los prompts y las integraciones operativas suelen mantenerse. Hay que revisar los permisos, los secretos, las copias de seguridad y los registros. La documentación se crea desde cero, porque normalmente no existe en las implementaciones autónomas.

¿Cuánto dura y cuánto cuesta la revisión?

Cuatro días laborables para el informe: una reunión, dos días de revisión según una lista de 12 puntos y un día para preparar el informe con el coste de cada corrección. Presupuesto tras la primera reunión, según el número de sistemas. El informe es suyo, independientemente de quién realice las correcciones.

¿Tenemos que darles acceso a los datos de nuestros clientes?

No. La revisión requiere acceso a la configuración, los permisos y los registros, no al contenido de los datos. Cuando es necesario comprobar el funcionamiento con ejemplos, trabajamos con una copia o con datos anonimizados.

Otras vías

Siguientes pasos

Reunión sin compromiso

Revisión en cuatro días laborables

Una conversación, dos días siguiendo una lista de doce puntos y un informe con el coste de cada corrección. Empecemos con treinta minutos para que nos cuenten qué está bloqueado y dónde.