No le proponemos descartar lo que ya tienen. Una implementación propia es un buen punto de partida: la empresa ya sabe qué necesita y cuenta con un prototipo funcional. La revisión responde a preguntas que nadie se planteó durante el desarrollo porque entonces no eran necesarias.
De 344 incidentes de IA verificados en empresas entre 2023 y 2026, en 188 el propio sistema causó daños, sin que hubiera un atacante. El patrón se repite: el agente obtuvo acceso de escritura a la base de datos durante la fase de desarrollo y nadie se lo retiró al ponerlo en funcionamiento.
En julio de 2026, un agente de programación conectado a una base de datos de producción ejecutó una migración en producción tras diez minutos. En otro caso documentado, borrar la base de datos junto con las copias de seguridad llevó nueve segundos.
Qué falla en las implementaciones por cuenta propia
Los permisos de la fase de construcción se mantienen durante la fase de operación
El agente tiene acceso completo de escritura a la base de datos, al buzón o al CRM porque resultaba más cómodo durante las pruebas. Retirar ese acceso e introducir la aprobación humana suele ser la primera corrección.
Una copia de seguridad que nadie ha restaurado
Hay una copia en la configuración. Nadie ha comprobado si se puede restaurar ni cuánto tarda.
Claves API en el código, en una hoja de cálculo o en el chat
La clave del modelo y del sistema contable en un único archivo, visible para cualquiera con acceso al repositorio.
Sin logotipo
Nadie sabe decir qué envió el sistema el martes pasado ni a quién. Sin esa información, no hay forma de gestionar una reclamación ni una queja.
«Funciona» significa «ha funcionado en tres ejemplos»
No hay un conjunto de pruebas, así que cada cambio en el prompt o en la versión del modelo se prueba en directo con clientes.
Chatbot sin indicar que es una IA
Desde el 2 de agosto de 2026, obligación conforme al artículo 50 del AI Act. Se aplica a los bots de la web, los voicebots y los asistentes del correo electrónico si responden a clientes.
Proveedor del modelo fuera del registro de tratamiento
Los datos de los clientes se envían a una API externa, pero ni el registro de actividades ni los acuerdos de tratamiento mencionan este hecho.
Cómo es la revisión
- Día 1: reunión y acceso a la configuración Quién lo ha construido, qué debe hacer, dónde está y qué claves tiene. Acceso a la configuración, no a los datos de los clientes.
- Días 2–3: revisión según una lista de doce puntos La misma lista que publicamos más abajo. Cada punto recibe una de tres valoraciones: mantener, corregir o rehacer.
- Día 4: informe con el coste de cada partida Qué se mantiene, qué mejoramos, qué se reconstruye y cuánto cuesta cada elemento. El informe es suyo, independientemente de quién realice las mejoras.
- Días 5–10: ajustes (opcionales) Normalmente, permisos, secretos, copias de seguridad, registros y un conjunto de pruebas. La documentación se crea desde cero porque no existe en las implementaciones realizadas por cuenta propia.
Lista de verificación para que puedan completarla por su cuenta
Doce preguntas. Si responde «no lo sé» a más de tres, necesita una revisión. Si responde «sí» a todas, no la necesita y no tiene sentido pagar por ella.
- ¿Tiene el agente una cuenta independiente con permisos mínimos? No la cuenta del empleado que lo configuró.
- ¿La puesta en producción requiere la aprobación de una persona? Enviar un correo, emitir una factura, modificar el CRM o eliminar cualquier cosa.
- ¿Alguien ha restaurado una copia de seguridad durante el último mes? Lo restauró, no lo «encendió».
- ¿Dónde se guardan las claves de API y quién puede verlas? Si la respuesta empieza por «en el archivo», esa es la respuesta.
- ¿Se registra cada acción del sistema? Con fecha y contenido, para poder responder a la reclamación de la semana pasada.
- ¿Quién ejecuta el conjunto de pruebas después de cada cambio? Al menos treinta casos, incluidos los difíciles.
- ¿Qué ocurre cuando el proveedor cambia la versión del modelo? Las versiones se retiran cada pocos meses. ¿Quién está al tanto y quién comprueba el resultado después del cambio?
- ¿Sabe la persona interlocutora que está hablando con una IA? Cliente o empleado. Art. 50 del AI Act, a partir del 2 de agosto de 2026.
- ¿Está el proveedor del modelo incluido en el registro de actividades? Junto con el contrato de encargado del tratamiento. Se aplica a todas las API externas a las que se envían datos personales.
- ¿Quién responde cuando algo falla a las siete de la mañana? Nombre y apellidos de la persona responsable del sistema, no del «departamento de TI».
- ¿Las personas que utilizan la herramienta han recibido formación documentada? Art. 4 del AI Act: plan, lista de participantes y materiales.
- ¿Cuánto cuesta el sistema al mes y quién ve la factura? Los picos en la factura de la API son la sorpresa más habitual después del tercer mes.
Qué suele conservarse y qué se reconstruye
| Se queda | Mejoramos | Se crea desde cero |
|---|---|---|
| Lógica del proceso y selección de la herramienta | Permisos y cuentas independientes | Política de uso de IA |
| Prompts y configuración, tras las pruebas | Espacio para claves y secretos | Registro de sistemas de IA de la empresa |
| Integraciones que funcionan | Copias de seguridad con prueba de restauración | Kit de prueba |
| La persona que lo ha creado, como responsable del proceso | Registros de actividad | Textos de divulgación del art. 50 |
Preguntas frecuentes
Preguntas frecuentes
Hemos creado un agente en Claude Code y funciona. ¿Para qué necesitamos una revisión?
Para comprobar qué ocurre si deja de funcionar o hace algo que nadie quería. La revisión evalúa los permisos, las copias de seguridad, las claves, los registros, el conjunto de pruebas y la documentación, no el prototipo. Si responde «sí» a las doce preguntas de la lista, no necesita una revisión.
¿Una revisión implica rehacerlo todo desde cero?
No. La lógica del proceso, los prompts y las integraciones operativas suelen mantenerse. Hay que revisar los permisos, los secretos, las copias de seguridad y los registros. La documentación se crea desde cero, porque normalmente no existe en las implementaciones autónomas.
¿Cuánto dura y cuánto cuesta la revisión?
Cuatro días laborables para el informe: una reunión, dos días de revisión según una lista de 12 puntos y un día para preparar el informe con el coste de cada corrección. Presupuesto tras la primera reunión, según el número de sistemas. El informe es suyo, independientemente de quién realice las correcciones.
¿Tenemos que darles acceso a los datos de nuestros clientes?
No. La revisión requiere acceso a la configuración, los permisos y los registros, no al contenido de los datos. Cuando es necesario comprobar el funcionamiento con ejemplos, trabajamos con una copia o con datos anonimizados.
Otras vías
Siguientes pasos
-
Queremos empezar Por dónde empezar la implantación de IA en la empresa Qué proceso abordar primero, cómo medirlo y cómo saber si ha dado resultado. -
Normativa y cumplimiento AI Act y ley polaca: obligaciones de la empresa Art. 4, art. 50, ley polaca a partir del 11 de agosto, sanciones a partir del 28 de octubre. Qué auditamos y qué documentación entregamos. -
Subvenciones Subvenciones para la implantación de IA en empresas en 2026 PARP, KPO, FENG: programas disponibles, requisitos y documentación técnica que preparamos para presentar la solicitud con éxito. - Generador Plan de implantación en nueve preguntas Sector, tamaño, proceso, datos, sistemas. Obtenga recomendaciones, fases, costes de referencia, obligaciones legales y subvenciones. Cada partida incluye su fuente.
Reunión sin compromiso
Revisión en cuatro días laborables
Una conversación, dos días siguiendo una lista de doce puntos y un informe con el coste de cada corrección. Empecemos con treinta minutos para que nos cuenten qué está bloqueado y dónde.