IA dentro de un proceso regulado: la lista de comprobación.

El problema

En un proceso regulado, nadie compra una respuesta. Compra una forma defendible de llegar a ella. El modelo es un paso más en una cadena que ya tiene responsables, registros y auditorías, y esa cadena no se dobla para encajar el modelo. El modelo tiene que encajar en la cadena.

Eso cambia lo que significa “terminado”. Un sistema está terminado cuando un responsable de cumplimiento puede explicar, para cualquier decisión concreta, qué vio el modelo, qué propuso, quién decidió y por qué. Todo lo que viene a continuación sale de esa frase.

Las restricciones

Estábamos añadiendo un paso, no rediseñando un proceso. Seguían firmando los mismos roles, la revisión tenía que ocurrir en la herramienta que el equipo ya tenía abierta y nadie tenía tiempo de aprender una segunda. Lo que produjera el modelo tenía que ser legible para una persona que nunca iba a leer el código.

Qué probamos

La primera versión mostraba una sugerencia sin fuentes y una puntuación de confianza. Los revisores preguntaron de dónde salía el número; nadie supo decirlo.

Qué falló

Confianza sin trazabilidad. Una puntuación no es una explicación, y un responsable de cumplimiento no puede firmar un porcentaje.

Qué funcionó

Lo que funcionó fue responder estas siete preguntas antes de la primera llamada al modelo, y dejar las respuestas por escrito donde el equipo pudiera leerlas.

¿Dónde viven los datos y adónde van? Cada documento y cada prompt tiene un recorrido. Dibújalo. Si ese recorrido sale de tu entorno, necesitas un motivo y un contrato, no una opción por defecto.
¿Qué no ve nunca el modelo? Algunos campos están fuera de límites por ley, otros por política interna. Quítalos antes del modelo, no después.
¿Qué puede decidir el modelo? Casi siempre: nada. Lee, ordena, redacta y marca. La persona decide. Escribe ese límite en la interfaz, no en una presentación de formación.
¿Cómo se traza cada sugerencia? La respuesta muestra sus fuentes. El registro guarda la versión del modelo, el prompt y las entradas. Un año después puedes reproducir la decisión.
¿Qué pasa cuando no está seguro? El sistema lo dice y deriva el caso a una persona. El silencio no es una opción; adivinar es peor.
¿Quién revisa los casos marcados, y con qué frecuencia? Nombra el rol. Ponlo en el turno. Una cola de revisión que nadie posee es una cola que nadie lee.
¿Cómo lo apagas? Un interruptor, una vuelta al proceso manual, y un ensayo. Si apagarlo requiere una nueva versión, no está bajo control.

Qué aprendimos

Las personas del proceso se vuelven más rápidas en la parte en la que ya eran buenas, y el registro de cada decisión queda mejor de lo que estaba antes de que llegara el modelo. A los auditores les gusta. Al equipo le gusta. Nadie tiene que confiar en una caja negra, porque no hay caja: hay un paso documentado con una persona al final. Los revisores dejaron de preguntar de dónde salía el número en cuanto cada sugerencia llegó con sus fuentes.

Qué haríamos distinto

Pondríamos la trazabilidad antes que la precisión y ensayaríamos el apagado la primera semana, no la última.