Evidencia de intervención de IA

Registro de qué modelo intervino en un proceso, con qué entrada, qué salida produjo y qué acción se tomó. Extiende la auditoría y el process mining al comportamiento de la inteligencia artificial, no solo al de las personas.

Es lo que hace auditable un proceso con IA dentro. Sin registro de qué modelo intervino, con qué entrada y qué salida, la respuesta a «por qué se decidió esto» es que lo dijo el sistema — que ante un auditor no es una respuesta.