La hoja de respuestas imperfecta

Para saber si nuestro motor deja sin detectar algún identificador personal, lo comparamos contra una hoja de respuestas: la lista de identificadores personales sintéticos que contiene cada documento. La construimos con ayuda de un modelo de lenguaje que lee cada archivo y los enumera. Es nuestra vara de medir —y, como con toda vara, lo primero es verificar que no esté torcida.

La sorpresa incómoda es que esa hoja —hecha por una IA avanzada— tiene huecos. No por descuido, sino por la propia naturaleza de cómo lee una IA. Vale la pena entender el porqué, ya que ese porqué explica algo más grande sobre cómo se construye la confianza.

En salud, esta distinción importa especialmente. Un identificador no detectado puede mantener visible la identidad del paciente; un falso positivo puede alterar información clínica que debía conservarse. Evaluar bien no significa detectar más a cualquier precio, sino proteger la identidad sin vaciar de utilidad el contexto clínico.

Tres razones por las que la hoja tiene huecos

Una IA lee como un humano inteligente pero cansado, no como un robot exhaustivo. Pregúntale por un dato puntual y casi nunca falla. Pero pídele que liste todo lo que hay en cientos de documentos y la historia cambia: se le escapa un teléfono arrinconado en una esquina o un número repetido en los encabezados. Encontrar una cosa se le da de maravilla; enumerarlas todas, no tanto. En nuestras revisiones acierta la gran mayoría de las veces y olvida el resto.

El ruido multiplica los descuidos. Para probar el motor con rigor, debemos incluir también textos sucios: sin estructura, en formatos no estandarizados y con normalizaciones a medias. Sobre ese ruido es más fácil que algo se le pase.

Y a veces el problema no es la vista, sino el juicio. En trabajos extensos el criterio puede aflojarse: marca como nombre lo que no lo es o confunde un número cualquiera con un documento de identidad. Son errores de juicio en los casos ambiguos.

En resumen: la hoja la hizo un lector listo pero imperfecto, así que ella misma es imperfecta. Por eso no le creemos a ciegas.

Lo que esto significa para nuestros números —y lo que no

¿Qué tanto de lo que marcamos es real y qué tanto de lo real logramos atrapar? Muchos de los defectos de la hoja que las métricas alcanzan a ver terminan penalizando al motor:

• Si la hoja omite un dato real y el motor sí lo encuentra, el hallazgo aparece como falso positivo. Nuestra precisión medida baja: nos vemos peor de lo que somos.
• Si la hoja marca como dato personal algo que no lo es y el motor lo ignora con razón, aparece como un escape. Nuestro *recall* medido baja: otra vez, nos vemos peor de lo que somos.

En estos desacuerdos visibles, la vara tiende a hacernos parecer peores. Preferimos una referencia que peque de estricta antes que una que peque de indulgente.

Pero hay una franja donde la vara no peca de estricta ni de indulgente: sencillamente no dice nada. Lo que la hoja y el motor omiten a la vez no aparece en ninguna métrica. Y como ambos son sistemas tropezando con los mismos casos difíciles —el mismo ruido, las mismas ambigüedades—, sus descuidos pueden coincidir. En ese caso, el recall medido podría resultar más optimista que el real.

Ese punto ciego no se cierra solo con matemática; se cierra con trabajo.

La lección que queda

Por eso no tratamos la hoja como un oráculo. Le hacemos rondas de revisión manual —apuntando primero a los casos donde los modelos suelen tropezar juntos—, la mejoramos documento a documento y la asumimos como una aproximación viva, no como la verdad revelada.

La hoja tampoco debería ser obra de un solo lector. Sumar un segundo modelo de otra familia, leyendo por bloques más pequeños, ayuda a reducir la posibilidad de que ambos se cansen en las mismas páginas o duden en los mismos casos. Allí donde discrepan es donde más vale la pena poner los ojos humanos. Y aun cuando coinciden, sigue siendo necesario revisar muestras: dos sistemas también pueden estar de acuerdo y estar equivocados.

Es la misma razón por la que, en los ambientes de producción donde el resultado de una IA tiene consecuencias reales para el negocio, el sistema que hace el trabajo y el sistema que lo supervisa deben ir juntos: uno ejecuta y el otro observa con suficiente independencia para detectar lo que el primero no ve.

Y hay algo más grande. Un banco de pruebas puede mentirte mirándote a los ojos: darte un número alto y tranquilizador que no refleja lo que pasa en la realidad. La única defensa es desconfiar de la propia vara —medirla, cuestionarla y corregirla— con la misma disciplina con la que se mide el producto.

Un equipo dispuesto a dudar de sus propios números es, justamente, el que empieza a merecer confianza.