Cuando un sistema de IA dice «He eliminado los datos», ¿cómo debe…

Respuesta directa

Defina primero el alcance de la eliminación y todas las vías de copia en una lista de cobertura. Aplique a cada destino un método adecuado. Después pruebe la ausencia del registro, la denegación del acceso prohibido, la prevención de reutilización, el vaciado de cachés y memoria, la restauración desde copias y, cuando proceda, la destrucción efectiva de la clave de cifrado. Eliminar datos almacenados no retira automáticamente lo que un modelo aprendió de ellos. Una afirmación de desaprendizaje o reentrenamiento se prueba por separado con evaluaciones adecuadas, como pruebas de memorización, pertenencia y comportamiento. Si no hay pruebas disponibles, el resultado es «no verificado».

En lenguaje claro

Mover un archivo del ordenador a la papelera no significa que no pueda recuperarse del disco. Deben comprobarse por separado la papelera, la copia de seguridad, la copia en la nube y cualquier otro sistema que haya aprendido del archivo.

Por qué importa

Una declaración falsa de eliminación da a la persona una confianza engañosa mientras los datos pueden seguir utilizándose en recuperación, decisiones, copias o salidas de modelos. Una captura no demuestra el estado de todas las copias.

No confundir

La eliminación lógica puede retirar un registro de la interfaz ordinaria sin terminar su accesibilidad física.
El saneamiento de soportes pretende hacer inviable el acceso a los datos objetivo con un nivel de esfuerzo definido.
El borrado criptográfico puede, en condiciones adecuadas, terminar el acceso al inutilizar la clave de cifrado.
Vaciar una caché o memoria no retira automáticamente de un modelo la influencia de los datos de entrenamiento.
El desaprendizaje automático busca reducir o eliminar la influencia de datos de entrenamiento concretos; el resultado sigue necesitando pruebas.

Qué hacer

Incluya en el alcance fuente, copias, cachés, índices, registros vectoriales, memoria, registros de eventos, copias de seguridad, exportaciones, modelos y terceros.
Elija para cada objeto y soporte el método adecuado de eliminación, destrucción, anonimización o restricción.
Registre identificador de operación, herramienta, operador, momento, resultado, error y excepción restante.
Pruebe lectura, búsqueda, acceso y reutilización contra el destino.
Pruebe escenarios de restauración de copias, reconstrucción de cachés o nueva recuperación de datos por un sistema posterior.
Para una afirmación sobre influencia del modelo, ejecute pruebas adecuadas de memorización, pertenencia, comportamiento y utilidad conservada.
Declare lo que las pruebas no cubren y no extienda una afirmación de eliminación absoluta a superficies sin respaldo.

Cómo auditarlo

¿Incluye el alcance de eliminación todas las copias y objetos derivados?
¿Es apropiado el método elegido para el soporte y la sensibilidad?
¿Está la afirmación respaldada por algo más que la declaración del proveedor?
¿Se realizaron realmente pruebas de lectura, acceso y reutilización?
¿La restauración de una copia o la reconstrucción de una caché devuelve los datos antiguos?
¿Se presentó la eliminación del almacenamiento como desaprendizaje automático?
¿Son explícitas la incertidumbre restante y los terceros no verificables?

Límite

Puede que no sea demostrable la irrecuperabilidad absoluta para todos los soportes y terceros. El saneamiento de soportes de NIST no es un estándar de desaprendizaje automático. En un modelo cerrado, la garantía de que se eliminó por completo la influencia aprendida puede seguir limitada por el acceso del proveedor y los métodos de prueba disponibles.