Respuesta directa
El envenenamiento de fuentes o datos contamina con contenido engañoso el entorno informativo del que un sistema aprende o recupera información. Muchas páginas que se copian entre sí pueden crear la apariencia de un consenso inexistente. NOMOS GEO denomina a esto «consenso sintético». Una afirmación débil hecha parecer creíble mediante copias y citas es «blanqueo de fuentes». Audite la fuente más antigua, la independencia, el historial de cambios y si cada fuente respalda realmente la afirmación, no el número de páginas.
En lenguaje claro
Imagine fotocopiar cien veces un rumor falso. Hay cien hojas sobre la mesa, pero no cien testigos independientes. Si un sistema de IA confunde las copias de una frase con confirmaciones independientes, percibe una mayoría falsa.
Por qué importa
La información envenenada puede causar una correspondencia de entidad equivocada, una recomendación defectuosa, una reputación fabricada o la desaparición de fuentes auténticas. El error puede parecer fiable y persistir porque existen muchas copias.
No confundir
- El envenenamiento de datos corrompe intencionadamente datos de entrenamiento, ajuste fino o repositorios vectoriales.
- El envenenamiento de fuentes contamina una superficie de recuperación o investigación con contenido engañoso.
- El consenso sintético hace parecer acuerdo independiente una repetición no independiente.
- El blanqueo de fuentes hace parecer sólida una afirmación débil o inventada mediante una cadena de copias y citas.
- La información falsa no siempre es un ataque; cuando no puede demostrarse intención, esta permanece UNRESOLVED.
Qué hacer
- Para cada afirmación relevante, identifique la fuente más antigua localizable y las relaciones de copia posteriores.
- Cree grupos de procedencia mediante similitud textual, momento de publicación, propiedad, enlaces y trazas de citas.
- Mida origen independiente, autoridad, actualidad y respaldo directo de la afirmación en lugar del número de URL.
- Ponga las fuentes sospechosas en cuarentena antes de eliminarlas y detenga su influencia en la recuperación.
- Vuelva a verificar la afirmación con un registro oficial, documento primario o fuente verdaderamente independiente.
- Identifique y reconstruya de forma controlada índices, registros vectoriales, cachés y registros derivados afectados.
- Después de corregir, vuelva a probar con la misma pregunta y el mismo conjunto de fuentes.
Cómo auditarlo
- ¿Cuántas fuentes tienen un origen realmente independiente?
- ¿Demuestra la fuente más antigua la afirmación o se limita a formularla?
- ¿Se contaron copias o citas circulares como verificación independiente?
- ¿Se conservaron la propiedad, fecha de publicación e historial de cambios de las fuentes?
- ¿A qué modelos, índices, registros vectoriales y salidas afectó el contenido sospechoso?
- ¿Se corrigió solo la página visible o todas las superficies derivadas?
- ¿Se afirmó con certeza una intención maliciosa sin pruebas?
Límite
Una gran similitud textual no demuestra por sí sola copia o intención maliciosa; fuentes independientes pueden describir un mismo hecho de forma parecida. A la inversa, la diversidad de fuentes no demuestra la verdad. Cuando intención o procedencia sean inciertas, mantenga el resultado explícitamente UNRESOLVED.
Recuérdalo en una frase
Cien copias no son cien pruebas independientes.
Fuentes de este registro
- S35W3C, *PROV-O: The PROV Ontology*Estándar
- S39NIST AI 100-2 E2025, *Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations*Guía institucional voluntaria orientada a estándares
- S41NCSC y organismos asociados, *Guidelines for Secure AI System Development*Guía oficial de seguridad multiinstitucional
- S43NIST SP 800-161 Rev. 1 Update 1, *Cybersecurity Supply Chain Risk Management Practices for Systems and Organizations*Guía institucional voluntaria orientada a estándares
- S44NIST, *AI Risk Management Framework Playbook* y AI RMF CoreGuía voluntaria de aplicación