Tag: Over-Reliance
Dependencia excesiva de sistemas automatizados, modelos de IA o herramientas de seguridad sin una supervisión humana adecuada o validación crítica. En el contexto de la seguridad de la IA, indica el riesgo de aceptar resultados de modelos generativos o toma de decisiones automatizada sin verificación, lo que lleva a decisiones erróneas, sesgos no detectados o vulnerabilidades no identificadas. Relevante para AI red teaming, diseño human-in-the-loop y gobernanza de sistemas autónomos.