Tag: Vulnerabilidades output AI

Vulnerabilidades relacionadas con el output generado por sistemas de inteligencia artificial: inyección de prompts, fuga de datos a través de respuestas del modelo, alucinaciones explotables para desinformación, exposición de información sensible del conjunto de entrenamiento, manipulación del output para eludir políticas o generación de contenido dañino. Cubre técnicas de testing, mitigación y validación del output en aplicaciones GenAI y LLM.