Tag: Riesgos de seguridad de IA generativa
Amenazas y vulnerabilidades específicas de los sistemas de inteligencia artificial generativa, incluyendo inyección de prompts, envenenamiento de datos, inversión de modelos, extracción de datos sensibles del conjunto de entrenamiento, jailbreak de guardrails, generación de contenido dañino, sesgos amplificados y riesgos de cadena de suministro en modelos pre-entrenados. Cubre LLMs, modelos de difusión, generadores multimodales y superficies de ataque relacionadas según los marcos OWASP Top 10 for LLM y NIST AI RMF.