Tag: Testing for Unsafe Outputs

Verificación de la seguridad de las salidas generadas por sistemas de IA y LLM, con enfoque en contenido potencialmente dañino, ataques de inyección, generación de código malicioso o instrucciones peligrosas. Incluye pruebas para XSS, inyección de comandos, inyección SQL y otras vulnerabilidades resultantes de salidas no saneadas o manipulables mediante la creación de prompts y el envenenamiento de contexto.