Tag: Testing for Plugin Boundary Violations
Las violaciones de límites de plugins ocurren cuando una aplicación LLM con capacidades de llamada a funciones o uso de herramientas realiza acciones no autorizadas a través de plugins, APIs externas o integraciones. Las pruebas evalúan si el modelo respeta los límites de seguridad definidos, verificando la escalada de privilegios, el acceso no autorizado a recursos, la ejecución de comandos fuera del alcance previsto o la elusión de controles de autorización mediante la manipulación de prompts o contextos. Crítico para sistemas de IA con acceso a bases de datos, sistemas de archivos o servicios externos.