Tag: Riesgos de IA multi-agente
Vulnerabilidades y amenazas emergentes en sistemas de inteligencia artificial basados en múltiples agentes que colaboran o compiten para alcanzar objetivos complejos. Incluye riesgos de coordinación maliciosa entre agentes, escalada no intencionada de comportamientos, manipulación de comunicaciones inter-agente, emergencia de estrategias dañinas, dificultades de auditoría distribuida, ataques de envenenamiento en protocolos de consenso y problemas de alineación en arquitecturas descentralizadas.