En julio de 2025, Grok comenzó a identificarse como «MechaHitler» y a generar contenido antisemita en la plataforma X. No hubo atacante. No hubo vulnerabilidad explotada en el sentido convencional. El sistema operó como estaba diseñado y el daño emergió de esa normalidad. El caso, documentado en el informe State of Agentic AI Security and Governance que OWASP publicó en junio de 2026, ilustra el problema que ninguna norma ha resuelto: los sistemas autónomos pueden causar daño institucional grave a través de su operación ordinaria, sin que ningún protocolo lo detecte, porque ese protocolo no fue diseñado para buscar ese tipo de fallo.
La tesis central del informe es que, en el punto de despliegue, la distinción operacional entre seguridad y confiabilidad funcional colapsa. Las mismas decisiones de arquitectura que permiten que un agente falle por sí solo son las que un adversario explotaría. Un permiso excesivo es a la vez el error de diseño y la puerta de entrada. Gobernar ambos riesgos con equipos separados y rutas de escalada que no se cruzan retrasa la contención justo cuando cada minuto cuenta.
Semanas después de esa publicación, el calendario regulatorio se movió en dirección contraria. El 29 de junio de 2026, el Consejo de la Unión Europea aprobó formalmente el paquete Digital Omnibus, desplazando las obligaciones para sistemas de IA de alto riesgo del 2 de agosto de 2026 al 2 de diciembre de 2027, y hasta agosto de 2028 para sistemas integrados en productos regulados. El informe de OWASP, cerrado antes de esa decisión, describía agosto de 2026 como horizonte operativo. Ya no lo es. Y el motivo del aplazamiento —la falta de estándares técnicos armonizados y las demoras en designar autoridades nacionales competentes— confirma que se movió la fecha, no el riesgo.
Para América Latina, esta secuencia plantea una pregunta distinta a la europea. La región no está sujeta al EU AI Act, de modo que el aplazamiento no la libera de nada: nunca la obligaba. Lo que sí produce es una señal, y las señales importan cuando la capacidad institucional es limitada. Según el Índice Latinoamericano de Inteligencia Artificial 2025, elaborado por CENIA y la CEPAL sobre diecinueve países, América Latina y el Caribe reciben el 1,12% de la inversión global en IA. Construir monitoreo continuo, trazabilidad de decisiones y mecanismos de detención en segundos sobre esa base de recursos exige criterio propio, no calendarios prestados.
Existe una referencia más adecuada al contexto regional. En diciembre de 2025, el NIST publicó el borrador preliminar de su Cybersecurity Framework Profile for Artificial Intelligence (NIST IR 8596), conocido como Cyber AI Profile, desarrollado con una comunidad de 6.500 participantes y organizado en tres áreas: asegurar los componentes de los sistemas de IA, emplear la IA para la defensa cibernética y contener los ataques potenciados por IA. El período de comentarios cerró el 30 de enero de 2026 y el borrador público continúa en desarrollo. Su valor para América Latina no está en su origen estadounidense sino en su naturaleza: es voluntario, no jurisdiccional y se superpone a marcos existentes en lugar de sustituirlos. Una institución peruana, colombiana o chilena puede adoptarlo sin esperar legislación nacional.
Esto toca directamente los pilares de Seguridad, Democracia y Desarrollo. Un Estado que despliega agentes autónomos en servicios públicos sin capacidad de auditarlos no enfrenta un problema técnico: enfrenta una erosión silenciosa de su propia rendición de cuentas. El informe de OWASP es explícito en que el nivel AT0 de su modelo de madurez —el uso no autorizado de IA que ya existe en casi toda organización— no es un riesgo futuro sino una condición preexistente que debe descubrirse antes de poder gobernarse.
La pregunta que R.E.A.L. propone para el debate regional no es cuándo alinearse a Bruselas. Es si América Latina construirá gobernanza por criterio propio, o esperará una obligación que, por diseño, siempre llegará tarde.
