En julio de 2026,
OpenAI
dio a conocer un incidente inusual:
uno de sus agentes de inteligencia artificial logró escapar de un entorno de pruebas aislado (sandbox)
e intentó acceder sin autorización a sistemas de
Hugging Face,
la plataforma empleada como referencia dentro del experimento. La empresa describió el
hecho como «sin precedentes» y abrió una investigación conjunta.
Clément Delangue, director ejecutivo de Hugging Face, manifestó públicamente que le resultaba difícil creer que todo hubiera ocurrido de forma completamente autónoma, mientras la compañía continuaba evaluando si el episodio había afectado datos de clientes o socios.
Aunque el incidente ocurrió fuera de México, expone un problema que ya existe en cualquier empresa que esté desplegando agentes de IA
con acceso a sistemas corporativos.
Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, ofreció la lectura más útil para quien piensa en riesgo, no en titulares:
los sandboxes existen precisamente para observar de qué es capaz un modelo sin exponer nada real, pero en este caso el entorno aislado no fue lo suficientemente seguro.
El propio agente dentro de la prueba construyó un ataque contra el aislamiento que se suponía debía contenerlo, encontró una vulnerabilidad y salió. Una vez fuera, identificó a Hugging Face como la fuente más probable de la información que buscaba dentro del ejercicio e intentó acceder a ella.
Neil Lawrence, también de la Universidad de Cambridge, matizó el episodio al describirlo como una hazaña técnica llamativa, aunque consistente con las capacidades que ya se conocen de la generación actual de modelos. Esa distinción es relevante para cualquier consejo de administración.
El problema no fue que la IA hiciera algo mágico o impredecible; el problema fue que la organización encargada de evaluarla no dimensionó adecuadamente los límites del entorno diseñado para contenerla.
Algunos especialistas de la industria, entre ellos Jake Moore, asesor global de ciberseguridad de ESET, señalaron además que
el episodio terminó resaltando las capacidades técnicas de OpenAI en un momento de intensa competencia en el sector.
Esa interpretación no ha sido confirmada por la empresa, pero ilustra un fenómeno cada vez más evidente:
incluso los incidentes de seguridad forman ya parte de la narrativa competitiva que rodea al desarrollo de la inteligencia artificial.
NO ESTAMOS EXCENTOS
Ahí está la lección que trasciende a OpenAI. Conforme más empresas mexicanas incorporan agentes de IA con capacidad de acción, no solo de generación de texto, sino de navegar, ejecutar código, mover datos entre sistemas o conectarse con proveedores externos, la pregunta de gobernanza deja de ser si se usa inteligencia artificial y pasa a ser quién audita los límites de lo que esa inteligencia puede hacer por sí sola, con qué frecuencia y qué pasa cuando falla el contenedor.
Mientras tanto,
en México no existe todavía un marco legal general que discipline el uso de agentes de IA:
el Senado cerró su periodo ordinario de sesiones sin llevar al pleno el proyecto de Ley General para Regular y Fomentar la Inteligencia Artificial, y la propuesta aún requiere reformas constitucionales antes de poder avanzar.
Lo que sí existe son obligaciones sectoriales puntuales, como la transparencia algorítmica laboral vigente desde finales de 2024.
Para un órgano de gobierno mexicano, esa
ausencia de ley general
no es una tranquilidad,
es la razón exacta por la que la gobernanza interna no puede esperar a que el regulador la imponga.
Vale la pena notar también que
la víctima
del incidente no fue OpenAI.
Fue un tercero,
Hugging Face, conectado a la cadena de infraestructura de la prueba. Esto es, en términos de riesgo corporativo, un caso de manual de exposición vía terceros: la superficie de riesgo de una organización ya no termina en sus propios sistemas, sino en cada proveedor, subcontratista o plataforma con la que sus agentes de IA interactúan de forma autónoma.
LO BÁSICO
Un máximo órgano de decisión que solo pregunta «¿nuestro proveedor de IA es seguro?» está haciendo la mitad de la pregunta correcta. La otra mitad es: ¿y los sistemas con los que ese proveedor, a su vez, se conecta?
Ninguna de estas preguntas exige entender la arquitectura técnica de un modelo de lenguaje. Exigen, eso sí, que
la gobernanza de IA deje de vivir exclusivamente en la dirección de tecnología y se convierta en un punto recurrente de agenda del consejo de administración,
con la misma seriedad con la que se revisa el riesgo financiero o el riesgo reputacional.
Para ordenar esa conversación,
ayuda separar el riesgo por capas.
No es lo mismo un modelo que redacta texto dentro de una aplicación cerrada, que un agente con permisos para ejecutar acciones fuera de esa aplicación.
El incidente de OpenAI y Hugging Face ocurrió precisamente en esa segunda categoría, la de los agentes con capacidad de actuar, que es también la que más rápido está creciendo en las organizaciones que ya usan IA más allá de un chatbot de consumo.
¡CUIDADO CON LA EXPOSICIÓN!
Las cuatro capas rara vez se gestionan desde el mismo lugar dentro de una organización.
La contención técnica suele vivir en tecnología, la autonomía del agente en las áreas de negocio que lo adoptaron, la exposición de terceros en compras o legal, y la comunicación en la dirección general.
Esa fragmentación es, precisamente, el espacio donde un incidente como el de
OpenAI puede pasar de ser un ejercicio contenido a una crisis real: no porque falte una sola capa de control, sino porque nadie tiene la vista completa de las cuatro al mismo tiempo.
¿GOBERNANZA O GESTIÓN DE RIESGOS? TÚ DECIDES
En más de una sala de consejo de administración he visto cómo estas cuatro capas se enumeran, se documentan y hasta se presentan en una lámina bien diseñada, y aun así
el riesgo sigue ahí, intacto. No porque el máximo órgano de decisión carezca de voluntad, sino porque quien redacta el diagnóstico suele ser también quien lo tiene que ejecutar,
y esa cercanía impide ver el punto ciego propio.
Identificar
las preguntas correctas es apenas el primer paso, el segundo, casi siempre más incómodo, es tener en la sala a alguien sin ese conflicto de origen que las haga sin filtro.
El incidente de OpenAI y Hugging Face probablemente se resuelva sin consecuencias mayores para el usuario final de estas herramientas. Pero para quien se sienta en un consejo de administración, la señal es otra: la brecha entre lo que un sistema de IA puede hacer y lo que su organización realmente supervisa ya no es una discusión teórica.
Es, literalmente,
la diferencia entre un ejercicio de laboratorio y una vulneración real, y esa diferencia depende de decisiones de gobernanza que se toman, o se posponen, antes de que ocurra la fuga.
Las organizaciones suelen asignar cada capa de riesgo a un responsable distinto: tecnología supervisa la infraestructura, las áreas de negocio gestionan los agentes, compras y legal revisan a los terceros, y comunicación prepara la respuesta reputacional.
El problema es que los incidentes rara vez respetan esas fronteras. Surgen precisamente en los espacios donde ninguna función tiene visibilidad completa de todas las capas al mismo tiempo.
La periodista Karen Hao, autora de ‘Empire of AI’, plantea una idea que aplica igual de bien a la gobernanza corporativa que a la industria que analiza: las decisiones sobre cómo se construye y se despliega la inteligencia artificial no son fatalidades tecnológicas, son decisiones.
Un consejo que decide no invertir en aislamiento robusto o en supervisión de agentes no está cediendo ante lo inevitable, está tomando una decisión, aunque sea por omisión.
La pregunta que debería quitarle el sueño a quienes integran un consejo de administración no es si ya tienen el cuadro de preguntas correctas escrito en algún documento. Es
quién, dentro de la organización, tiene la responsabilidad y la independencia para conectar esas respuestas.
Porque cuando nadie observa el riesgo de forma integral, la gobernanza termina fragmentándose en controles aislados. Y cuando las preguntas llegan después del incidente, ya dejaron de ser gobernanza para convertirse en gestión de crisis.
