De la hoja al escenario: cómo poner a prueba las tres preguntas sobre IA

Los dos riesgos que el Consejo de Estabilidad Financiera puso en la misma carta al G20: una caída de mercado ligada a la inteligencia artificial y un riesgo cibernético amplificado por esa misma tecnología, ya se observaron este año por separado. Lo que ningún consejo ha ensayado es que ocurran el mismo día.

Por Sofía Gamboa de la Parra

En julio, las acciones de las empresas de inteligencia artificial cayeron con fuerza. Entre julio y septiembre, en entornos de prueba, modelos autónomos explotaron vulnerabilidades y accedieron a sistemas fuera de su ámbito autorizado. Dos noticias que se leyeron en secciones distintas, pero que para un consejo de administración deberían ser una sola.

En mi artículo IA: la advertencia ya circula. Falta que el consejo la asiente en el acta propuse tres preguntas que caben en una sola hoja del orden del día:

  1. ¿Existe un plan de respuesta y recuperación específico para un incidente originado en un proveedor de inteligencia artificial, distinto del plan general de ciberseguridad?
  2. ¿Cuántos procesos críticos dependen de un único proveedor?
  3. ¿El comité de riesgos ha discutido de manera explícita un escenario en el que un incidente tecnológico coincida con una corrección de mercado?

 

Un consejo que ya las asentó en el acta hizo más que la mayoría. Pero una pregunta respondida no es una pregunta probada, y entre una y otra está la diferencia entre cumplir y ser prudente.

El punto de partida es la carta que Andrew Bailey, presidente del Consejo de Estabilidad Financiera (FSB, por sus siglas en inglés) envió el 28 de agosto al G20. La carta no describe un escenario combinado, pero pone dos riesgos en el mismo documento:

  1. El mercado. Valuaciones elevadas, sobre todo en inversiones relacionadas con inteligencia artificial, más apalancamiento en los mercados accionarios y una creciente inversión cruzada entre empresas de inteligencia artificial y proveedores de nube a gran escala.
  2. La tecnología. La inteligencia artificial de frontera podría cambiar de manera material la velocidad, la escala y la economía del riesgo cibernético.

 

Entre ambos, Bailey deja una frase que sostiene esta columna: un choque grande, o una combinación de choques, podría activar varias vulnerabilidades al mismo tiempo.

Lo incómodo es que las dos mitades ya se observaron este año por separado.

El 30 de septiembre, el Banco de Inglaterra publicó el registro de la sesión del 25 de septiembre de su Comité de Política Financiera. Ahí consta que las valuaciones accionarias de las empresas de inteligencia artificial cayeron con fuerza en julio, y que la caída se amplificó cuando se deshicieron posiciones apalancadas.

No hubo contagio al resto del sistema. Pero el Comité advierte que el riesgo de una corrección más severa sigue ahí, sobre todo si las expectativas de utilidades sufren un golpe mayor.

El mismo documento cita una estimación de Morgan Stanley: en lo que va de 2026, con corte a inicios de septiembre, la deuda emitida en el mundo para financiar inteligencia artificial sumaba alrededor de 450 mil millones de dólares. Es decir, en menos de nueve meses ya se emitió más del doble que en todo 2025.

El riesgo ya no está solo en las acciones. También está en los balances de quienes prestan.

La otra mitad aparece en el mismo registro. Durante el tercer trimestre, en entornos de prueba y con controles débiles o relajados, modelos cada vez más autónomos tomaron acciones que nadie les pidió: explotaron vulnerabilidades y accedieron a sistemas fuera de su ámbito autorizado.

A eso se suma el caso que el Banco de México documentó en su Recuadro 4 de junio. El 24 de abril, un agente autónomo eliminó la base de datos de producción de una empresa junto con todos sus respaldos. La interrupción duró 30 horas.

La mitad de mercado ya se ensayó en julio. La mitad tecnológica, en laboratorios y en al menos una empresa. Lo que nadie ha ensayado es que ocurran el mismo día.

 

Gráfico o ilustración de apoyo 1

 

¿Por qué probarlos juntos? Porque comparten causa. Los pocos proveedores de nube y de modelos que sostienen la operación de una institución son, al mismo tiempo, parte importante de los índices que pueden caer. Un incidente grave en uno de ellos no se queda en el área de sistemas. Llega a la tesorería, a la valuación del portafolio y, en el peor caso, a la liquidez.

Y no es un tema exclusivo de bancos. Cualquier empresa que facture, cobre o atienda a sus clientes a través de un solo proveedor de nube ya enfrenta la mitad tecnológica del escenario. Si además sus inversiones, financiamiento o clientes dependen del ánimo de los mercados, enfrenta las dos.

El propio FSB apunta en esa dirección. En su documento de consulta sobre prácticas sólidas para la adopción responsable de inteligencia artificial, publicado el 10 de junio, hay tres prácticas que todo consejero debería conocer:

La práctica uno pone la responsabilidad en el consejo y la alta dirección: alinear el uso de la tecnología con el modelo de negocio, el apetito de riesgo y la estrategia. Una responsabilidad así exige consejeros preparados para ejercerla.

La práctica once propone incluir escenarios de ataques cibernéticos y fallas tecnológicas vinculados con inteligencia artificial en las pruebas y ejercicios de cada institución.

La práctica doce se ocupa de la dependencia de proveedores externos. Pide administrar el riesgo de que muchas instituciones dependan de los mismos pocos proveedores, y asegurar que la operación pueda continuar si alguno de ellos falla. El documento reconoce que los proveedores de nube, hardware y modelos fundacionales suelen estar muy concentrados.

¿Cómo se ve esto en una sala de consejo? Propongo un ejercicio de mesa. Es hipotético y no pretende ser una predicción.

10:00 horas. El principal proveedor de modelos de inteligencia artificial de la institución reporta un incidente de seguridad. Atención a clientes, conciliaciones y análisis de crédito se detienen o funcionan a medias.

11:00 horas. El mercado reacciona. El índice tecnológico cae 7%, arrastrado por ese mismo proveedor y por sus socios de nube.

14:00 horas. Tesorería necesita revaluar posiciones. Riesgos necesita datos que están en la misma nube afectada.

Al cierre. Alguien tiene que decidir si la institución puede operar al día siguiente y cerrar el mes. Con ese guion, las tres preguntas dejan de ser casillas marcadas y se convierten en pruebas.

Gráfico o ilustración de apoyo 2

El valor del ejercicio no está en aprobarlo. Está en reprobarlo antes de que la realidad lo haga.

TRES SEÑALES DE ALERTA Y…

  1. Que el plan de continuidad dé por hecho que la nube estará disponible para restaurar.
  2. Que nadie en la sala sepa qué parte del portafolio depende de los mismos proveedores que sostienen la operación.
  3. Que la respuesta a la última pregunta de la tabla sea: nunca lo hemos pensado.

 

Hay una cuarta, más sutil: que el ejercicio lo diseñe la misma área que escribió el plan. Quien redacta un plan difícilmente diseña el ejercicio que lo rompe. Por la misma razón, ninguna empresa seria pide a sus auditores que se auditen a sí mismos.

Ninguna de estas preguntas se responde desde una sola área. Exigen cruzar el mapa tecnológico con el mapa financiero, una tarea que rara vez tiene dueño dentro de la organización. Y tampoco se improvisan en la sesión: un consejero que nunca ha visto un ejercicio así difícilmente sabrá distinguir una respuesta sólida de una que solo suena tranquilizadora.

Según el calendario del Departamento del Tesoro de Estados Unidos, los ministros de finanzas y gobernadores de bancos centrales del G20 volverán a reunirse el 15 de octubre en Bangkok. El FSB anunció que publicaría en octubre la versión final de sus prácticas sólidas. Al cierre de esta edición, esa versión no se había publicado.

Un consejo no necesita esperar ninguna de las dos cosas. Ya tiene la carta de Bailey, el Recuadro 4 del Banco de México, las advertencias europeas y un registro británico que documenta las dos mitades por separado. Puede asentar en el acta que probó el escenario combinado antes de que alguien se lo pida.

Queda una pregunta que ningún documento oficial ha respondido para México: cuánto de la operación de nuestras instituciones y empresas depende de unos cuantos proveedores de nube y de modelos. El recuadro del Banco de México ofrece la cifra británica, no la nuestra. Mientras esa cifra no exista, cada consejo tendrá que construir la suya. Y el ejercicio la revela en la primera hora.

La columna anterior pedía que la advertencia quedara en el acta. Esta pide algo más difícil: que el acta registre en qué momento el plan dejó de funcionar.

Una hoja que nadie intentó romper en la sala de consejo se romperá fuera de ella.

Un consejo no necesita esperar. Ya tiene la carta de Bailey, el Recuadro 4 del Banco de México, las advertencias europeas y un registro británico que documenta las dos mitades por separado. Puede asentar en el acta que probó el escenario combinado antes de que alguien se lo pida.

*Consultora independiente. Profesora en el Tec de Monterrey. Ex presidenta del Comité de Transformación y economía digital del IMEF.

@GamboaSofia

Las opiniones expresadas en este artículo son de exclusiva responsabilidad del autor y no representan la opinión del IMEF.

Suscríbete a IMEF News

Análisis y opinión de expertos en economía, finanzas y negocios para los tomadores de decisiones.

Te puede interesar

México cerrará 2022 con inflación de 8.5% y una tasa de interés de 10.5%: IMEF

Las perspectivas para la economía mexicana presentan algunos ajustes importantes de septiembre a octubre, destacando el incremento en la inflación prevista para el presente año, de 8.1% a 8.5%; y para el 2023, de 4.8% a 5.0%.

En lo que va del sexenio el SAT ha obtenido 2.5 billones de pesos a través de auditorías

México Evalúa y el Instituto Mexicano de Contadores Públicos reconocen el monto, pero dicen que aún es necesaria una reforma fiscal.

Acciones sostenibles para una gestión empresarial más exitosa

Cada vez más organizaciones están conscientes de que incorporar acciones sostenibles les permitirá tener una gestión empresarial más exitosa y sostenible en el tiempo.

¿Menos efectivo, menor ilegalidad?

Hay un exceso de efectivo circulando en la economía mexicana. Tanto que a cada adulto le correspondería tener 35 mil pesos en efectivo en la cartera. Reducirlo se ha convertido en una de las estrategias para combatir actividades ilegales, pero la realidad es compleja.

Focos amarillos en la inversión extranjera directa

La incertidumbre que existe en el entorno ya se está haciendo presente en la dinámica de la inversión foránea.

Nearshoring: el misterio de la inversión china en México, ¿hay subregistro?

El Top 10 de la Inversión Extranjera Directa registrada en México en el periodo enero-septiembre de 2023 coloca a Estados Unidos como primer lugar. Le siguen España, Alemania, Argentina, Japón, Canadá, Reino Unido, Países Bajos… los últimos lugares de los principales 10 corresponden a Francia y Suiza, ¿y China?

País de viejos pobres

México desperdició gran parte de la ventana de oportunidad demográfica, misma que acabará dentro de los siguientes cinco años, por lo que se presenta un país de viejos pobres.