Durante casi noventa minutos, Elon Musk conversó con Zanny Minton Beddoes, directora de The Economist, sobre el futuro que le espera a la humanidad frente al avance de la inteligencia artificial. El dato central de esa conversación fue que
la inteligencia artificial podría superar la suma de toda la inteligencia humana en un plazo aproximado de cinco años. Es la
misma predicción que Musk lleva más de una década repitiendo con distintos horizontes.
Lo que cambió no fue el diagnóstico. Fue la conclusión que se desprende de él.
En
2014, cuando
Musk describió a la inteligencia artificial como potencialmente más peligrosa que las armas nucleares, el mensaje funcionaba como una
llamada a la cautela, a la regulación, a frenar antes de que fuera demasiado tarde. En la
conversación con The Economist, el tono es distinto.
Musk estima entre 10 y 20% de probabilidad de que la inteligencia artificial derive en un escenario catastrófico y, aun así, concluye que lo más sensato es
reducir ese riesgo mientras se avanza, no detener el proceso. Su propia frase lo resume: lo mejor es
disfrutar el viaje.
La misma persona que hace una década pedía detenerse para reflexionar sobre los riesgos de la inteligencia artificial hoy da por inevitable su aceleración y plantea
que sean las propias compañías que desarrollan los modelos más avanzados las que se supervisen entre sí antes de ponerlos en manos del público.
Ese giro, de la cautela a la
aceptación fatalista, importa menos por lo que dice sobre Musk que por lo que revela sobre el consenso que está tomando forma entre quienes construyen estos sistemas. Y ese consenso se está formando, no por casualidad, en las mismas semanas en que los
tres laboratorios que dominan la conversación pública sobre inteligencia artificial
reportaron haber perdido, aunque fuera temporalmente, el control de sus propios modelos durante pruebas de seguridad.
En julio,
Anthropic reveló que tres modelos de su asistente Claude lograron acceder sin autorización a los sistemas de tres organizaciones distintas durante evaluaciones de ciberseguridad. Antes,
OpenAI había reconocido que dos de sus modelos escaparon de un entorno de pruebas controlado y entraron a la plataforma Hugging Face al superar las defensas diseñadas para contenerlos, episodio que ya comenté en esta columna en su momento:
IA a la fuga: ¡El sandbox que no contuvo nada!
El 6 de agosto,
Meta confirmó un tercer caso de la misma familia, uno de sus modelos aprovechó un error de configuración de la empresa externa que realizaba las pruebas para obtener acceso a internet y desde ahí explotó una vulnerabilidad en los sistemas de un tercero.
El
AI Security Institute del Reino Unido documentó 19 acciones no autorizadas en 122 pruebas realizadas con siete modelos distintos, la mayoría de ellas protagonizadas por los sistemas más recientes de Anthropic y OpenAI.
Ninguno de estos tres incidentes fue causado por un ataque externo. En los tres casos fueron
los propios modelos operando, dentro de los límites que sus creadores les habían fijado, los que
encontraron la forma de salirse de esos límites.
Esa es, precisamente, la definición del riesgo que las estructuras de gobierno corporativo todavía no terminan de nombrar con precisión,
un sistema que no fue diseñado para actuar mal, pero que actuó fuera del alcance previsto por quienes lo supervisaban.
En más de una sala de consejo he visto cómo la conversación sobre inteligencia artificial se organiza casi por completo alrededor de la oportunidad, eficiencia, productividad y ventaja competitiva, dejando
el riesgo como un punto casi protocolario al final de la agenda.
Los incidentes de julio y agosto deberían cambiar ese orden. No porque anuncien una rebelión de máquinas —los propios laboratorios insisten, con razón, en que se trató de fallas operativas y no de intención deliberada— sino porque exponen algo más incómodo para cualquier consejero que ni siquiera las organizaciones con más recursos del mundo para invertir en seguridad de inteligencia artificial logran hacer: garantizar que sus sistemas se comporten dentro de los parámetros que ellas mismas definieron.
Mientras esto ocurre en el terreno de la práctica, el terreno normativo mexicano avanza a un ritmo distinto. A la fecha,
México no cuenta con una ley federal integral y vigente que regule el desarrollo o el uso de la inteligencia artificial.
En agosto, se presentó ante la Cámara de Diputados una iniciativa para reformar la fracción XVII del
artículo 73 constitucional y otorgar al Congreso de la Unión esa
facultad expresa para legislar en la materia, como paso previo a cualquier Ley General de Inteligencia Artificial.
De acuerdo con un conteo académico especializado, desde abril de 2023 se han presentado en el Congreso
unas 85 iniciativas relacionadas con inteligencia artificial, de las cuales 67 siguen pendientes de aprobación.
En el Senado conviven, además, al menos dos iniciativas relevantes, la Ley Nacional para Regular el Uso de la Inteligencia Artificial, que propone la creación de una nueva agencia con facultades para imponer sanciones proporcionales a las infracciones, y una Ley General de Inteligencia Artificial impulsada desde la Comisión de Análisis, Seguimiento y Evaluación sobre la Aplicación y Desarrollo de la Inteligencia Artificial en México.
Ninguna de las dos tiene, hasta el momento, fecha de dictamen en el pleno. La única modificación con efectos vinculantes publicada hasta ahora es una reforma a la Ley Federal del Trabajo y a la Ley Federal del Derecho de Autor publicada en el Diario Oficial de la Federación en mayo.
La Presidencia de la República anunció, además, una serie de
consultas regionales del 19 de agosto al 17 de septiembre, enfocadas en el uso de inteligencia artificial y redes sociales por parte de menores de edad, cuyas conclusiones se convertirían en una iniciativa independiente ante el Congreso.
Es decir, mientras los laboratorios que producen la tecnología documentan públicamente que pierden el control de sus propios modelos, el país que la adopta e integra en procesos financieros, operativos y de cara al cliente todavía no cuenta con un marco que obligue a nadie a reportarlo, medirlo o mitigarlo.
Ese vacío no es una excusa para esperar. Es, para cualquier consejo que tome en serio su función de vigilancia, una razón para adelantarse.
Adelantarse no significa improvisar un comité más. Significa que el consejo tenga, con la misma claridad con la que tiene definido el apetito de riesgo financiero, un
conjunto mínimo de preguntas resueltas antes de que termine el año.
Responder esas preguntas requiere, a su vez,
distribuir con claridad quién hace qué dentro de la organización. La experiencia me ha mostrado que el error más frecuente no es la falta de interés, es la falta de distribución, todos asumen que alguien más está viendo el tema.
La
lección de julio y agosto no es que la inteligencia artificial vaya a escaparse del control humano en el sentido más amplio que preocupa a Musk. Es una lección más modesta y, quizás por eso mismo,
más urgente para quien se sienta en una sala de consejo, porque ni los laboratorios que construyen estos sistemas logran anticipar todos sus comportamientos.
Cuando el creador de un sistema admite públicamente que perdió el control, aunque haya sido por un par de horas,
la pregunta para cualquier consejo deja de ser teórica: ¿qué tan preparado está para hacerse la misma pregunta puertas adentro y, sobre todo, para responderla con algo más sólido que la confianza?
