Impacto transformador de la inteligencia artificial: oportunidades y desafíos éticos

La inteligencia artificial ha dejado de ser una novedad futurista para convertirse en una parte integral de nuestra vida diaria. Pero, así como ha abierto nuevas posibilidades también plantea preocupaciones éticas que se deben atender para aprovechar el poder transformador de la revolución tecnológica. Por ello este tema se presentó en la Ponencia IMEF 2024 Innovando hacia un México con Sostenibilidad y aquí se presenta un resumen de la aportación de María Elena Estavillo, fundadora y directora general de Centro-I, Think Tank.
Aunque la inteligencia artificial comenzó su desarrollo hace algunas décadas, su visibilidad y protagonismo en la atención pública se disparó a partir de la irrupción de la inteligencia artificial generativa –representada por sistemas como ChatGPT, Dall-E o Bard– cuyas herramientas han captado la imaginación colectiva por su capacidad de generar textos, videos, audios o imágenes con una calidad y velocidad impresionantes.

La IA generativa ha abierto nuevas posibilidades en campos como la creatividad, la educación y la productividad empresarial, pero su capacidad de generar contenido ha suscitado preocupaciones sobre cómo asegurar la autenticidad de la información y proteger la identidad personal.

Se están dando algunos pasos para mitigar los riesgos como desarrollar soluciones tecnológicas para detectar contenido generado por IA, asegurar la autenticidad de la información, proteger la identidad personal y promover la alfabetización mediática y las habilidades de análisis crítico.

Pero las promesas de la IA –como el potencial de actuar como un gran nivelador, democratizando el acceso a oportunidades que antes eran exclusivas de ciertos grupos– no se harán realidad si no existe un esfuerzo coordinado de la sociedad para asignar los recursos necesarios para su desarrollo e implementación, asegurando que se encuentren al alcance de toda la población y sin la afectación a ésta como lo refiere en Algorithms of Oppression la profesora Safiya Umoja Noble.

En su libro muestra cómo los sesgos en los datos históricos y la concentración de poder han dado por resultado sistemas sesgados, en particular en contra de mujeres y minorías raciales. También hay información sobre el uso incorrecto de reconocimiento facial en la ciudad de Detroit, donde ha llevado a tres arrestos equivocados, todos de personas negras.

Es importante mencionar que los sesgos observados en el desempeño de sistemas de IA no son necesariamente problemas nuevos, ni han sido creados por estos sistemas, sino que están haciendo visibles desigualdades estructurales de nuestras sociedades y tienden a amplificarlas, por lo que existe el riesgo de que las desigualdades se perpetúen y se amplíen.

Ante esta situación es crucial desarrollar y socializar métodos para identificar y mitigar los sesgos, asegurando que los sistemas de IA, lejos de replicar brechas históricas por razones de género, raza, edad o cualquier otra característica protegida se desarrollen y usen de formas deliberadas.

Asimismo, es fundamental promover un enfoque multidisciplinario y colaborativo fomentando la diversidad en los equipos, no solo en términos de género, sino también en aspectos como el origen étnico, cultural y disciplinario para asegurar que los sistemas de IA sean más equitativos y representativos de la sociedad en su conjunto, considerando que los problemas de origen son sistémicos, estructurales e históricos. Esto implica acciones a lo largo de todo el ciclo, desde el financiamiento, diseño y gobernanza institucional, recopilación de datos, entrenamiento, desarrollo, despliegue, etcétera.

Pero además de la inclusión se requieren marcos regulatorios robustos para proteger la privacidad individual y prevenir el uso indebido de la información personal, al tiempo que permitan la innovación y el desarrollo tecnológico porque a medida que los algoritmos de IA se vuelven más complejos, puede resultar difícil entender cómo llegan a sus decisiones o recomendaciones.

Esa «caja negra» plantea cuestionamientos sobre la confianza y la rendición de cuentas, especialmente en aplicaciones críticas para los derechos humanos como la atención médica o el sistema de justicia, por ello, la responsabilidad y supervisión humana en los sistemas de IA es crucial y algo que se tendrá que definir y repensar continuamente. Se debe determinar qué tareas pueden ser confiadas a la IA y cuáles requieren supervisión humana, hasta qué grado y en qué momentos.

Por todo lo que implica la inteligencia artificial es esencial establecer marcos regulatorios que protejan los derechos humanos y promuevan la igualdad e inclusión en el uso de la IA. Estos marcos deben ser lo suficientemente flexibles para adaptarse a la rápida evolución de la tecnología y lo suficientemente robustos para proporcionar salvaguardias efectivas contra el uso indebido. La colaboración internacional es crucial en este aspecto, dada la naturaleza global de la tecnología de IA y sus implicaciones transfronterizas.

También es necesario incorporar consideraciones éticas desde las primeras etapas del proceso de desarrollo, realizando evaluaciones de impacto ético y estableciendo mecanismos de auditoría y rendición de cuentas. Las empresas y organizaciones que desarrollan y despliegan sistemas de IA deben asumir la responsabilidad de garantizar que sus productos sean seguros, justos y respetuosos con los derechos humanos y con su entorno.

La inteligencia artificial representa una revolución tecnológica con un potencial transformador sin precedentes. Su capacidad para procesar grandes volúmenes de datos, aprender de manera autónoma y generar soluciones innovadoras la convierte en una herramienta poderosa para abordar desafíos complejos en diversos ámbitos de la sociedad.

Sin embargo, para aprovechar plenamente este potencial, es crucial que su desarrollo y aplicación se guíen por principios éticos sólidos y un compromiso con la igualdad y la justicia compartido solidariamente por gobiernos, empresas, desarrolladores, usuarios, la comunidad científica y la sociedad civil. El artículo completo se puede consultar en Ponencia IMEF 2024 Innovando hacia un México con Sostenibilidad.
Es crucial desarrollar y socializar métodos para identificar y mitigar sesgos, asegurando que los sistemas de IA, lejos de replicar brechas históricas por razones de género, raza, edad o cualquier otra característica protegida, se desarrollen y usen para cerrarlas.
La IA tiene el potencial de actuar como un gran nivelador democratizando el acceso a oportunidades que antes eran exclusivas de ciertos grupos, pero las promesas no se harán realidad si no existe un esfuerzo coordinado que asegure que llega a toda la población y se desarrolle y use de forma ética.
Las opiniones expresadas en este artículo son de exclusiva responsabilidad del autor y no representan la opinión del IMEF.

Suscríbete a IMEF News

Análisis y opinión de expertos en economía, finanzas y negocios para los tomadores de decisiones.

Te puede interesar

SCJN declara constitucional que el SAT pida información sobre el beneficiario controlador

Por unanimidad de cinco votos, la Segunda Sala de la Suprema Corte de Justicia de la Nación (SCJN) declaró constitucional que el Servicio de Administración Tributaria (SAT) requiera información sobre el beneficiario controlador.

extorsion-empresa

Extorsión, ese depredador que acecha a las empresas

La extorsión es una de las formas más baratas de actividad criminal: implica bajos riesgos y costos. El Economista.

La economía mexicana al cierre de 2023

Contrario a las perspectivas que se tenían al cierre del año pasado, la economía global se ha mantenido fuerte en 2023. Sin embargo, los indicadores IMEF Manufacturero y No Manufacturero de noviembre sugieren que el dinamismo económico registrado desde inicios de 2023 se está moderando al cierre del año. ¿Qué se espera en los próximos meses?

Transformando las finanzas para la generación Z: oportunidades y desafíos clave

La falta de talento joven en el sector financiero es un desafío global que afecta la sostenibilidad de los equipos. La jubilación de los baby boomers y la renuncia de nuevos profesionales están creando una brecha de habilidades sin precedentes. Para los CFOs, atraer y retener talento requiere cambios estratégicos que alineen sus ofertas con los valores y expectativas de esta nueva generación.

Expectativa del PIB y de la inversión

Las tres encuestas públicas de expectativas económicas de analistas del sector privado son las que hace el Banco de México (BM), el IMEF (I) y Citibanamex (C). La expectativa de lo que esperan sobre el PIB se representa por el valor de la mediana. Así, las últimas encuestas revelan para el PIB de 2023: 1.6% (BM), 1.8% (I) y 1.9% (C).

El mercado como contrapeso es parte de las reglas de la flotación: IIF

Será el mercado quien otorgará los contrapesos necesarios en México para mantener la disciplina económica y promover una mejora en la calidad de las políticas públicas, confió Martín Castellano, director de Investigación económica para América Latina en el Instituto de Finanzas Internacionales (IIF, por su sigla en inglés).

IMEF incrementa la estimación de crecimiento 2022 de 1.9 a 2.5%

La estimación del crecimiento real del PIB para 2022 se incrementa en noviembre a 2.5%. El mes previo, se ubicó en 1.9%. El pronóstico de la tasa de inflación para 2022 se incrementa a 8.6%, dejando atrás la estimación de 8.5% registrada en octubre.