La discusión sobre la regulación de la IA en nuestro país está próxima a rendir frutos en el Congreso de la Ciudad de México, donde se prevé que en 2025 se discuta y, probablemente, se apruebe la primer ley en la materia.
David Martínez y José Luis Ramos |Reporte Indigo |30 de Oct, 2024. La Ciudad de México (CDMX) es la primera entidad del país que trabaja con el fin de emitir una regulación para el uso y aplicación de la inteligencia artificial (IA), con lo que se podría convertir en un referente a nivel nacional.
En México las autoridades federales y el Congreso de la Unión no han trabajado en este tema, a pesar del incremento en el uso de la IA para el trabajo, actividades escolares y el entretenimiento.
Recientemente este medio documentó cómo es que la población de nuestro país se relaciona con este tipo de tecnología. Datos de Business Application Services de Grant Thornton México, señalan que el 57 por ciento de la población mexicana ha interactuado con alguna herramienta de IA, mientras que el 55 por ciento la considera útil.
Además, según dicha organización, a nivel federal existen 19 iniciativas propuestas por legisladores para regular la IA; sin embargo, no hay una ruta clara para su aprobación.
Lo anterior podría cambiar en la capital del país, donde la iniciativa en cuestión fue propuesta por el Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la Ciudad de México (InfoCDMX) y, de acuerdo con diputados locales encargados de su dictaminación, se espera que sea aprobada para el 2025.
Si esto se concreta, la CDMX podría volver a ser punta de lanza en materia legislativa en la regulación de la IA, como lo fue al despenalizar el aborto en el año 2007, o cuando la capital del país fue pionera en materia de derechos sociales en 2009, al aprobar la reforma legal para permitir el matrimonio entre personas del mismo sexo.
¿Por qué se necesita una regulación de la IA en México?
Voces autorizadas en este tema, como la Dirección General de Cómputo y Tecnologías de la Información y Comunicación de la Universidad Nacional Autónoma de México (UNAM), coinciden en que existen diversos riesgos en el uso de la IA que deben ser atendidos.
De acuerdo con la UNAM, el incumplimiento de las leyes de protección de datos personales, la violación de derechos de propiedad intelectual, la discriminación, el acoso cibernético, el robo o suplantación de identidad, la estafa o fraude y el acceso ilícito a sistemas informáticos, son solo algunos de los riesgos al no tener conciencia de los impactos y los costos de no tener un marco regulatorio en ciberseguridad.
Aunado a esto, a los especialistas les preocupa el tema de que en México no desarrolle tecnología y sea solo un consumidor de ésta.
La iniciativa capitalina para regular la IA
La iniciativa que fue presentada ante el Congreso de la Ciudad de México el pasado 24 de octubre por el InfoCDMX, y busca regular el uso de la IA por parte de las instituciones públicas y los sujetos obligados, explicó en entrevista con Reporte Índigo, Patricia Urriza, diputada local de Movimiento Ciudadano y secretaria de la Comisión de Ciencia y Tecnología del legislativo capitalino.
“La iniciativa busca regular la IA para los sujetos obligados y tomadores de decisiones, es inédita en México”, indicó la legisladora local, quien detalló que uno de los puntos más importantes de la iniciativa, es “que haya limitaciones en el uso de la inteligencia artificial por parte de los entes públicos”, así como que la información generada por la IA esté libre de noticias falsas.
“Nosotros entendemos que la inteligencia artificial es una herramienta poderosísima y que el Gobierno puede tomar decisiones de políticas en beneficio de las personas, pero también existe el riesgo de que se pueda vulnerar la información personal”, subrayó.
Urriza abundó en que la Agencia Digital de Innovación Pública (ADIP) hace recopilación y cruce de datos de placas de automóvil, registro civil, sistema penitenciario, información que puede ser procesada a través del uso de la IA y debe ser resguardada de manera correcta.
“Esta iniciativa de ley busca regular los procesos en los que se puede utilizar la IA y se busca que los datos se puedan anonimizar para evitar violaciones a los datos personales de la ciudadanía”, agregó.
La diputada emecista afirmó que la iniciativa estará en estudio en las comisiones de Ciencia y Tecnología, así como en la de Transparencia y que será durante el mes de noviembre cuando haya un Parlamento Abierto para ser analizada, y que será en el 2025 cuando sea dictaminada y aprobada por el pleno del Congreso.
¿Qué pasará con IA en plataformas como Meta?
Patricia Urriza hizo énfasis en que lo que plantea la iniciativa referida “no es suficiente”, por lo que un siguiente paso en materia legislativa, será crear una regulación para el uso de la IA por parte de empresas y plataformas digitales.
“Hay muchas plataformas que usan mal la inteligencia artificial y esto ha terminado en violencia de género en la edición de fotografías”, indicó la legisladora, quien añadió que se deben fincar responsabilidades a quienes generen productos digitales ilegales y a las personas que hagan uso de estas herramientas para ejercer violencia sobre una persona.
“La empresa Meta no se hace responsable por cómo es usada su plataforma por la difusión de fake news, entonces necesitamos regular todo este tema”, puntualizó.
Es importante mencionar que, en enero de 2024, se presentó una iniciativa en el Congreso del estado de Nuevo León para sancionar la difusión de imágenes con contenido sexual generadas con IA. No obstante, dicha propuesta estaba centrada en evitar la difusión de imágenes generadas por IA con contenido sexual y que pudiera afectar a mujeres, no en regular la herramienta.
¿Cómo está el tema de la IA en México?
Actualmente, la inteligencia artificial es un negocio en el que se invierten más de 10 mil millones de pesos al año y genera más de 11 mil empleos en nuestro país. De acuerdo con el reporte “La era de la IA en México”, elaborado por la plataforma de emprendimiento Endeavor, nuestra nación lidera el crecimiento en el número de empresas de IA en Latinoamérica, con una expansión de 965 por ciento entre 2018 y 2024.
No obstante, México se ubica en el segundo puesto en la región en cuanto a la adopción de la IA, solo detrás de Brasil que tiene 728 empresas dedicadas al ramo; mientras que en el territorio mexicano se contabilizan 362, las cuales se enfocan en la optimización y automatización de procesos, y desarrollan tecnologías como machine learning, business intelligence, analítica, natural language processing y robótica.
La Ciudad de México (CDMX) es la entidad con más empresas de este rubro, con el 49 por ciento (180 empresas), y los principales giros en donde se aplica la IA son los servicios financieros, el desarrollo de software y el comercio electrónico.
Jalisco se posiciona en segundo lugar, pues acumula el 10 por ciento de las empresas a nivel nacional(34); y donde las aplicaciones de la IA se emplean en soluciones que benefician a industrias en la automatización de tareas en rubros como la manufactura tecnológica, el branding y marketing y tecnologías de la información.
Después figura Nuevo León, que concentra el 9 por ciento de las empresas (32), donde los campos en los que dominan las aplicaciones de la inteligencia artificial son la logística, la manufactura y el retail.
Si bien uno de los principales retos para México es el desarrollo de estas tecnologías y no solo consumirlas, nuestro país tiene una brecha entre la educación y las habilidades requeridas por el mercado laboral.
Datos del Foro Económico Mundial señalan que aunque hay casas de estudios como la UNAM, el Tecnológico de Monterrey, la Universidad Panamericana y la Universidad del Valle de México que forman capital humano para esta área, alrededor del 40 por ciento de la fuerza laboral necesita reentrenarse.
Solo entre 2022 y 2023, en nuestro país más de 19 mil estudiantes se matricularon en ingenierías afines a la inteligencia artificial; sin embargo, datos de la encuesta de Endeavor sobre IA de 2024 señalan que egresados de carreras como Ingeniería en sistemas computacionales, Ingeniería en software e Ingeniería en biotecnología son de los más difíciles de contratar
¿Cómo se aplica la IA en CDMX?
En el último sexenio en la CDMX (2018-2024), el Gobierno local, a través de la Agencia Digital de Innovación Pública (ADIP) buscó promover el desarrollo y la inclusión digital de la población con acciones como la creación de un motor analítico de big data para procesar grandes volúmenes de datos y herramientas de inteligencia analítica bidireccional.
Dicho modelo, busca ser replicado a nivel federal por la administración que encabeza Claudia Sheinbaum, e incluso, el Gobierno local de Clara Brugada ya planteó el control del tránsito mediante semáforos controlados por IA.
Es por esta razón que especialistas y organizaciones como la Alianza Nacional de Inteligencia Artificial coinciden en la necesidad de un agenda de IA para México que requerirá de un marco de políticas públicas para el desarrollo ético y responsable de la inteligencia artificial en nuestro país.
¿Qué retos enfrenta la regulación de la IA en México?
La presentación de la llamada iniciativa “Ley IA”, como se le conoce al proyecto de Ley para el uso de inteligencia artificial y el tratamiento de datos personales para sujetos obligados en la CDMX, coloca a la Ciudad de México a la vanguardia en una discusión que está por comenzar, explicó a Reporte índigo el doctor en Comunicación Política e investigador de la Universidad Iberoamericana, Manuel Alejandro Guerrero.
El académico detalló que, aunque esta no es la primera ley de su tipo en el continente, porque está precedida por regulaciones en países como Perú y Estados Unidos, sí lo es en el caso de nuestro país y será clave para proteger los datos personales de los ciudadanos.
“Busca proteger a las personas y el uso de sus datos cuando sean tratados mediante modelos de inteligencia artificial por parte de los llamados sujetos obligados por la Ley de Transparencia; es decir, cualquier autoridad y organismo de los poderes Ejecutivo, Legislativo y Judicial, órganos autónomos, sindicatos y partidos políticos, entre otros”, puntualizó el académico.
Guerrero añadió que, si se aprueba la regulación, los sujetos obligados deberán cumplir con una serie de garantías y de obligaciones que con base en principios éticos, garanticen la seguridad y la privacidad de los datos personales.
“Es una ley bien interesante porque, por ejemplo, a diferencia de la que se aprobó en Perú el año pasado, que es una ley muy chiquita de 19 artículos, ésta tiene cerca de 73 artículos en donde detalla de una manera bien clara, cuáles son los alcances, los sujetos obligados, cómo se generan y cómo se audita la información. Es una ley, en este sentido,innovadora”, sostuvo el doctor en Comunicación Política.
Cabe señalar que a nivel Latinoamérica, nuestro país es el segundo con más iniciativas en torno a la IA con 19, solamente superado por Colombia que registra 47 iniciativas, y seguido por Brasil y Chile con 14 iniciativas en la materia, respectivamente.
El inicio de un debate más amplio sobre la IA en México
Aunque en el debate político ya se habla del combate y regulación de las fake news y del uso de herramientas de IA para violentar la dignidad de las personas, lo cierto es que en el marco legal a discutirse en 2025 aún se escapan las grandes plataformas.
De acuerdo con Guerrero, las plataformas como Meta no se hacen responsables por el contenido de terceros por vacíos legales sobre las regulaciones de internet en los años noventa en Estados Unidos. No obstante, subrayó que esto abre un debate amplio sobre el marco regulatorio.
El investigador de la Universidad Iberoamericana refirió que hay marcos normativos como la Ley de Inteligencia Artificial de la Unión Europea que pone a los derechos humanos en primer lugar y las plataformas como X, Google, YouTube o Instagram tienen que acatar la normativa.
“Esa vía de desarrollo legal que tiene la Unión Europea no estoy tan seguro que la vayamos a tener en México. Si revisamos la iniciativa que estamos discutiendo, el tratamiento de datos personales claramente establece que se quiere una ruta alternativa a la de la Unión Europea, a la que se considera bastante más dura en su regulación”, aclaró.
