Aprueba el pleno del INFOCM presentar una iniciativa de ley en materia de IA ante el Congreso local

Visitas >

848

Ciudad de México
04/10/2024

Durante la Trigésima Quinta Sesión Ordinaria del Pleno del Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la Ciudad de México (INFOCM) se aprobó, por unanimidad, la presentación de una iniciativa con proyecto de decreto para expedir la Ley para el uso de Inteligencia Artificial (IA) y el tratamiento de datos personales por Sujetos Obligados en la capital del país.

Tal iniciativa tiene como objetivo establecer los principios, reglas y procedimientos para garantizar la protección de los datos personales ante el desarrollo y uso de los sistemas de IA y será aplicable a todas las instituciones de los Poderes Ejecutivo, Legislativo y Judicial, Órganos Autónomos, partidos políticos, fideicomisos y fondos públicos.

Al posicionar el tema, el Comisionado Julio César Bonilla Gutiérrez destacó la importancia de esta iniciativa, pues si bien, la IA mejora muchas experiencias de nuestras vidas, su indebida utilización puede traducirse en una violación a la intimidad y privacidad de las personas y con ello acarrear graves consecuencias para las sociedades, tanto en lo colectivo como en lo individual.

Dijo que corresponde al Estado diseñar normativas que, sin afectar la libertad de expresión u otros derechos, constriñan a quienes proveen servicios digitales, así como a las instituciones que hacen uso de la IA a realizar evaluaciones de impactos potenciales, cortes analíticos periódicos de sus desarrollos y, sobre todo, dotar de información clara a las personas, acerca de lo que se hará con sus datos por parte de las inteligencias artificiales que operan.

Asimismo, destacó la importancia de generar controles efectivos para que las personas se autodeterminen informativamente en lo digital y se pueda incluso apagar aquellas inteligencias artificiales que, tras ser auditadas conforme a procedimientos normados y razonables, se descubra que han aprendido lo que no debían aprender de nosotras y nosotros.

Bonilla Gutiérrez destacó que las y los diputados locales de esta III Legislatura de la CDMX pueden estar seguros de que su contenido pone en el centro a las personas, pues la privacidad es el ámbito más íntimo o profundo de la vida de una persona, que puede comprender sus sentimientos, pensamientos, emociones, vida familiar o relaciones personales, por lo que garantizar su autodeterminación informativa y dignidad es crucial para mejorar su calidad de vida.

Por otro lado, la Comisionada Ciudadana Laura Lizette Enríquez celebró la iniciativa, la cual -dijo- permitiría tener una legislación de vanguardia dirigida a proteger los datos personales que son manejados por la IA implementada por sujetos obligados.

“La falta de regulación efectiva y el escaso control sobre el uso de datos personales a través de la IA, representan una amenaza para la privacidad y los derechos fundamentales de las y los ciudadanos, por lo que es fundamental su regulación”, añadió.

En uso de la voz, la Comisionada Ciudadana María del Carmen Nava Polina señaló que la propuesta que se pone a nuestra consideración busca salvaguardar la protección de datos personales asociados al desarrollo, entrenamiento y uso de estas tecnologías cuando las empleen los actores públicos institucionales de la CDMX. Por ello, se pronunció para que esta regulación provenga del ámbito nacional, a fin de asegurar un estándar común de protección clara y definición de competencias.

Por su parte, el Comisionado Presidente, Arístides Rodrigo Guerrero García, dijo que la inteligencia artificial es uno de los grandes avances tecnológicos del mundo y muestra de ello es que la Unión Europea ha estado trabajando de manera ardua en cuanto a la tutela de derechos en los entornos digitales.

“La inteligencia artificial -dijo- se está constituyendo en el mundo como en su momento lo fue la luz eléctrica o incluso el internet. La IA llegó para quedarse y es una herramienta que no se puede catalogar de buena o mala. La IA es y no se puede detener. Pero el derecho tiene que adecuarse a las nuevas circunstancias que se viven y Europa lo entendió muy bien. Latinoamérica se ha mantenido muy rezagada tanto en protección de datos personales como en inteligencia artificial.”

Por eso, esta iniciativa representa una gran oportunidad para hacer aportes a la legislación en materia de inteligencia artificial y por ello felicitó a su compañero de Pleno Julio César Bonilla Gutiérrez, quien encabezó esta iniciativa junto con José Luis Hernández de White Box Project Institute, y Roberto Vélez, representante de la Embajada Británica en México.

La propuesta incluye, entre otras cuestiones, lo siguiente:

• La adopción de diversos enfoques y criterios de organismos internacionales y nacionales atendiendo a nuestra realidad como país, por ejemplo, de la OCDE, UNESCO, Open Data InstitutE, Alianza Nacional de Inteligencia Artificial y el Reglamento de Inteligencia Artificial de la Unión Europea.

• Se establecen Principios rectores de una IA responsable como Ciberseguridad, consentimiento de las y los titulares de los datos, finalidad, no discriminación, responsabilidad, transparencia y privacidad desde el diseño y defecto.

• De igual forma, se prevé la responsabilidad algorítmica, sus elementos y atenuantes.

• La gestión de riesgos, donde se establece como identificar, evaluar y mitigar esos riesgos.

• También se contempla realizar auditorías algorítmicas, así como ser transparentes en sus resultados publicándolos de manera adecuada en la PNT y portales de internet.

• Se reconocen los procedimientos para la protección de datos personales, como el ejercicio de derechos ARCOP y medios de impugnación en la materia, mismos que remiten a la ley de datos local, justamente pensado como un sistema jurídico integral en la materia.

• También se prevé un procedimiento específico de verificación, de oficio o a petición de parte.

• Capítulos de medidas de apremio y sanciones a fin de hacer efectivas las resoluciones del INFO y sancionar a quien haga mal uso de datos personales en el desarrollo y uso de la IA, ello tomando en consideración las reglas del debido proceso y principios administrativos sancionadores.

La propuesta de iniciativa, sometida a consideración del Pleno, fue aprobada de manera unánime y será presentada ante el Congreso de esta ciudad en los próximos días, a efecto de iniciar el proceso legislativo correspondiente.