La Comisión Nacional de los Derechos Humanos (CNDH) planteó la necesidad de fortalecer la regulación de la inteligencia artificial (IA) en México ante los riesgos que representa para la protección de datos personales, la libertad de expresión y la igualdad.
Durante la tercera sesión del ciclo de conversatorios “Inteligencia Artificial y Derechos Humanos”, especialistas, servidores públicos y estudiantes analizaron los efectos que puede tener el desarrollo acelerado de estas tecnologías y la necesidad de establecer mecanismos que permitan supervisar su utilización.
Uno de los principales puntos abordados fue el manejo de los datos personales. Los participantes señalaron que es necesario conocer qué información recopilan los sistemas de IA, quién tiene acceso a ella y con qué objetivos se utiliza, particularmente cuando los datos pueden convertirse en una fuente de valor económico.
También se identificaron riesgos relacionados con la discriminación, el racismo, la exclusión social y el incremento de las desigualdades, especialmente cuando los sistemas automatizados toman decisiones a partir de grandes volúmenes de información.
La discusión incluyó además los efectos de la inteligencia artificial sobre la libertad de opinión y expresión. La CNDH advirtió que estas herramientas facilitan la generación de contenidos falsos y la manipulación de imágenes, videos y voces, lo que puede provocar que se atribuyan a personas declaraciones o acciones que nunca realizaron.
Frente a estos desafíos, durante el encuentro se planteó la necesidad de contar con normas que establezcan responsabilidades claras y mecanismos independientes de vigilancia, además de esquemas de rendición de cuentas y participación ciudadana en las decisiones relacionadas con estas tecnologías.
Otro de los planteamientos fue fortalecer las capacidades tecnológicas del país. Entre las propuestas se mencionó que los datos generados por sistemas de inteligencia artificial en México puedan almacenarse y procesarse en infraestructura nacional, con el propósito de reforzar la seguridad de la información.
También se destacó la importancia de formar especialistas capaces de evaluar tanto las posibilidades como los riesgos de la IA, así como desarrollar infraestructura y herramientas tecnológicas propias.
La Agencia de Transformación Digital y Telecomunicaciones fue señalada como una de las instancias que trabaja en el análisis de los efectos de la inteligencia artificial en ámbitos como la vida cotidiana y la educación, además de impulsar capacidades dentro del sector público.
La CNDH sostuvo que el desarrollo tecnológico debe acompañarse de una discusión sobre sus efectos sociales y de reglas que permitan garantizar que la inteligencia artificial se utilice de manera compatible con los derechos humanos y las libertades de las personas.
