CNDH urge a regular IA ante riesgos de manipulación y uso de datos

La Comisión Nacional de los Derechos Humanos (CNDH) llamó a regular el desarrollo de la inteligencia artificial (IA) para proteger los datos personales y evitar que esta tecnología sea utilizada para manipular decisiones, difundir noticias falsas, profundizar la discriminación o concentrar el poder informático.
Durante la tercera sesión del ciclo de conversatorios “Inteligencia Artificial y Derechos Humanos”, especialistas, servidores públicos y estudiantes de nivel medio superior advirtieron que el avance de estos sistemas debe estar acompañado de normas que garanticen el respeto a los derechos humanos.
En el encuentro, se planteó que toda tecnología debe estar al servicio de las personas y que es necesario identificar quién la controla, cómo utiliza los datos personales y a qué intereses responde.
Ven riesgos en la IA
Entre los principales riesgos fueron señalados el aprovechamiento de datos personales para generar ganancias, la falta de normas, la exclusión social, el racismo, la discriminación y el aumento de la desigualdad.
Los participantes cuestionaron que las corporaciones tecnológicas soliciten autorregularse, debido a que ese mecanismo no garantiza certeza sobre el manejo responsable de la información que recopilan. También se analizó el llamado de actores del sector tecnológico a “desacelerar” el desarrollo de la inteligencia artificial. Durante el conversatorio se planteó que esta postura podría ser utilizada por las grandes empresas para controlar el ritmo de la innovación, limitar la entrada de competidores y conservar posiciones dominantes. Respecto de los derechos democráticos, se pidió avanzar en normas que impidan el uso de la IA para persuadir o manipular la toma de decisiones, concentrar el poder informático y fragmentar la realidad compartida.
Los retos en la regulación de la IA
La CNDH señaló en un comunicado que el desarrollo de esta tecnología plantea nuevos retos para la libertad de opinión y expresión, debido a que facilita la creación y difusión de noticias falsas y de videos, imágenes o voces manipuladas para atribuir a una persona hechos o declaraciones que nunca realizó.
En el encuentro se reconoció que los algoritmos, las redes sociales y otros avances tecnológicos pueden proporcionar información y facilitar tareas cotidianas. Sin embargo, se insistió en la necesidad de invertir en educación tecnológica y regular la producción y utilización de los sistemas automatizados.
También se mencionó que la Agencia de Transformación Digital y Telecomunicaciones trabaja para conocer los efectos de la inteligencia artificial en la vida de las personas, la educación y la adquisición de conocimientos, así como para desarrollar capacidades dentro del Estado que permitan atender necesidades públicas.