Las nuevas directrices también alcanzan la clonación de voz, los precios diferenciados mediante algoritmos y el uso de inteligencia artificial para generar información falsa o afectar derechos de terceros.
China
La Corte Suprema Popular de China estableció nuevos criterios judiciales para determinar responsabilidades derivadas del uso de inteligencia artificial (IA), particularmente en casos relacionados con deepfakes, clonación de voces, información falsa generada por modelos de IA y discriminación de precios mediante algoritmos.
Deepfakes y clonación de voces podrán generar responsabilidad legal
Las directrices, publicadas el 7 de septiembre, señalan que utilizar inteligencia artificial para crear o difundir réplicas identificables del rostro o la voz de una persona sin su consentimiento puede constituir una vulneración de sus derechos. También podrá generar responsabilidad legal emplear ese contenido para difundir información falsa o perjudicar la reputación de alguien.
Uno de los puntos que más ha llamado la atención es el relacionado con las llamadas “alucinaciones” de la IA, término utilizado para describir respuestas en las que un sistema genera información falsa, inventada o inexacta y la presenta como si fuera verdadera.
Proveedores de IA podrán responder por contenido que vulnere derechos
En estos casos, los proveedores de servicios de inteligencia artificial podrán ser responsables cuando sean notificados de que sus sistemas generan contenido que vulnera los derechos de una persona y no adopten oportunamente medidas para detenerlo.
La responsabilidad también puede alcanzar a los usuarios. Si una persona utiliza deliberadamente instrucciones o prompts para conseguir que un sistema genere contenido ilícito o que vulnere derechos de terceros y provoca un daño, podrá enfrentar las consecuencias legales correspondientes.
También ponen límites a los precios determinados por algoritmos
Las nuevas reglas abordan además la denominada discriminación algorítmica de precios, práctica mediante la cual una plataforma utiliza información sobre los consumidores para ofrecer precios o condiciones diferentes por un mismo producto o servicio.
La Corte determinó que las empresas que utilicen algoritmos para imponer, sin una justificación razonable, diferentes precios o condiciones de contratación a consumidores y con ello les ocasionen un perjuicio podrán ser consideradas responsables.
Las disposiciones también contemplan casos en los que se emplea inteligencia artificial para suplantar a celebridades en promociones comerciales. Cuando esta práctica constituya fraude, los tribunales podrán reconocer indemnizaciones de carácter punitivo.
IA utilizada para cometer delitos
La Corte Suprema china precisó además que el uso deliberado de inteligencia artificial para cometer delitos como fraude, difamación, insultos o vulneración de información personal deberá ser sancionado conforme a la legislación vigente.
También se establecen medidas contra quienes empleen IA para fabricar pruebas, promover litigios falsos o alterar procesos judiciales. Las personas que presenten documentos generados mediante inteligencia artificial ante un tribunal deberán verificar que su contenido sea verdadero y preciso.
China intensifica vigilancia sobre contenidos generados con IA
El documento constituye la primera serie de criterios emitida por el máximo tribunal chino específicamente para orientar la resolución de controversias relacionadas con inteligencia artificial y está integrado por 24 disposiciones.
La medida llega mientras China intensifica la vigilancia sobre el uso indebido de estas tecnologías. A principios de septiembre, la Administración del Ciberespacio de China informó que una campaña nacional había permitido eliminar más de 5.6 millones de contenidos ilegales o contrarios a las normas, actuar contra más de 49 mil cuentas y sancionar o intervenir más de 2 mil 400 sitios web y aplicaciones, principalmente por información falsa creada con IA, suplantación de personas, contenido violento y afectaciones a menores.
Datos
¿Qué establecen las nuevas reglas de China sobre inteligencia artificial?
Establecen criterios para determinar responsabilidades por deepfakes, clonación de voces, información falsa generada por IA, discriminación algorítmica de precios y otros usos que vulneren derechos.
¿Los usuarios pueden ser responsables por contenido creado con IA?
Sí. Quienes utilicen deliberadamente prompts para generar contenido ilícito o vulnerar derechos de terceros y provoquen daños podrán enfrentar consecuencias legales.
¿Cómo protegen estas reglas a los consumidores?
Las directrices permiten atribuir responsabilidad a empresas que utilicen algoritmos para imponer, sin justificación razonable, precios o condiciones diferentes a consumidores por un mismo producto o servicio.
México “reprueba” en PISA; 4 de cada 10 alumnos quedan por debajo del nivel básico
#china #inteligencia_artificial #deepfakes #fraudes
