El Tribunal Supremo de China anunció el lunes nuevas reglas judiciales para enfrentar los abusos de la inteligencia artificial, entre ellos los «deepfakes» y las voces clonadas sin autorización, informó la agencia estatal Xinhua.
La medida establece los criterios que deberán seguir los tribunales chinos al resolver litigios relacionados con IA, un sector que Beijing considera estratégico y en el que compite directamente con Estados Unidos.
Las directrices «dejan claro que las personas no pueden utilizar la IA para crear o distribuir réplicas digitales reconocibles de otras personas sin su consentimiento, incluidos rostros y voces clonados», según Xinhua. También contemplan litigios por «discriminación de precios mediante algoritmos» y por información falsa generada con estas herramientas.
El contexto no es menor: la proliferación de tecnologías capaces de reproducir de forma convincente el rostro y la voz de personas reales ha multiplicado los casos de fraude, difamación y manipulación digital en los últimos años.
Según Xinhua, las nuevas normas ofrecen vías legales a «una persona cuyo rostro haya sido alterado digitalmente y utilizado para difundir acusaciones sexuales falsas y difamatorias». Los proveedores de servicios de IA, además, podrán ser considerados legalmente responsables si no «actúan con rapidez» una vez notificados de que sus sistemas generaron contenidos que vulneran derechos ajenos.
El vicepresidente del Tribunal, Tao Kaiyuan, explicó en una rueda de prensa —según la transcripción publicada por el propio tribunal— que las directrices buscan «equilibrar el desarrollo y la seguridad». La fórmula resume la tensión que Beijing intenta administrar: no frenar una industria en la que invierte enormes recursos, pero sí acotar sus efectos más disruptivos antes de que erosionen la confianza pública.
El propio Xi Jinping pidió «reforzar la conciencia sobre los riesgos» y garantizar que la inteligencia artificial sea «segura y controlable», una consigna que encaja con el patrón habitual del Partido Comunista Chino: fijar el rumbo tecnológico desde arriba, con el aparato judicial como brazo ejecutor de una política ya decidida en las esferas de poder.
Conviene mirar los incentivos. En las democracias de mercado, la discusión sobre deepfakes y clonación de voz avanza —con lentitud y contradicciones— a través de legislaturas, cortes independientes y presión de la sociedad civil. En China, el Tribunal Supremo actúa como extensión de una decisión política centralizada, sin que exista un poder legislativo autónomo que la contrapese ni una prensa libre que la escrutine.
La protección a las víctimas de manipulación digital es, en sí misma, una demanda legítima y compartida en cualquier sistema legal serio: nadie discute que alguien no debería ver su rostro usado para difundir acusaciones falsas. El punto de fricción es otro: quién decide los límites, con qué controles y a beneficio de quién. En Beijing, esa línea la traza el mismo poder que supervisa a las empresas tecnológicas, fija sus prioridades de inversión y compite, sector por sector, con Washington por la primacía en inteligencia artificial.
El dato importa más que el ruido: mientras Estados Unidos y sus aliados debaten marcos regulatorios con participación de múltiples actores —empresas, cortes, congresos—, China avanza con una arquitectura donde el Estado fija la norma y el mismo Estado la interpreta. Para las democracias de mercado que compiten con Beijing en este terreno, la lección no es ignorar los riesgos reales de los deepfakes, sino evitar que la respuesta a esos riesgos termine reforzando el control estatal sobre la tecnología, la información y, en última instancia, sobre los ciudadanos.
