CHINA TIPIFICA CUÁNDO LOS “DEEPFAKES” Y LAS ALUCINACIONES DE LA IA PUEDEN SER DELITO
El Tribunal Supremo chino advirtió que la creación y difusión de contenidos falsos mediante rostros o voces generados con inteligencia artificial puede derivar en responsabilidades legales
El Tribunal Supremo de China divulgó nuevas normas para establecer los casos en los que el uso de inteligencia artificial (IA) para crear “deepfakes” puede tener consecuencias legales, particularmente cuando estas herramientas son utilizadas para difundir información falsa o afectar la reputación de otras personas.
De acuerdo con el máximo órgano judicial chino, la utilización de rostros o voces generados mediante IA para propagar falsedades o perjudicar a terceros puede ser perseguida por la ley. Las disposiciones también contemplan la creación o distribución de clones digitales de una persona sin su consentimiento.
Las normas incluyen además los casos relacionados con las llamadas “alucinaciones” de la IA, término utilizado para describir situaciones en las que los sistemas generan información errónea, inventada o carente de sustento. El tribunal consideró que la gestión inadecuada de este tipo de contenidos también puede generar responsabilidades.
Los proveedores de servicios de inteligencia artificial podrían enfrentar consecuencias legales si no actúan oportunamente después de que un usuario les notifique que un sistema generó contenido que vulnera sus derechos, de acuerdo con las disposiciones difundidas por las autoridades judiciales.
Los usuarios tampoco quedarían exentos de responsabilidad. El Tribunal Supremo señaló que pueden existir consecuencias cuando una persona utiliza deliberadamente una herramienta de IA para generar contenidos que violen la legislación o perjudiquen los derechos e intereses de terceros.
Las nuevas disposiciones también contemplan prácticas discriminatorias mediante algoritmos, como ofrecer precios o condiciones diferentes a consumidores por un mismo producto o servicio sin una justificación válida. Esta práctica ha generado preocupación en el creciente mercado chino de comercio electrónico.
Zhou Jiahai, director de la oficina de investigación del Tribunal Supremo, destacó la necesidad de proteger a los consumidores frente a este tipo de prácticas y señaló que la legislación debe responder con rapidez ante los nuevos riesgos asociados al uso de algoritmos y sistemas de inteligencia artificial.
Las medidas se conocen en un momento de fuerte expansión de la industria china de IA, con nuevos modelos desarrollados por empresas como Moonshot y Zhipu, en medio de la competencia tecnológica entre China y Estados Unidos. En julio pasado, el presidente Xi Jinping llamó a fortalecer una supervisión “precisa y efectiva” de la inteligencia artificial y a evitar una pérdida de control sobre esta tecnología.
