Demostrar qué es real en los tiempos de la IA resulta cada vez más complicado. La primera ministra italiana, Giorgia Meloni, ha desmentido públicamente varios ‘deepfakes’ creados con inteligencia artificial que suplantaban su identidad. Solo en mayo de este año, la lideresa comprobó indignada cómo imágenes falsas que la mostraban en ropa interior o videos que distorsionaban su postura sobre Israel se viralizaron en las redes sociales causando confusión. Tras varios años combatiendo la desinformación, Meloni anunció una estrategia radical hace unas semanas.
La primera ministra decidió registrar su propia voz ante la oficina de patentes de la Unión Europea (UE) con el objetivo de protegerse de las falsedades profundas creadas con inteligencia artificial. La medida, pionera entre los gobernantes mundiales, se suma a otros esfuerzos de la misma Meloni, quien llevó a juicio a los responsables de imágenes pornográficas falsas en las que aparecía su rostro.
La polarización en redes sociales y la popularidad de la IA han creado el escenario perfecto para que políticos y líderes mundiales sean protagonistas de contenidos multimedia generados artificialmente. Imágenes y audios hiperrealistas circulan masivamente gracias a que la tecnología disponible hoy permite que una persona real aparezca haciendo o diciendo algo que en realidad no hizo ni dijo.
“Si hablamos de comunicación política, un ‘deepfake’ es una amenaza para los líderes mundiales porque es muy fácil suplantar su identidad y clonar su voz dadas sus muchas apariciones mediáticas. Un video falso puede mostrar a un presidente anunciando una medida, a un candidato diciendo que se retira de una elección o a un ministro dando declaraciones que no hizo. Es una amenaza que hace unos años no estaba prevista”, dice a El Comercio Juan Carlos Luján, comunicador peruano y divulgador sobre temas relacionados con la IA.
Normas e iniciativas
Cada vez son más los políticos y gobiernos que deciden actuar ante esta situación, principalmente apostando por marcos legales estrictos o protocolos para aumentar la seguridad en línea.
En nuestra región, la presidenta mexicana, Claudia Sheinbaum, impulsa una reforma legislativa para penalizar el uso de videos falsos generados por IA de funcionarios gubernamentales utilizados para cometer fraude u otros delitos. La iniciativa se aprobó en el Senado en setiembre y ahora debe ser evaluada en la Cámara de Diputados.
Los críticos de la norma la han bautizado como la “ley antimemes” y consideran que penalizaría la sátira política y violaría el derecho a la libertad de expresión.
Brasil también ha adoptado medidas en el contexto electoral. En medio de una ola de desinformación, la justicia electoral y las plataformas de redes sociales anunciaron el refuerzo de acciones para frenar el uso de IA y los ‘deepfakes’ en los comicios en curso.
En Dinamarca, el gobierno ha propuesto modificar la ley de derechos de autor para garantizar que todo el mundo tenga derecho a su propio cuerpo, rasgos faciales y voz. Es una medida pionera en Europa, donde la Ley de Servicios Digitales de la UE ya pone a los proveedores de servicios en línea bajo una supervisión más estricta ante contenidos falsos. En la UE, la Ley de IA exige el etiquetado claro de los textos, imágenes y vídeos generados con esa tecnología.
Tarea compleja
Pero incluso si existen las normas, enfrentar los ‘deepfakes’ no es sencillo. Luján explica que una ley no necesariamente protegerá o regulará estos contenidos, ya que cualquiera que quiera dañar a otra persona puede crear una cuenta falsa, generar una imagen o un audio y apelar a otros usuarios para que esos contenidos se distribuyan.
“Estamos entrando en una etapa en la que la identidad digital se convierte en un bien para las personas y, al mismo tiempo, no existe registro, ley o patente que impida que se generen estas imágenes. Aquí hay un desafío importante porque no solamente es un tema de protección jurídica, sino también de educación ciudadana. Hay que enseñarle a la ciudadanía cómo consumir contenidos y cómo validar información”, dice el experto.
