La urgencia de combatir deepfakes en una brecha generacional expuesta a estrategias de desinformación

Por Luis Hernández Rojas

La irrupción de la Inteligencia Artificial en una sociedad tejida por redes digitales ha transformado abruptamente la estructura comunicacional de la información. Es un deber consolidar el conocimiento educativo, cultural y tecnológico en el uso responsable de las herramientas que ofrece este fenómeno.

Claramente, la IA representa un nuevo orden radical similar a los inicios de la revolución industrial que converge a nuevos escenarios sociales geopolíticos, económicos, académicos, entre otros.

Sin embargo, leyes actuales en sintonía con planes de alfabetización parecen ser soluciones insuficientes en el objetivo de regular la evolución de los contenidos.

El aumento de las deepfakes o ultrafalsos está arraigado en todas las plataformas tecnológicas de información, interacción y conocimiento.

Especialistas definen a la IA como un fenómeno disruptivo que acontece cíclicamente cada siglo marcando hitos claves en la historia del pensamiento y conocimiento. Este advenimiento concatena beneficios globales que simultáneamente acarrean consecuencias, cuando es usada de forma negligente.

Se conoce que la utilización de IA proporciona apoyo en diversas labores que demandan automatización para optimizar tiempos y cumplir metas con herramientas de asistencia conocidas como transformadores generativos pre entrenados. (ChatGPT) desarrollada por Open AI, es la principal herramienta utilizada por usuarios a nivel mundial.

En el ámbito informativo, aspectos negativos profundizan una problemática de identidad fotográfica y audiovisual más allá de los bulos, denominada deepfake o ultra falso. Esta técnica manipula archivos textuales, de voz, fotográficos o videos con tecnologías que alteran su composición original convertidos en copias cuasi auténticas.

Esta situación supone una gran amenaza para la sociedad digital cuyo engaño afecta principalmente a figuras políticas o famosos, convirtiendo su imagen y/o video en un material de suplantación de gestos o declaraciones, calando hasta producciones pornográficas con el objetivo de perjudicar o chantajear su reputación.

En este escenario, los creadores de deepfakes apuestan por los centennials o generación Z para viralizar contenidos de desinformación. Este segmento de la sociedad digital posee la habilidad de manipular dispositivos y posicionar tendencias desconociendo medidas efectivas para corroborar la autenticidad de una publicación.

Sobre este contexto, la empresa tecnológica de verificación e identificación digital Onfido, realizó investigaciones que indicaron el aumento exponencial de tres mil por ciento desde 2023 la producción de deepfakes en todos sus formatos con cifras de mayor incidencia en procesos electorales. A su vez, la manipulación de los algoritmos de IA potencia el sesgo informativo en estos contenidos.

Dichos datos son robustecidos por recientes investigaciones realizadas por el Departamento de Comunicaciones de la Universidad Carlos III de Madrid. Los autores reseñan que la tendencia de los bulos actuales está mayoritariamente relacionada con la política de videos difundidos por usuarios que comparten hechos de representantes políticos en circunstancias (rueda de prensa, mítines, discursos, entrevistas).

En estos contenidos ralentizan la voz para exponer a la figura en situaciones de haber consumido presuntamente drogas o alcohol previo al acontecimiento.

Caso deepfake en Chile

“Cada ciudadano que aporte 200.000 CLP a este proyecto recibirá 1.000.000 CLP en el primer mes”.

El titular de esta deepfake fue elaborado a partir de una entrevista realizada al presidente chileno Gabriel Boric por la periodista Jenny Perez-Schmidt, presentadora en la televisora alemana DW (Deutsche Welle - español).

La noticia publicada en un perfil de la plataforma Facebook en 2024, registra una clara alteración de la conversación entre ambos creada con Inteligencia Artificial promoviendo un negocio ilícito de inversión económica. Posteriormente, la periodista desmintió a través de sus redes sociales el hecho noticioso falsificado.

Este ejemplo demuestra el grave peligro que afectaría a miles de usuarios digitales sin conocimiento básico en la identificación de contenido ultra falso. Por ende, resulta urgente regular leyes y definir soluciones frente a la proliferación de este fenómeno.

Frente a esta situación, la Cámara de Diputadas y Diputados de Chile aprobó en condición general de regulación, el pasado 4 de agosto el Proyecto Ley Deepfake con la obligación de definir objetivos para sancionar el uso incorrecto de la Inteligencia Artificial. En caso de ser aprobada, Chile sería el primer país de la región en legislar medidas sobre dicho asunto.

Alfabetización mediática

Desde el MIT (Instituto Tecnológico de Massachusetts, por sus siglas en inglés) promueve a todos los interesados el curso gratuito Media Literacy in the Age of Deepfake para identificar deepfakes diseñadas sobre contextos actuales de desinformación en materia electoral y conflictos geopolíticos.

Además, recomiendan analizar las principales características para detectar alteraciones hiperrealistas basadas en movimientos faciales ralentizados, dimensiones del rostro-cuerpo y discordancias en el relato de declaraciones.

Es importante señalar que Jordan Mitchell, fundador de la empresa tecnológica Growth Stack Media, resalta a la alfabetización mediática como una necesidad que debe ser incentivada por medios de comunicación, gobiernos e instituciones educativas, mediante campañas de concienciación pública y talleres comunitarios certificados.

En marzo del presente año, la Asociación Española para el Fomento de la Seguridad de la Información realizó junto a empresas tecnológicas de ciberseguridad el Foro - Deepfakes: riesgos, casos reales y desafíos en la era de la IA- para proponer avances contundentes en la identificación de material creado por herramientas avanzadas en el entorno artificial.

Las conclusiones recomiendan utilizar algunas herramientas para identificar contenido alterado: ELA (Error Level Analysis), fakeimagedetector.com, ManTraNet y FAL Detector.

Entre otras propuestas, la empresa de software Adobe presentó en 2024 el programa “icono de transparencia”. Consiste en el diseño de una etiqueta universal que encripta los metadatos para reconocer cualquier contenido creado con Inteligencia artificial. Este proyecto es acreditado por las empresas Microsoft, Nikon, Leica y Truepic; integrantes de la asociación Content Authenticity Initiative.

El informe anual de derechos humanos 2024 presentado por Instituto Nacional de Derechos Humanos (INDH) y el Centro de Derechos Humanos de la Universidad Diego Portales (UDP), recomienda al Estado crear una agencia reguladora independiente que dictamine medidas de transparencia y rendición de cuentas sobre Inteligencia Artificial.

Esta medida podría clarificar puntos explicables que sean comprendidos adecuadamente por todos los sectores involucrados en la protección de datos personales.

El peligro latente de las deepfakes avanza velozmente con la evolución de técnicas algorítmicas especializadas en hiperrealismo de videos, fotografías y suplantación de voces.

Urge a sectores de la sociedad, gobiernos, organizaciones de fact-checking, medios de comunicación y empresas tecnológicas coordinar alianzas como estrategia en el corto plazo para impedir la normalización de este fenómeno.

Por lo tanto, la legislación de la Inteligencia Artificial en Chile debe profundizar propuestas más allá de la Ley Deepfake. El diseño de medidas prácticas sobre alfabetización mediática junto a organismos como la Asociación Chilena para el Desarrollo Sostenible es una necesidad para la sociedad digital chilena. Esta batalla contra las deepfakes es un compromiso cultural, ético y moral de todos.

Luis Hernández Rojas

Nacionalidad: Venezolano

Periodista. Egresado de la Universidad Dr. Rafael Belloso Chacín (2008).

Estado Zulia, Venezuela.

Posgrado. Especialización en Medios Digitales. Universidad Los Andes (2018).

Estado Táchira, Venezuela.

Colaborador en el departamento de Comunicaciones Internas, Campo Clínico Universidad Del Desarrollo, sede Concepción.

Cargo: Periodista Multiplataforma.

---

Envía tu columna de opinión

Las opiniones vertidas en esta sección son de exclusiva responsabilidad de quienes las emiten y no representan, necesariamente, el pensamiento de nuestra institución.

Déjanos tu opinión