Millones de personas han sido engañadas por foto falsa de la supuesta detención de Trump creada con inteligencia artificial.
El fundador de la plataforma de periodismo de investigación Bellingcat, Eliot Higgins, se sorprendió por la enorme repercusión que tuvo su publicación en redes sociales y aclaró que «Estaba bromeando, pensé que tal vez solo cinco personas los retuitearían».
Esta situación ejemplifica cómo es posible crear confusión con solo un clic. Recientemente, imágenes falsas del expresidente estadounidense Donald Trump, supuestamente siendo arrestado, fueron vistas por millones de personas gracias a la inteligencia artificial utilizada para crearlas. Algunas de estas imágenes mostraban a Trump esposado y rodeado de agentes policiales, mientras que su esposa Melania protestaba.
Estas imágenes generadas por IA, que habían sido visualizadas al menos cinco millones de veces, ilustran la creciente sofisticación de la manipulación de imágenes y la facilidad con la que se puede «crear confusión» en un mundo lleno de información volátil.
El incidente añade al debate en torno a la responsabilidad de quienes difunden información en línea y la necesidad de estar alerta frente a la desinformación generada por la tecnología.
“La imagen de la detención de Trump en realidad sólo mostraba casualmente lo bueno y lo malo que era Midjourney a la hora de representar escenas reales”, escribió Higgins en un correo electrónico. “Las imágenes empezaron a formar una especie de narrativa a medida que yo daba indicaciones a Midjourney, así que las encadené en forma de narración y decidí terminar la historia”.
Detalle inverosímiles
Una mirada más cercana a esta imágenes, nos muestra algunas pistas evidentes de que las imágenes son falsas. Henry Ajder, un experto en IA, señala que la tecnología actual no es muy buena para representar ciertas partes del cuerpo, especialmente las manos, lo que resulta en inconsistencias notables en las imágenes falsas.
A menudo, las personas comparten imágenes para amplificar sus puntos de vista políticos, incluso sin verificar su autenticidad. Ajder agrega que ha habido casos anteriores de manipulación de imágenes burdas que han sido ampliamente compartidas y creídas por muchas personas.
Los fallos en la generación de imágenes subrayan la necesidad de verificar siempre la autenticidad de cualquier imagen compartida en línea y ser consciente de los posibles sesgos de aquellos que la comparten. En este caso, una simple verificación en sitios de noticias confiables confirma que Trump no ha sido arrestado ni acusado de ningún delito hasta ahora.
El futuro
Expertos en inteligencia artificial dijeron que si bien las imágenes falsas «no son nada nuevo», la velocidad del progreso dentro del campo y el potencial de uso indebido son algo de lo que preocuparse.
«El contenido sintético está evolucionando a un ritmo acelerado y la brecha entre el contenido auténtico y el falso es cada vez más difícil de descifrar», dice Mounir Ibrahim de Truepic, una empresa de análisis de contenido digital.
Los expertos coinciden en que la fama de Trump hace que las falsificaciones sean fáciles de detectar. Pero las imágenes de personas desconocidas podrían dificultar la tarea, y la tecnología mejora todo el tiempo.
Otros casos