Cada vez más herramientas de IA permiten generar contenido visual de aspecto muy realista. Este tipo de material puede causar confusión en los usuarios, incluso provocar fake news. Especialistas advierten sobre los riesgos de la desinformación y entregan claves para reconocer cuándo estamos frente a una creación artificial.

Un canguro a la espera de subirse a un avión, el papa Francisco con una parka de diseñador, el mandatario ruso Vladímir Putin arrodillado frente al presidente chino Xi Jinping y otras imágenes increíbles han sido algunas de las fake news que han engañado a miles de usuarios en Internet. El factor común: todas han sido generadas con Inteligencia Artificial (IA).

Ante el alza de imágenes y videos creados con esta tecnología —ya sea en modo realista o emulando el estilo de otros creadores, como Hayao Miyazaki con Studio Ghibli—, y considerando el surgimiento de nuevas plataformas de IA y extensiones de las redes sociales surge la duda: cómo identificar un contenido creado con IA frente a uno real.

“Hoy, cualquier persona con un celular puede generar imágenes o videos hiperrealistas en minutos. Esto nos ha abierto enormes posibilidades creativas, pero también plantea un riesgo real: la propagación de contenidos manipulados o directamente falsos, muchas veces sin que lo notemos”, señala a 13C Laura Flores, gerente general de la agencia de marketing digital iProspect Chile, respecto a estas nuevas extensiones que se han sumado a las redes. 

Para Flores, esta nueva actualización nos lleva a un dilema ético y educativo: “Necesitamos avanzar con urgencia en alfabetización digital para identificar qué es real y qué ha sido creado por IA”. En este aspecto, señala que es importante cuestionar la fuente de donde viene el contenido que ahora vemos en nuestras redes sociales y si es hecho por IA hay que comprender cómo se ha generado.

¿Imagen real o creada con IA? 

Las plataformas de IA como Grok en X, MetaAI en Instagram y Facebook, y ChatGPT en WhatsApp se han integrado a las redes sociales para generar contenido visual realista. Carla Toro, subdirectora ejecutiva de Wikimedia Chile, explica que estas herramientas pueden ser riesgosas sin una adecuada alfabetización digital.

La especialista en tecnología advirtió que esta tendencia puede ser peligrosa si no va acompañada de procesos de alfabetización digital y mediática. A su vez, explica a 13C que en el caso de WhatsApp, “la IA de Meta se implementó sin una comunicación clara ni una estrategia educativa, lo que deja a muchas personas, especialmente aquellas con menor familiaridad tecnológica, sin saber qué es o cómo funciona”, explica Carla Toro.

“En el caso de Grok en X, también vemos otro riesgo: muchas personas lo usan como si fuera una fuente confiable de verificación, preguntándole directamente si una noticia es verdadera o no. Esto refuerza la idea de que estas herramientas son objetivas o infalibles, cuando en realidad tienen sesgos y limitaciones”, advierte y afirma que aunque la IA puede ser útil, también es “arma de doble filo si no se acompaña de una reflexión crítica sobre sus usos, alcances y riesgos”.

Cómo identificar imágenes y videos creados con IA en redes sociales

Si bien existen algunos sitios webs y avisos en redes sociales para identificar y etiquetar contenido “generado por IA”, para Carla Toro aún no es suficiente y no es una práctica estandarizada en todas las plataformas.

Bajo este contexto, la experta recomienda mantener una actitud crítica: “Sabemos que, en algún momento, todas y todos podemos caer ante una imagen falsa. Por eso, debemos ser conscientes de que este tipo de contenidos existen y tomarnos un momento para verificar lo que estamos viendo”.

Al mismo tiempo, entrega recomendaciones útiles para analizar si un video o foto fue hecho con IA:

• Hacer una búsqueda inversa de imágenes. En este sentido, hay que revisar si hay versiones similares en internet.
• Analizar la fuente de donde proviene el contenido.
• Prestar atención a detalles que puedan parecer “demasiado perfectos” o fuera de lugar, como proporciones antinaturales del cuerpo, distorsiones y anomalías, patrones repetitivos, letreros con palabras que no tengan sentido o elementos que no encajen completamente.

Cómo funciona la IA y por qué no siempre es fuente confiable  

Carla Toro explica que los modelos de IA que conocemos como ChatGPT, Deepseek, Gemini, entre otros, “funcionan gracias a grandes volúmenes de datos con los que fueron entrenados. Uno de los principales conjuntos de datos usados para su entrenamiento es Wikipedia, junto a muchos otros textos disponibles en internet”.

“Estos modelos “aprenden” patrones del lenguaje y estructuras de conocimiento a partir de esos datos, para luego generar respuestas que imitan cómo escribimos o cómo estructuramos la información”, aclara Toro,

“El problema es que no siempre lo hacen bien. Debido a la enorme cantidad de datos con los que trabajan, muchas veces los modelos “alucinan”, es decir, inventan información o presentan datos incorrectos como si fueran ciertos”, asegura.

“Por eso, las IAs no son herramientas confiables para tareas académicas o profesionales que requieran precisión o verificación”, aclara, aunque cree que “para tareas cotidianas, como reformular textos, traducir, generar ideas o resumir, pueden ser útiles. Pero siempre es fundamental verificar cualquier dato que entreguen, especialmente si se va a utilizar en contextos formales.”