Cómo saber si una imagen es generada por inteligencia artificial

Puntos clave

Para determinar si una imagen fue generada por IA, busque anomalías en la imagen, como aretes que no coinciden y rasgos faciales deformados. Siempre verifique las descripciones de las imágenes y los subtítulos en busca de texto y hashtags que mencionen el software AI. Si todo lo demás falla, puede usar herramientas de detección de GAN y búsquedas de imágenes inversas.

Cada vez es más difícil saber si una imagen ha sido manipulada digitalmente, y mucho menos generada por inteligencia artificial, pero hay algunos métodos que aún puedes usar para ver si esa foto del Papa con una chaqueta acolchada de Balenciaga es real (no lo es). ).

¿Qué es la fotografía generada por IA?

Una fotografía generada por IA es cualquier imagen que se haya producido o manipulado con contenido sintético utilizando el llamado software de inteligencia artificial (IA) basado en el aprendizaje automático. A medida que las imágenes generadas por los generadores de imágenes de IA como DALL-E 2, Midjourney y Stable Diffusion se vuelven más realistas, algunos han experimentado con la creación de fotografías falsas. Dependiendo de la calidad del programa de IA utilizado, pueden ser lo suficientemente buenos como para engañar a la gente, incluso si los estás observando de cerca.

Jugar con la IA para crear imágenes geniales puede ser divertido e incluso ayudar a generar ideas, pero ha generado preocupaciones sobre los derechos digitales, la privacidad y los derechos de autor. Si alguien usa una imagen de IA de alguien sin su consentimiento que los retrata en una luz intencionalmente degradante, por ejemplo, eso es un gran problema. Entonces, ¿cómo sabemos si una imagen es real o producida por inteligencia artificial?

4 formas de comprobar si una foto fue tomada por IA

En el nivel actual de imágenes generadas por IA, generalmente es fácil distinguir una imagen artificial a simple vista. Los dedos o los anteojos parecen desafilados. Las fuentes de luz no tienen sentido. Los fondos están deformados.

Pero hay otras formas más técnicas de profundizar en una imagen si aún no está seguro. Llegaremos a eso más adelante, pero comenzaremos con los consejos más sensatos de la lista.

Revisa el pie de foto/descripción y los comentarios

A menudo, las personas que juegan con IA y publican los resultados en las redes sociales como Instagram le dirán de inmediato que la imagen no es real. Lea el pie de foto para obtener pistas si no es inmediatamente obvio que la imagen es falsa.

Por lo general, dice algo como: "Esta imagen se generó poniendo mis fotos en inteligencia artificial" o "Esta imagen no es real. Se hizo con Midjourney". También incluirán hashtags como #aiaart, #midjourney, #mjv5 (para la versión 5 de Midjourney), etc. A veces, las personas publican las indicaciones detalladas que escribieron en el programa en otra diapositiva.

Los comentarios también pueden ser una pista. El cartel original puede decirle que la imagen está hecha a máquina allí, o si el cartel no confiesa que usa IA, los comentaristas de ojos agudos lo notarán y lo llamarán.

Algunas cuentas están dedicadas solo a imágenes de IA, e incluso enumeran las indicaciones detalladas que escribieron en el programa para crear las imágenes que comparten. La cuenta original de aiartgallery en Instagram, por ejemplo, comparte imágenes hiperrealistas y/o bizarras creadas con inteligencia artificial, muchas de ellas con la última versión de Midjourney. Algunas parecen fotografías: sería difícil saber que no son reales si se encontraran con su página Explorar sin buscar los hashtags.

busca lo extraño

Aunque mejoran rápidamente, las imágenes generadas por IA aún pueden parecer casi una pesadilla. Al menos muchos intentos de IA de fotorrealismo sufren el efecto del valle inquietante. Busque algo en la foto que se vea fuera de lugar, como:

• Manos y dientes de aspecto extraño
• Rostros deformados/asimétricos
• Accesorios que no coinciden, como aretes.
• Texto confuso en el fondo
• Marcas de agua manchadas de fotos utilizadas para entrenar el programa
• Texturas anormalmente suaves

Elementos como anteojos también pueden mezclarse con la piel de un sujeto generado por IA, así que tenga cuidado con eso también.

Los objetos y las personas en el fondo de las imágenes de IA son especialmente propensos a las rarezas. En la serie original (objetivamente asombrosa) de fotos AI del papa bautizando a una multitud con una pistola de agua, puedes ver que muchas de las caras de las personas en el fondo se ven extrañas. Incluso el agua en algunas tomas parece salir de la nada.

Intenta usar un detector GAN

Los generadores de imágenes de IA utilizan Generative Adversarial Network, o GAN. Hay algunas aplicaciones y complementos diseñados para intentar detectar imágenes falsas que puede usar como una capa adicional de seguridad cuando intenta autenticar una imagen. Por ejemplo, hay un complemento de Chrome que verificará si GAN genera una imagen de perfil cuando hace clic con el botón derecho en la foto.

Los resultados de estos programas son aproximados, por lo que es mejor usar los detectores GAN junto con otros métodos y no confiar en ellos por completo. Cuando ejecuté una imagen generada por Midjourney V5 a través del AI Art Detector de Maybe, por ejemplo, el detector la marcó incorrectamente como humana.

Al igual que con los generadores de imágenes de IA, esta tecnología seguirá mejorando, así que no la descarte por completo.

Relacionado: Audio Deepfakes: ¿Alguien puede saber si son falsos?

Haz una búsqueda de imágenes o web

Si no está seguro de lo que está viendo, siempre está la antigua búsqueda de imágenes de Google. En estos días, puede simplemente hacer clic con el botón derecho en una imagen para buscarla en Google y le devolverá imágenes visualmente similares.

También puede usar el botón "buscar fuente de imagen" en la parte superior de la barra lateral de búsqueda de imágenes para tratar de discernir de dónde proviene la imagen. Si no puede encontrar ningún resultado, podría ser una señal de que la imagen que está viendo no es de una persona real.

Si la imagen se usa en una noticia que podría ser una información errónea, busque otros informes sobre el mismo evento. Si ningún otro medio habla de ello, especialmente si el evento en cuestión es increíblemente sensacional, podría ser falso.

Imágenes de IA del futuro

Estos programas solo mejorarán y algunos de ellos ya son increíblemente buenos. El V5 de Midjourney parece haber abordado el problema de representar las manos correctamente, y sus imágenes pueden ser sorprendentemente fotorrealistas.

Es probable que esto termine en un lugar similar a la ciberseguridad, una carrera armamentista de generadores de imágenes contra detectores, cada uno mejorando constantemente para tratar de contrarrestar al otro. Hasta que las regulaciones se pongan al día con la tecnología, nadie sabe adónde irá.

Relacionado: ¿Qué tan bueno es Midjourney en AI Art? Comparamos todos los modelos