¿Deberías usar Lensa AI, la aplicación de retrato "mágica"? – Revisar Geeks

Danny Chadwick, Lensa IA

La autoadulación está empujando a la IA a la corriente principal. Pero, ¿debería unirse a las miles de personas que están experimentando con retratos de IA? Esta nueva tendencia, habilitada por una aplicación llamada Lensa AI, plantea algunas preguntas muy difíciles sobre la artesanía, el consentimiento y el sesgo.

Índice de contenidos
  1. ¿Cómo funciona la IA de Lensa?
  2. Las preocupaciones sobre los derechos de autor y la privacidad son reales
  3. ¿A dónde van sus datos?
  4. Lensa AI puede inclinarse hacia el sesgo
  5. ¿Deberías usar Lensa AI?

¿Cómo funciona la IA de Lensa?

Desarrollada por Prisma Labs, la aplicación Lensa AI (iOS/Android) se lanzó en 2018 y ofrece varias funciones de retoque fotográfico. Esencialmente, es una herramienta de embellecimiento fotográfico: hace que tus selfies sean más bonitos al aplicar filtros y eliminar las "imperfecciones".

Pero la última versión de Lensa AI incluye algo llamado "Avatares mágicos". Esta función le permite encargar hasta 200 retratos generados por IA en una variedad de estilos. Todo lo que necesita hacer es compartir de 10 a 20 imágenes de su rostro y desembolsar unos pocos dólares. Los resultados, como puedes ver, son bastante impresionantes.

Ahora, estos "avatares mágicos" no son generados por una IA propietaria. En realidad, le está pagando a Prisma Labs para generar retratos utilizando Stable Diffusion, un modelo de aprendizaje automático de código abierto. La aplicación Lensa AI es un intermediario y un curador, pero es más fácil que lidiar con Stable Diffusion por su cuenta.

Stable Diffusion se entrena en millones de imágenes disponibles públicamente. Es por eso que puede imitar docenas de estilos artísticos, incluidos manga, ciencia ficción, arte pop y retratos tradicionales. (En términos extremadamente simples, Lensa AI combina tus selfies con existente Arte. La realidad es un poco más complicada, ya que cientos de imágenes pueden contribuir a un retrato resultante).

Si desea probar la herramienta "Avatares mágicos" de Lensa AI, puede instalar la aplicación en iOS y Android y gastar unos pocos dólares en la función. Como mínimo, puede pedir 50 retratos por $2. Pero la mayoría de la gente paga $4 por el máximo de 200 retratos, ya que solo unas pocas de las imágenes producidas por esta IA son realmente útiles o atractivas.

Las preocupaciones sobre los derechos de autor y la privacidad son reales

Una ilustración de un sello de derechos de autor en una carta.
Maxx-Studio / Shutterstock.com

La herramienta "Avatares mágicos" genera imágenes a través de Stable Diffusion, un modelo de aprendizaje automático entrenado en imágenes disponibles públicamente. Estas imágenes se obtienen sin consentimiento, y no hay forma de que una persona, artista o empresa se excluya del conjunto de datos.

Obviamente, esto genera preocupaciones tanto por la privacidad personal como por los derechos de autor. Es posible que una persona no quiera que sus selfies se incluyan en el conjunto de datos de la IA, ¡es espeluznante! Y a medida que Prisma Labs gana dinero, a muchos artistas les preocupa que su trabajo beneficie la cuenta bancaria de otra persona. No ayuda que los generadores de imágenes de IA, que son rápidos y baratos, amenacen la seguridad laboral de los artistas profesionales.

También existe la preocupación de que alguien pueda volcar sus selfies en Lensa AI, produciendo obras de arte de su rostro sin su permiso. Esto es importante por una razón que destacaremos más adelante.

Aquí está el problema; las leyes y regulaciones actuales no definen cómo deben operar los conjuntos de datos de aprendizaje automático. No sabemos si este material viola las reglas de privacidad o derechos de autor. Y por esa razón, le resultará bastante difícil argumentar una infracción de derechos de autor en los tribunales. Las imágenes producidas por Stable Diffusion contienen rastros de estilos de artistas, contenido original y firmas (o marcas de agua), pero no se ven idéntico a cualquier imagen existente.

En el lado positivo, las corporaciones conocidas están pisando ligeramente en esta área. Están abiertamente preocupados por cómo la IA puede conducir a una infracción de derechos de autor. Por ejemplo, Getty Images se niega a tocar la IA hasta que las reglas estén mejor definidas, y Shutterstock está adoptando un enfoque único para garantizar que se pague a los artistas del mundo real.

Docenas de empresas podrían haber inventado "Avatares Mágicos", pero pocas están dispuestas a correr el riesgo. Incluso si no ve a Lensa AI como una preocupación por la privacidad o los derechos de autor, está claro que este tema eventualmente llegará a los escritorios de los legisladores.

¿A dónde van sus datos?

Un teléfono escaneando la cara de alguien.
Prostock-studio / Shutterstock.com

A menudo compartimos selfies en Instagram o Facebook sin pestañear. Pero cuando se usa una aplicación extraña como Lensa AI, algunas personas se ponen tensas. ¿Cómo usará esta empresa sus fotos y conducirá a una violación de su privacidad?

Bueno, según los términos del servicio, las fotos cargadas en Lensa AI se convierten en datos para entrenar un modelo de aprendizaje automático. Las imágenes reales se descartan, mientras que se conserva información como la posición y la orientación de los rasgos faciales. Además, las imágenes tomadas con una cámara selfie de iPhone (que usa la tecnología TrueDepth para mapear su rostro) pueden incluir datos como la topología facial.

Tenga en cuenta que Lensa AI también es una aplicación de embellecimiento fotográfico. Y al leer los términos de servicio, a menudo no queda claro si Prisma Labs se refiere a sus funciones de embellecimiento o de "Avatar mágico". Desafortunadamente, no estoy muy seguro de los detalles detrás de esta información. (Dicho esto, el TOS establece explícitamente que las selfies de "Magic Avatar" contribuyen al entrenamiento de Stable Diffusion, y que estas selfies se eliminan después de que la IA genera sus imágenes).

Debido a que esta IA está entrenada en fotos disponibles públicamente, la privacidad del usuario puede no ser una gran preocupación para algunas personas. Después de todo, si subes un montón de selfies a Facebook o Instagram, es posible que tu rostro ya esté incluido en el conjunto de datos. (Además, si eres fanático de la IA, puedes contribuir con gusto con tus datos faciales).

Pero algunas personas tienen una presencia en línea limitada. La privacidad no tiene precio, y si ha hecho un buen trabajo manteniendo su cara fuera de Internet, le sugiero que evite Lensa AI. Después de todo, no sabemos realmente dónde terminarán estos datos.

Si probó Lensa AI y desea eliminar su información de su conjunto de datos, comuníquese con [email protected]. Tenga en cuenta que, de acuerdo con los TOS, Lensa AI no está obligada a eliminar datos cuando lo solicite.

Lensa AI puede inclinarse hacia el sesgo

Un androide llorando porque podría ser un fanático.
Este robot está aceptando sus opiniones problemáticas. Sarah Holmlund/Shutterstock

Al igual que con toda tecnología, Stable Diffusion y Lens AI son vulnerables al sesgo. Algunas personas interpretan que esto significa que "la IA es un fanático", lo cual es divertido (pero técnicamente incorrecto). La inteligencia artificial es solo un algoritmo, y está diseñado por humanos utilizando una gran cantidad de datos.

Esto se hace evidente cuando se desplaza por retratos Lensa AI de extraños. La IA tiene la extraña costumbre de sexualizar a las mujeres, probablemente debido a las imágenes que se incluyen en su conjunto de datos (supongo que el fanart softcore constituye una parte decente del conjunto de datos). Para ser claros, no estoy tratando de sonar como un mojigato, esta IA De Verdad tiene una cosa para los pechos grandes, y como TechCrunch informes, ocasionalmente escupe porno.

La IA también tiene problemas con las carreras. Hay varios informes de mujeres asiáticas que descubrieron que la IA disminuyó o cambió sus rasgos faciales; como lo describió un usuario, el resultado es "sesgado para ser más asiático oriental.” Nuevamente, esto probablemente se deba al conjunto de datos, que puede incluir demasiadas ilustraciones de fanart (que generalmente se centran en los estilos, ideales y tendencias japoneses).

Ahora, esto no es solo un inconveniente ofensivo. Este es un problema que podría conducir fácilmente al abuso. ¿Qué impide que alguien tome tus fotos, las cargue en Lensa AI y produzca imágenes pornográficas o racistas? ¿Es esto algo que debemos preguntarnos sobre cada generador de imágenes de IA?

¿Deberías usar Lensa AI?

Al igual que con todas las tecnologías emergentes, la generación de imágenes de IA es un paquete mixto. Herramientas como Lensa AI pueden generar algunos retratos increíbles por un precio muy bajo. Es más rápido, más conveniente y más accesible que cualquier artista del mundo real, pero esta conveniencia puede tener un costo.

Desafortunadamente, no podemos esperar a tiempo para ver el impacto de esta tecnología. No sabemos cómo afectará a los artistas, individuos o empresas. Y desde el punto de vista de la privacidad, bueno, ¿puede pensar en una sola forma en que alguien pueda usar sus datos faciales? Esta falta de conocimiento puede ser muy preocupante.

Usar Lensa AI es una elección personal, por supuesto. Y no culpo a nadie por probar esta tecnología. Es interesante, emocionante y, a menudo, muy halagador. Pero las posibles desventajas de esta tendencia no deben ignorarse.

Descubre más contenido

Subir Change privacy settings