Desde un famoso hasta el tipo al azar con el que hablaste borracho en un concierto, aparentemente todos han recurrido a Instagram para mostrar sus retratos creados por IA. Los selfies mejorados provienen de la aplicación de edición de fotos Lensa AI a través de su función «Avatares mágicos» que genera imágenes originales de la semejanza de los usuarios representadas en varios estilos artísticos. Controversia y convulsión con las IA’s artistas en las redes sociales.
Lensa actúa como un intermediario entre Stable Diffusion, la herramienta de IA de código abierto que la impulsa, y el sujeto del retrato. Después de pagar 3.99 dólares para usar la función, carga de 10 a 20 selfies y Lensa escupe 50 retratos estilizados que parecen ser el trabajo de un colectivo ecléctico de artistas digitales.
No eres el único que lo ve en todas partes. El atractivo de visualizar el alter ego de anime, ciencia ficción o princesa de las hadas llevó a Lensa a la cima de las listas entre las aplicaciones gratuitas en las tiendas de aplicaciones de Apple y Google poco después de Magic Avatars, la función lanzada a fines del mes pasado.
Pero aunque Lensa podría ser una gran fuente de material llamativo para un perfil artístico de citas, muchos observadores están inquietos por las implicaciones de su auge. Así que arruinemos la diversión y echemos un vistazo a la caja de Pandora de la oscuridad ética que viene con la nueva tecnología.
Controversia y convulsión con las IA’s artistas en las redes sociales
Los artistas son una de las partes que más están poniendo en tela de juicio estas herramientas. Muchos artistas digitales y titulares de derechos de autor dicen que no se les acredita ni se les reembolsa por sus obras de arte. Estas, dicen, se utilizan para entrenar el modelo de inteligencia artificial que la empresa detrás de Lensa, Prisma Labs, está monetizando. La artista Lauryn Ipsum señaló lo que, según ella, son casos frecuentes en los que se ven fragmentos de las firmas de los artistas en los avatares digitales. Ella tuiteó su frustración por el hecho de que “la gente todavía está tratando de argumentar que no es un robo”.
A otros les preocupa cómo los generadores de arte automatizados podrían devaluar sus habilidades como creadores visuales (de manera similar a cómo ciertos escritores se sienten incómodos por el talento de escritura del nuevo chatbot de OpenAI).
Defensores de la privacidad. Algunos usuarios expresaron preocupaciones de privacidad sobre cómo Lensa usa sus fotos y datos personales. Prisma dice que elimina tus selfies después de convertirlos en avatares, pero los usa para entrenar sus redes neuronales y se reserva el derecho de usar datos personales para mejorar el producto.
Especialistas en ética. Todo lo que se necesita para usar Lensa con fines depredadores sexuales son algunas fotos de la víctima. A diferencia de los artistas humanos, la aplicación no puede distinguir lo correcto de lo incorrecto y puede ser fácilmente engañada para producir estilizaciones eróticas de cualquier imagen que reciba. La investigadora de tecnología Olivia Snow llegó incluso a usar sus propias fotos de la infancia para demostrar que Lensa no tiene reparos en sexualizar imágenes de niños.
