¿Qué peligros hay al usar apps de IA para modificar fotos personales?

La popularidad de apps de IA como Lensa puede ser aprovechada por hackers para robar información sensible

El año 2022 cierra con una nueva tendencia en redes sociales, la cual implica un gran avance, pero puede contener diversos riesgos ocultos. Se trata de la app Lensa AI, con la que los usuarios pueden convertir sus selfies en “arte digital” con ayuda de una aplicación generada por inteligencia artificial.

Las descargas de Lensa AI han tenido un crecimiento exponencial en los primeros días de diciembre. En la primera semana de diciembre de 2022, la aplicación registró más de 5.8 millones de descargas de usuarios de todo el mundo, de acuerdo con el sitio Statista.

Hasta ahora, Lensa AI ha obtenido unos ingresos de 16.2 millones de dólares en 2022 de los cuales, ocho millones se produjeron en diciembre de 2022, lo cual supera el total generado en 2021, según el sitio especializado AppMagic.

‘Magic Avatars’ e inteligencia artificial, entre las tendencias en apps para 2023

Desarrollada por la empresa estadounidense Prisma Labs, la aplicación móvil Lensa AI se lanzó por primera vez en 2018 y alcanzó aproximadamente 1.6 millones de descargas en enero de 2021. La aplicación experimentó un repentino aumento de popularidad a partir de finales de noviembre de 2022 gracias a varias tendencias de TikTok y a la repercusión en las redes sociales como Instagram.

Los usuarios de Lensa AI pueden introducir entre 10 y 20 fotos o selfies para recibir sus retratos, llamados “Magic Avatars”, que son generados por la IA y que pueden utilizarse como fotos de perfil y compartirse en las redes sociales.

Se espera que el uso de inteligencia artificial y sistemas generativos serán una de las principales tendencias en aplicaciones en 2023. DALL-E y ChatGPT, de OpenAI, han conseguido millones de usuarios a los pocos días de su lanzamiento al público general. Otros sistemas, como Midjourney y Stable Diffusion, también han dado mucho que hablar.

Un mar de pros y contras

Pero, ¿son perjudiciales las apps que utilizan inteligencia artificial? Para Gordon Fletcher, codirector del Centro de Negocios Digitales de la Universidad de Salford, en Manchester, Inglaterra, afirmó que existe “un equilibrio entre pros y contras”.

“Herramientas como Lensa y ChatGPT proporcionan acceso público a potentes herramientas. Millones de personas las utilizan para poner a prueba rápidamente su software y eliminar cualquier fallo. Por otro lado, los altos niveles de uso pueden poner de manifiesto problemas con los datos de entrenamiento originales, como por ejemplo si se obtuvieron éticamente con consentimiento informado”, comenta Fletcher en entrevista con Publimetro.

“Que haya sido utilizada millones de veces también han llevado a afirmar que Lensa sexualiza imágenes de mujeres y que lleva las imágenes generadas hacia las nociones convencionales dominantes de la forma, el tamaño y la belleza del cuerpo en su manipulación”,añade el especialista.

Aunque siendo descargadas de las tiendas oficiales las apps pueden tener menor peligro, aún así hay riesgos. “Sin embargo, hay un pero. El software generativo basado en IA -es decir, el software que utiliza algún tipo de inteligencia artificial para producir resultados- no genera resultados completamente predecibles. Si bien los desarrolladores de aplicaciones pueden impedir determinados tipos de resultados basándose en suposiciones sobre el uso que la gente hará de su software, no pueden impedir tan fácilmente los intentos de sortear esas limitaciones predefinidas”, añade Fletcher.

Una de las principales críticas hacia apps como Lensa es que puede generar fotografías de desnudos de las personas, cuando no se les solicitó esa función. “Desgraciadamente, el auge de las aplicaciones de IA durante este año ha introducido conceptos como la “desnudez accidental” y hay comunidades que intentan descubrir la manera de engañar al software para que haga cosas para las que no ha sido programado. Para la gran mayoría, las posibilidades de tropezar con una de estas soluciones son increíblemente bajas, pero siempre posibles”, explica Fletcher

La importancia de saber lo que estamos utilizando

Para Fletcher, aún hay muy poca comprensión de la magnitud y las formas de los datos personales que generamos y compartimos a diario. “Aunque la gente es muy consciente de sus datos bancarios, no ocurre lo mismo con otros aspectos de las huellas digitales que crea. Desde las imágenes al ADN, hay una gran cantidad de datos que compartimos de forma excesiva. De forma aislada, el valor de cada huella puede ser marginal para cualquiera, pero en combinación cada paso digital crea una imagen más amplia y esto es valioso para muchas organizaciones que recopilan voluntariamente todos estos datos cuando se ofrecen libremente (o se permiten con el clic de una ventana emergente de consentimiento de cookies)”.

3 PREGUNTAS CON

Natalia Kucirkova, profesora de la Universidad de Stavanger, Noruega e integrante del Centro Noruego para el Entorno de Aprendizaje y la Investigación del Comportamiento en la Educación.

Su más reciente libro es “Love Fragments”, una novela de fantasía cuyo personaje principal padece un trastorno de personalidad múltiple causado por los avatares de las aplicaciones de las redes sociales.

¿Cuáles considera que son los pros y los contras de aplicaciones como Lensa, que de repente se popularizan en el mundo?
Apps como Lensa son apasionantes para los usuarios por los juegos de identidad que admiten. En mi libro Future of the Self (El futuro del yo) describo los pros y los contras de estos juegos de identidad en el desarrollo de los niños. Los niños tienen límites menos estrictos entre la vida real y la imaginaria. El uso frecuente de apps que generan avatares (ya sea directamente por parte del niño o viendo a otros usarlo) puede perturbar el sano desarrollo de la identidad de los niños. No disponemos de estudios causales que lo demuestren, sólo podemos advertir de los daños potenciales basándonos en los principios de la ciencia del desarrollo.

Los posibles pros son que Lensa utiliza arquetipos clásicos, como princesas y superhéroes, que podrían servir para estimular la fantasía y la narración de historias de los niños. Los niños pueden asumir el papel de hadas o rasgos espeluznantes (villanos). Sin embargo, advierto que, al personalizar los personajes con fotos de niños, se produce una mayor autoidentificación y se acorta la distancia entre el niño y el personaje imaginado. Esto pone de cabeza la narración tradicional y tiene consecuencias para la empatía y el pensamiento abstracto de los niños.

Las funciones de edición de fotos de Lensa son más avanzadas que las de otras aplicaciones populares. La inteligencia de reconocimiento facial es emocionante no sólo como producto, sino también como servicio que los usuarios hacen funcionar gradualmente mejor y de forma única para ellos. No hay nada de malo en intentar parecer más glamuroso, más caricaturesco o, simplemente, pasar a parecerse a otra persona. Pero para quienes no están seguros de su identidad, podría haber consecuencias negativas.

— Natalia Kucirkova, profesora de la Universidad de Stavanger, Noruega

¿Puede este tipo de aplicaciones ser inseguras para los usuarios aunque se descarguen de tiendas de aplicaciones oficiales?
La mayoría de las aplicaciones de redes sociales ya exigen fotos de perfil. Si los usuarios suben a Lensa fotos que ya habían compartido, supongo que ya han considerado el riesgo de que su cara pueda ser transformada o reutilizada por otros.

Lo que supone un riesgo potencial para la privacidad es que la aplicación pueda conocer el comportamiento telefónico de los usuarios. Yo recomendaría una configuración de privacidad muy restrictiva en el dispositivo cuando se utilice Lensa o aplicaciones similares.

Mucha gente considera que no corre peligro porque su información sólo es familiar. ¿Cómo respondería a esas personas que no se consideran en riesgo?
Está en la naturaleza humana que todos queremos sentirnos únicos. La aplicación ofrece resultados personalizados, adaptados a tu rostro, en cuestión de segundos. Las personas que se sienten especialmente atraídas por este tipo de aplicaciones que generan avatares y editan fotos, es por algo.

Me interesaría hablar con ellos sobre cuál es la razón. ¿Por qué dedicar tiempo a recrear su rostro es importante para su autoimagen y sentido de sí mismos? Puede que los que más utilizan estas aplicaciones sean los que más riesgo corren de no tener una imagen saludable de sí mismos.