Nuevas tendencias tecnológicas y sus problemas sin resolver (como desnudarnos sin permiso)

El lector no debería dar por hecho que esto lo ha escrito un humano. Una humana, en este caso. El año que viene seguramente ya no lo haga, porque en unos meses ya no habrá que explicar qué son los buscadores como ChatGPT capaces de generar un texto por encargo en unos segundos sobre casi cualquier tema y con resultado asombroso.

Esta es una de las mayores transformaciones tecnológicas que vamos a vivir en los próximos meses. No tanto el avance de la inteligencia artificial (IA) propiamente dicha en la generación de textos como de imágenes, que también, como en la popularización de muchos de estos avances tecnológicos que hace tiempo que circulaban en entornos reducidos, pero que están a punto de cambiarnos la vida cotidiana. También va a crecer el aumento de la desconfianza hacia la tecnología en los próximos años si las empresas que la impulsan no ponen mucho cuidado.

TE PUEDE INTERESAR

Esta inteligencia artificial está metiendo miedo, pero no es para tanto: esto es lo que hay detrás

Mario Escribano

Los sistemas de inteligencia artificial capaces de generar textos propios no son nuevos. Pero ChatGPT, de la empresa Open AI, funciona tan bien y ofrece respuestas tan buenas al hacerle preguntas para que elabore un texto como respuesta que se ha hecho muy popular en poco tiempo. Lo mismo se le puede pedir un texto sobre las grandes tendencias tecnológicas que van a marcar 2023, que sobre la reforma del delito malversación o un ensayo sobre la influencia de Cervantes en la novela del siglo XIX.

Esta inteligencia artificial no solo puede ser muy útil para hacer trampas en los deberes, también para los tediosos informes de empresa. A medida que una herramienta así se populariza, se está popularizando también la manera de detectar su uso. De hecho, la misma empresa que ha desarrollado ChatGPT para generar textos por encargo ha creado también un detector para aclarar qué porcentaje de texto humano y texto generado por la IA lleva cualquier escrito. Es muy probable que a medida que se extienda el uso de buscadores de textos generados por IA lo haga también su chivato delator. Y la capacidad de sorprendernos porque esto sea posible no durará mucho.

TE PUEDE INTERESAR

Llevo 48 horas hablando con la inteligencia artificial y quiero vender todas mis propiedades

Carlos Prieto

Otro ejemplo, mucho más visual e inquietante, es la tendencia de estas nuevas aplicaciones de la IA a ir desnudando mujeres sin su consentimiento. Es un buen ejemplo para mostrar cómo los dilemas éticos van siendo cada vez más relevantes en la industria tecnológica, en algunos casos por responsabilidad, pero en la mayoría por los riesgos reputacionales no previstos que pueden meter en problemas a cualquier empresa.

Está pasando con Lensa, la app de inteligencia artificial que crea avatares. Es un buen ejemplo de tecnologías que llevan tiempo circulando, pero que se están acelerando en su popularización. Esta app de retoques digitales, una especie de Photoshop con capacidad propia para reinventar caras y cuerpos, y crear su propia versión, se lanzó por primera vez en 2018. Recientemente, se viralizó en redes sociales ofreciendo a los usuarios generar retratos muy halagadores con IA a partir de sus selfis.

Una de las cosas que mejor ha entendido Lensa es que adulando el ego humano es más fácil complacernos y complaciéndonos es más fácil vender un servicio. Sus retratos suelen ser tan favorecedores que mucha gente se ha apresurado a cambiar sus imágenes reales en los perfiles de redes por la versión artificial pero edulcorada.

TE PUEDE INTERESAR

La nueva estrella del arte es una inteligencia artificial que ha aprendido de los grandes maestros

Jesús Díaz

Sin embargo, una de las cosas que peor ha entendido esta inteligencia artificial es que a las mujeres que le piden un retrato basándose en sus fotos públicas les puede parecer mal que el resultado de la recreación sean imágenes muy sexualizadas en las que las desnudan sin su consentimiento. Con los retratos que hace de hombres esto no pasa, a ellos les suelen generarles retratos asociados con un perfil profesional.

Esta IA entiende que un retrato halagador para un hombre es que sea triunfador en su trabajo, tener un aspecto profesional relacionado con una carrera exitosa. A las mujeres, sobre todo si son asiáticas, las sexualiza como un cómic manga. Esta IA capaz de generar sin querer montones de avatares de aspecto pornográfico solo con proporcionarle unos cuantos selfis (propios o ajenos) da una idea del desafío que supone para la IA no meter la pata. Más que una tendencia de la tecnología del futuro resulta una rémora viejuna de los prejuicios del pasado.

Esta IA entiende que un retrato halagador para un hombre es que sea triunfador en su trabajo. A las mujeres las sexualiza como un cómic manga

Lensa no está pensada para generar imágenes sexualizadas y mucho menos pornográficas de sus usuarias, pero, como la red está repleta de imágenes de mujeres desnudas y estereotipos sexistas y racistas, el sistema que procesa los datos también está sesgado hacia este tipo de imágenes.

La compañía lleva semanas trabajando para tratar de solucionar este problema que, incluso a quien pueda parecerle anecdótico o divertido, entenderá la gravedad de que facilite que cualquiera pueda generar imágenes de cualquier mujer desnuda sin su permiso o incluso de niños. Sirva de ejemplo de que los desafíos en los próximos años para la IA no solo dependen de su desarrollo meramente tecnológico, sino de su adaptación al mundo real.

Opinión

TE PUEDE INTERESAR

Por qué los riesgos de la inteligencia artificial son acotados y cómo resolverlos

Alicia Richart

Los ciudadanos son cada vez más conscientes de sus derechos de privacidad y exigen un uso ético de los datos y una IA responsable. Según la consultora McKinsey, una de las tendencias clave para entender la evolución de la tecnología los próximos años y cómo va a cambiar el mundo son precisamente los problemas de confianza entre los consumidores.

Esos problemas de confianza son básicamente tres, y afectarán al éxito o fracaso de todos los nuevos desarrollos, del metaverso al vehículo autónomo pasando por las redes sociales. Uno es la preocupación por la gran cantidad de datos personales, que recopilan las empresas y los gobiernos, y las preocupaciones por las brechas en la privacidad y el mal uso de los datos. La segunda, los problemas de seguridad personal que de las pantallas saltan al mundo físico, por ejemplo, con ciberataques a los hogares conectados, pero también en las brechas en hospitales o sistemas urbanos cada vez más digitales. Y, por último, la proliferación de los ejemplos de que el big data y la inteligencia artificial requieren de análisis avanzados cada vez más complejos para ser entendidos y controlados, lo que genera una profunda inquietud sobre las consecuencias del uso de estas nuevas tecnologías en el día a día.

TE PUEDE INTERESAR

Robar tus datos para que los vea cualquiera: los ciberataques van a darte donde más te duele

Mario Escribano

Si los avances tecnológicos dejan de percibirse como herramientas que nos hacen la vida más fácil para convertirse en posibles amenazas repletas de consecuencias no deseadas, la posibilidad de que fracasen en su adaptación aumenta. De ahí que el futuro de la tecnología dependa directamente de la generación de confianza, que en los próximos años cobrará máximo protagonismo.

Y la confianza no solo es clave entre los consumidores, cada vez más conscientes de los riesgos asociados a algunas nuevas tecnologías a las que hasta hace poco solo se les pedía deslumbrar y ahora también se les exigen responsabilidades. La confianza, o más bien la pérdida de ella, también condiciona el futuro de la tecnología en los mercados.

TE PUEDE INTERESAR

Las grandes tecnológicas son el arma sorpresa de Occidente contra Rusia y China

The Wall Street Journal. Greg Ip

La confianza ha caído entre los inversores por primera vez ante los grandes imperios tecnológicos, que, tras 20 años sin parar de crecer, han visto cómo en 2022 los inversores han empezado a asustarse. Meta sufrió una debacle bursátil que aumenta el escepticismo de muchos inversores en la visión de Mark Zuckerberg del Metaverso, por más que lleve gastados más de 27.000 millones de dólares en hacerla realidad. También lleva despedidos unos 11.000 empleados a medida que reajusta expectativas.

El precio de las acciones de Meta se ha desplomado con el aumento de la desconfianza, pero no será la matriz de Facebook la única en problemas si el mundo virtual no atrae a los consumidores al ritmo deseado. También rivales como Microsoft tiene muchas esperanzas invertidas en el metaverso. Pero, por más que la realidad virtual y la realidad aumentada prometan cambiarlo todo, desde las oficinas a los viajes de placer, lo cierto es que a corto plazo sigue siendo la industria de los videojuegos la que más lo está rentabilizando.

TE PUEDE INTERESAR

Lo de Facebook es más grave de lo que piensas: qué revelan los 11.000 despidos de Meta

Michael Mcloughlin

Meta no ha sido la única en problemas. Amazon también ha despedido a más de 10.000 empleados, Twitter otros tantos. En total, más de 150.000 despidos en las grandes de la industria tecnológica en el último trimestre del año y a medida que se constataba la pérdida de confianza en Wall Street lastrando sus resultados. Sin duda, 2022 marca un antes y un después. Nunca antes en lo que va de siglo, las grandes tecnológicas como Google, Apple o Microsoft habían dado síntomas de agotamiento. El fin de la pandemia no le ha sentado bien al mundo online.

El fin del dinero barato también está muy relacionado con la pérdida de confianza en el sector y eso afecta al futuro de los desarrollos tecnológicos. Se van acabando los tiempos de las grandes promesas a futuro y llegan otros en los que se exige más realismo y madurez de los proyectos antes de atraer la inversión que haga posible esos desarrollos y los consumidores que puedan convertir esa tecnología en un éxito. Porque, aunque en el futuro no podamos saber si quien escribe este texto es o no humano, la clave va a seguir estando en que el lector sí que lo sea.