Ojo con la app que hace que Belén Esteban hable en inglés: te puede caer una multa

En los últimos días, la red social X (antes Twitter) se ha llenado de vídeos de varios famosos hablando en un perfecto inglés. Leo Messi, Chiquito de la Calzada, El Fary, Alberto Núñez Feijóo, Luis Rubiales, El Xokas… incluso, una Belén Esteban clamando long live Murcia en el programa La Resistencia o Mariano Rajoy afirmando convencido que Spain is a great nation and spaniards are very Spanish and many spaniards. Los responsables de este fenómeno son HeyGen y Rask AI, dos plataformas estadounidenses que utilizan inteligencia artificial para hacer traducciones de archivos de vídeo a diferentes idiomas. El resultado es, cuanto menos, asombroso: no solo la traducción es bastante acertada, sino que, además, las herramientas copian el timbre de la voz original en la versión traducida y modifican el movimiento de los labios para adaptarlo a la nueva lengua.

Ahora bien, más allá del éxito de las plataformas, es importante señalar que la creación de este tipo de contenido entraña un riesgo legal importante. "Todos esos vídeos que se están viralizando, si no cuentan con el consentimiento de quien aparece, vulneran de la normativa de privacidad", afirma María M. Pardo de Vera, abogada en Helas Consultores. Esto se debe a que tanto la imagen como la voz son considerados a efectos jurídicos como un dato personal y, por lo tanto, están revestidos de protección legal, por lo que hacer un uso de esta información sin contar con la autorización de la persona afectada supone una infracción de la ley de protección de datos y puede acarrear sanciones. La cuantía, en todo caso, es muy indeterminada y depende de muchos factores, como la difusión que tenga el vídeo, si aparecen menores de edad o si hay elementos discriminatorios. Podría ser de 48 euros o de millones de euros, dependiendo de la gravedad de la infracción.

* Si no ves correctamente el módulo de suscripción, haz clic aquí.

Pero no solo eso. Como señala Jorge Morell, abogado en el bufete Términos y Condiciones, la voz no es un dato personal cualquiera, sino que también puede encajar dentro de lo que la normativa sobre privacidad define como dato biométrico. Este concepto hace referencia a todas aquellas características físicas, fisiológicas o conductuales de una persona que permiten identificarla de manera única. Por ejemplo, la huella dactilar, la retina o los patrones faciales. "La voz también puede considerarse dato biométrico porque permite identificar a una persona de forma individual, pero también puede dar a conocer su origen étnico y localización por el acento, su estado de ánimo o incluso una enfermedad", razona el letrado.

La diferencia entre un dato personal al uso y uno biométrico es que los segundos están considerados como especialmente sensible, por lo que la normativa prevé para ellos un grado de protección mayor. Como tercero, el uso que puedes hacer de este tipo de información es muy limitado, las medidas de seguridad que debes garantizar son más elevadas "y, en consecuencia, la multa en caso de infracción es mucho más alta", resume Morell.

Pero ¿qué pasa si el vídeo con voz clonada procede de una aparición pública de un famoso, como una comparecencia, una entrevista o un reportaje periodístico? En este caso, el abogado considera que podría ser aplicable una de las excepciones previstas en la norma, que avala el tratamiento de este tipo de datos personales si el interesado los ha hecho "manifiestamente públicos". Se trata, no obstante, de una expresión abstracta que todavía no ha sido desarrollada por las autoridades de protección de datos. "Todavía no quedan claros los límites. Habrá debate, aunque yo auguro que esta salvedad solo será aplicable para casos que afecten a personajes con una exposición pública muy grande. Podría también llevarse a casos de personas más desconocidas, quizás un vídeo que se hace muy viral, pero es algo que actualmente está por definir", explica.

TE PUEDE INTERESAR

Microsoft quiere pagarte un abogado si te metes en líos con la IA (y no es tan loco como crees)

Mario Escribano

Derecho a la propia imagen

Más allá de una posible sanción por parte de la Agencia Española de Protección de Datos (AEPD), los expertos consultados por este medio apuntan a un riesgo añadido al crear este tipo de vídeos, y es que se puede cometer una infracción de los derechos fundamentales de la persona cuya voz aparece modificada. "Se podría hablar de una intromisión ilegítima de la propia imagen", apunta Borja Adsuara, abogado experto en Derecho Digital. Este derecho viene recogido en el artículo 18 de la Constitución y protege la reproducción, divulgación, reproducción o publicación de la imagen de un ciudadano sin su autorización. "Y la voz es un elemento que se engloba dentro de este derecho", agrega el letrado.

Los vídeos creados con IA podrían implicar una intromisión ilegítima del derecho a la propia imagen de los protagonistas

En este supuesto, además, el afectado podría exigir una indemnización al autor del vídeo, independientemente de que el resultado de la clonación de voz le suponga un daño a su reputación. "Antes, los tribunales sí exigían que se probase el perjuicio para determinar que había intromisión. Pero en los últimos años se ha consolidado una doctrina que dice que con que haya una mera intromisión, ya hay infracción", explica.

No obstante, y como en el supuesto de la normativa de protección de datos, Adsuara recuerda que en este caso también hay un elemento que podría eximir de responsabilidad al autor, y es si la finalidad de la grabación modificada por IA queda amparada dentro del derecho a la libertad de expresión. "Por ejemplo, si el vídeo hace una caricatura o tiene intención puramente humorística", reflexiona. En todo caso, el letrado subraya que se trata de conflictos muy complejos, ya que entran en juego dos derechos fundamentales. La solución, por tanto, quedará en mano de los jueces, que deberán analizar el asunto de manera individualizada y sopesar qué derecho pesa más en cada caso.

TE PUEDE INTERESAR

Después de ChatGPT, Netflix: el veto de Italia pone en la picota a un sinfín de compañías

Irene Cortés

Ahora bien, como señala Jorge Cabet, abogado y delegado de Protección de Datos del bufete Rödl & Partner, la privacidad y la propia imagen no son los únicos que se ven amenazados por el potencial de las herramientas de IA. "Puede haber un corolario muy gordo de infracciones dependiendo de cómo se utilice esta tecnología y con qué intención. Atentados contra el honor, estafas, delitos de injurias o calumnias, revelación de secretos, vulneraciones en materia de propiedad intelectual... incluso, podríamos hablar de competencia desleal si, por ejemplo, utilizas un vídeo simulando hablar varios idiomas para promocionar un método de aprendizaje de supuesto éxito", enumera.

En estos casos, el letrado subraya que las empresas detrás de las herramientas también podría ser considerada responsable a efectos jurídicos, "especialmente a raíz de la publicación de la Digital Services Act", concreta. Se trata de un Reglamento europeo que entrará en vigor en febrero de 2024 y que obliga a las plataformas a llevar un seguimiento del contenido que se publica. Además, el texto exige a las compañías, en caso de tener conocimiento de una actividad o contenido ilícito, "actuar de manera diligente para retirar dichos contenidos o bloquear el acceso a ellos".