Exijamos la prohibición global de la IA para falsificar voces, rostros, animales y escenas

La causa

La inteligencia artificial ha avanzado al punto de poder falsificar voces humanas, rostros, cuerpos, animales y hasta eventos que nunca ocurrieron. Esta tecnología, sin control ni regulación, ya está causando confusión, desinformación y daño emocional en todo el mundo.

No se trata solo de personas: cada día circulan más videos y fotos falsos de animales y situaciones irreales que millones de personas creen verdaderos. Desde “un gato dominando un puma” hasta supuestos encuentros imposibles entre especies, el contenido generado por IA sin aviso está desinformando incluso en áreas como la ciencia, el medioambiente o la salud.

En los últimos meses, han circulado en redes sociales y medios digitales imágenes generadas con inteligencia artificial (IA) que son extremadamente realistas… y completamente falsas. No solo imitan rostros o voces humanas, sino que también recrean animales, paisajes o eventos que nunca ocurrieron.

Algunas imágenes muestran animales en peligro de extinción interactuando con humanos, o escenarios de desastres naturales que nunca pasaron, generando confusión, pánico o simplemente desinformación masiva. Todo esto sin necesidad de que haya una sola persona en la imagen.

Una imagen falsa pero muy realista puede cambiar narrativas, afectar decisiones políticas, generar miedo, crear estafas o engañar incluso a periodistas. A veces se usan con buenas intenciones, pero en manos equivocadas, pueden ser peligrosas armas digitales.

Ya existen peticiones y proyectos de ley que buscan regular el uso de la IA para imitar voces o rostros humanos, pero la falsificación con IA va mucho más allá.

¿Por qué no estamos hablando también de las imágenes que no incluyen humanos, pero igual son falsas y manipuladoras?

 

Por eso pedimos:

1. La prohibición del uso de IA para crear y difundir voces, rostros o acciones humanas sin consentimiento explícito.

2. La prohibición del contenido generado con IA que represente animales o entornos falsos sin una etiqueta visible que indique su origen.

3. Leyes internacionales que obliguen a etiquetar de forma clara todo contenido generado por IA.

4. Sanciones legales para quienes utilicen esta tecnología con fines de engaño, manipulación o daño.

 

Firmar esta petición es un acto de conciencia. Si no ponemos límites ahora, mañana no podremos distinguir lo real de lo falso.

La verdad no puede ser una ilusión. Nuestra identidad, tampoco.

2

La causa

La inteligencia artificial ha avanzado al punto de poder falsificar voces humanas, rostros, cuerpos, animales y hasta eventos que nunca ocurrieron. Esta tecnología, sin control ni regulación, ya está causando confusión, desinformación y daño emocional en todo el mundo.

No se trata solo de personas: cada día circulan más videos y fotos falsos de animales y situaciones irreales que millones de personas creen verdaderos. Desde “un gato dominando un puma” hasta supuestos encuentros imposibles entre especies, el contenido generado por IA sin aviso está desinformando incluso en áreas como la ciencia, el medioambiente o la salud.

En los últimos meses, han circulado en redes sociales y medios digitales imágenes generadas con inteligencia artificial (IA) que son extremadamente realistas… y completamente falsas. No solo imitan rostros o voces humanas, sino que también recrean animales, paisajes o eventos que nunca ocurrieron.

Algunas imágenes muestran animales en peligro de extinción interactuando con humanos, o escenarios de desastres naturales que nunca pasaron, generando confusión, pánico o simplemente desinformación masiva. Todo esto sin necesidad de que haya una sola persona en la imagen.

Una imagen falsa pero muy realista puede cambiar narrativas, afectar decisiones políticas, generar miedo, crear estafas o engañar incluso a periodistas. A veces se usan con buenas intenciones, pero en manos equivocadas, pueden ser peligrosas armas digitales.

Ya existen peticiones y proyectos de ley que buscan regular el uso de la IA para imitar voces o rostros humanos, pero la falsificación con IA va mucho más allá.

¿Por qué no estamos hablando también de las imágenes que no incluyen humanos, pero igual son falsas y manipuladoras?

 

Por eso pedimos:

1. La prohibición del uso de IA para crear y difundir voces, rostros o acciones humanas sin consentimiento explícito.

2. La prohibición del contenido generado con IA que represente animales o entornos falsos sin una etiqueta visible que indique su origen.

3. Leyes internacionales que obliguen a etiquetar de forma clara todo contenido generado por IA.

4. Sanciones legales para quienes utilicen esta tecnología con fines de engaño, manipulación o daño.

 

Firmar esta petición es un acto de conciencia. Si no ponemos límites ahora, mañana no podremos distinguir lo real de lo falso.

La verdad no puede ser una ilusión. Nuestra identidad, tampoco.

Los tomadores de decisiones

Unione Europea
Unione Europea

Actualizaciones de la petición