En los últimos meses, hemos sido testigos de un crecimiento exponencial en la popularidad de los videos generados por inteligencia artificial (IA) en plataformas digitales y redes sociales. Herramientas avanzadas como Google Veo y otras similares han demostrado una capacidad sorprendente para producir imágenes y videos de altísimo realismo a partir de simples descripciones de texto. Este tipo de tecnología, aunque puede tener aplicaciones creativas, educativas o incluso artísticas, encierra también un peligro latente y extremadamente preocupante: su uso malicioso para manipular la realidad.

Estamos entrando en una era en la que ya no se puede confiar plenamente en lo que vemos. Estas herramientas permiten la creación de contenido falso que es prácticamente indistinguible de un video real. Esto abre la puerta a un sinnúmero de riesgos: videos falsificados en los que personas aparecen diciendo cosas que jamás dijeron, participando en situaciones que nunca ocurrieron, o siendo involucradas en eventos completamente fabricados. Esta capacidad puede ser utilizada para dañar la reputación de individuos, manipular la opinión pública, cometer fraudes, influir en procesos electorales, fabricar pruebas falsas para incriminar a personas inocentes o, por el contrario, desacreditar pruebas reales al alegar que podrían haber sido generadas por IA.

El impacto social, político, jurídico y ético de este tipo de tecnologías es potencialmente devastador. La erosión de la confianza pública en los contenidos audiovisuales puede sumir a las sociedades en un estado de confusión permanente, donde ya no se pueda distinguir la verdad de la mentira. La desinformación masiva, los conflictos sociales basados en falsedades visuales, y la pérdida de referencia sobre qué es real y qué no, ponen en peligro la cohesión social y la estabilidad institucional.

No estamos en contra del avance tecnológico en sí mismo. Reconocemos el valor de las herramientas de inteligencia artificial aplicadas a campos como la educación, la ciencia, la salud o la comunicación. Sin embargo, creemos firmemente que no todo lo que es tecnológicamente posible debe necesariamente ser llevado a cabo, especialmente cuando las consecuencias pueden ser tan negativas y difíciles de revertir.

Por ello, solicitamos de manera urgente que se tomen medidas para detener el desarrollo y la distribución pública de tecnologías de generación de video mediante inteligencia artificial, como es el caso de Veo 3. Consideramos que la simple implementación de filtros de moderación, regulaciones o medidas de seguridad es insuficiente, ya que inevitablemente surgirán versiones liberadas, descentralizadas o de código abierto que podrán eludir cualquier restricción ética o legal, facilitando su uso con fines dañinos.

En cambio, no nos oponemos al avance de las herramientas de IA centradas en la generación de texto, como es el caso de Chat GPT u otros modelos similares, los cuales por ser solo texto no representan el mismo nivel de riesgo en términos de manipulación visual o falsificación de evidencias.

Estamos a tiempo de poner límites responsables a una tecnología cuyo potencial destructivo, en malas manos, es alarmante. No permitamos que lo generado por una inteligencia artificial se vuelva completamente indistinguible de la realidad, socavando los fundamentos de nuestra confianza social y jurídica.

Firma esta petición para frenar el desarrollo y la distribución de las IAs generadoras de video realista, y solicita que herramientas como Veo 3 no lleguen a implementarse públicamente. La protección de la verdad y la confianza en la realidad compartida es una responsabilidad colectiva. Actuemos ahora, antes de que sea demasiado tarde.