Esta semana, la compañía Anthropic (en la imagen, su CEO Dario Amodei) anunció Mythos, un sistema de inteligencia artificial capaz de descubrir y explotar de forma autónoma vulnerabilidades de seguridad en todos los principales sistemas operativos, navegadores web y plataformas de software críticas del mundo. En otras palabras, una IA capaz de provocar una caída de internet y atacar infraestructuras de suministro eléctrico, bancos, hospitales, etc. 

El riesgo ya no es teórico, y el hecho de que Anthropic haya decidido no hacer público el modelo Mythos no soluciona el problema. Tampoco es un truco de marketing: otras empresas que han tenido acceso a esta IA han confirmado sus capacidades. 

Ningún gobierno aprobó el desarrollo de este sistema. Ningún regulador de seguridad lo evaluó. Ningún proceso democrático estuvo involucrado. Y todos los grandes laboratorios de IA están compitiendo por construir lo mismo.

Te pedimos leer y compartir estos contenidos:

https://open.substack.com/pub/pauseai/p/anthropic-has-just-built-an-ai-that
(artículo en Substack, en inglés)

https://x.com/i/status/2042644006518022322
(tuit en español)

Este es un buen momento para que consideres unirte a PauseAI y ayudarnos a promover una pausa en el desarrollo de modelos de IA avanzada como Mythos hasta que se demuestre que son seguros. Gracias por tu atención.

Más información: https://pauseai.es
Únete a nosotros: https://pauseai.es/inscripcion
Donaciones: https://pauseai.info/donate
Boletín de noticias: https://pauseaispanish.substack.com
Podcast: https://www.youtube.com/@PauseAIenEspañol
Canal de Whatsapp: https://chat.whatsapp.com/KEgD22LEo6xEVvjH4fD8br