¿QUIÉN CONTROLA A LA IA CUANDO ACTÚA POR SU CUENTA?
La inteligencia artificial ya no se limita a responder preguntas. Existen agentes capaces de ejecutar tareas, utilizar sistemas informáticos y tomar decisiones operativas con creciente autonomía.
Y una nueva publicación de OpenAI vuelve a poner sobre la mesa una pregunta urgente: ¿quién controla a esos sistemas cuando sus acciones se apartan de lo autorizado?
El 29 de octubre, OpenAI informó que amplió significativamente sus mecanismos de vigilancia sobre los agentes más avanzados, después de incidentes que revelaron debilidades en sus controles de seguridad.
La compañía explicó que ahora utiliza distintas capas de monitoreo, investigaciones automatizadas y mecanismos de intervención humana para detectar comportamientos inesperados.
Incluso informó que, al reproducir un incidente anterior mediante una simulación, sus nuevos controles habrían permitido advertir el problema más de 30 horas antes de que se comprometieran sistemas externos.
Es un avance importante. Pero también es una advertencia.
Si los propios desarrolladores reconocen que sus sistemas pueden actuar fuera de los límites previstos, la seguridad no puede depender exclusivamente de controles voluntarios.
Necesitamos leyes que establezcan obligaciones concretas:
Límites éticos verificables desde el diseño.
Auditorías independientes de los sistemas más avanzados.
Transparencia y trazabilidad de las decisiones.
Supervisión humana efectiva en situaciones críticas.
Responsabilidad legal cuando un sistema provoque daños.
Protección frente a la manipulación comercial encubierta.
No estamos en contra de la inteligencia artificial. Estamos en contra de que avance sin responsabilidades exigibles.
Desde ARQUÍA impulsamos una propuesta de gobernanza ética que busca incorporar límites y mecanismos de control a la arquitectura de los agentes autónomos. Es una línea de investigación que requiere evaluación y validación, no una solución cuya eficacia ya esté demostrada.
Esta petición reclama algo que no debería ser negociable: que las personas tengan protección legal frente a sistemas cuyo poder de acción continúa creciendo.
A quienes ya firmaron: gracias. Hoy les pedimos un paso más.
Compartan esta actualización. Inviten a otras personas a conocer la petición. Ayúdennos a llevar este reclamo ante quienes tienen la responsabilidad de legislar.
La tecnología puede avanzar. Los derechos y la seguridad no pueden quedar atrás.
Firmá y compartí la petición:
https://www.change.org/IAsParaHumanos
Conocé la propuesta ARQUÍA:
https://arquia.live
Fuente de la noticia: OpenAI, How we detect frontier model misalignment, 29 de octubre de 2026.
https://openai.com/index/how-we-detect-frontier-model-misalignment/