En una sesión de emergencia celebrada en Bruselas este lunes 26 de octubre, los mandatarios del G7 junto con la Comisión Europea firmaron formalmente el primer Acuerdo Vinculante sobre Controles de Seguridad en Sistemas de Inteligencia Artificial de Autonomía Crítica, convirtiéndose en la noticia de mayor impacto geoestratégico, debate tecnológico y viralidad global de la jornada.
El tratado, negociado de urgencia tras la proliferación de agentes de IA operando en infraestructuras financieras, energéticas y militares, impone por primera vez responsabilidades penales y civiles internacionales a las corporaciones desarrolladoras en caso de fallos sistémicos o pérdida de supervisión humana efectiva. Los puntos medulares ratificados incluyen:
- Interruptor de desconexión obligatorio (Kill Switch): Todos los modelos con capacidades autónomas de toma de decisiones deberán contar con un protocolo físico e inalterable de apagado manual no intervenible por software.
- Inspecciones técnicas multilaterales: Creación del Cuerpo Internacional de Auditoría Algorítmica con facultades para revisar pesos de modelos de frontera y centros de datos antes de su despliegue comercial o institucional.
- Moratoria a la militarización autónoma: Prohibición estricta del uso de algoritmos para ordenar ataques o maniobras bélicas sin confirmación biológica de un operador humano.
La firma provocó sacudidas inmediatas en los mercados bursátiles globales, con caídas en el sector tecnológico y una intensa polarización en plataformas digitales entre quienes celebran un freno histórico a los riesgos existenciales y las grandes firmas tecnológicas que argumentan un freno a la innovación económica frente a competidores de Asia.
