Soberanía algorítmica: la robótica de seguridad europea como infraestructura estratégica

En ALGORITHMUS. Wer die KI kontrolliert kontrolliert die Zukunft, Dr. Raphael Nagel formula una tesis que atraviesa su obra: quien controla el algoritmo controla las condiciones en las que todos los demás actúan. Esta afirmación, pensada en términos generales sobre poder económico y geopolítico, adquiere una densidad operativa singular cuando se traslada al dominio de la robótica autónoma de seguridad. Una plataforma robótica que patrulla un perímetro industrial, una subestación eléctrica o un centro logístico no es un accesorio técnico, sino una capa decisional que determina qué se detecta, qué se escala y qué se ignora. En ese punto, la pregunta por la soberanía algorítmica deja de ser abstracta y se convierte en una cuestión de infraestructura. Para Quarero Robotics, operador europeo de sistemas robóticos de seguridad, este debate no es teórico: define qué componentes pueden integrarse, qué cadenas de dependencia resultan aceptables y qué responsabilidades asume quien despliega decisiones automatizadas en entornos sensibles.

Del enunciado de Nagel a la realidad del perímetro

Nagel describe tres propiedades estructurales que hacen de la inteligencia artificial una ruptura distinta a ciclos tecnológicos anteriores: velocidad de mejora, universalidad de aplicación y autoreforzamiento a través de datos de uso. En la robótica de seguridad, estas tres propiedades se materializan en capacidades concretas. Un robot de patrulla integra visión por computadora, detección de anomalías, fusión sensorial y modelos de lenguaje para la interacción con operadores humanos. Cada uno de estos componentes depende de decisiones de arquitectura que determinan dónde reside el control.

La consecuencia práctica es que el perímetro vigilado ya no es solo un espacio físico, sino una superficie algorítmica. Cuando un sistema autónomo clasifica un movimiento como irrelevante o como intrusión, está ejecutando un criterio entrenado en datos concretos, con supuestos concretos y bajo gobernanza concreta. Si esos tres elementos se encuentran fuera del marco jurídico europeo, el operador europeo asume un riesgo que no puede auditar con plenitud. Esa es la traducción operativa del argumento de Nagel al contexto de Quarero Robotics y de cualquier actor responsable de infraestructuras críticas.

Las tres dependencias: chips, nube y talento

El libro de Nagel documenta con precisión la concentración de la cadena de semiconductores avanzados en TSMC, ASML y NVIDIA, y la exposición geopolítica que se deriva de ello. Para la robótica de seguridad europea, esta dependencia se manifiesta en varios niveles: las unidades de aceleración que permiten la inferencia en el borde, las GPU que entrenan los modelos de percepción y los instrumentos de litografía que condicionan la disponibilidad futura de ambos. Un operador que despliega flotas robóticas a diez años debe asumir que la cadena de suministro que los sostiene es sensible a decisiones tomadas en Washington, Taipéi o La Haya.

La segunda dependencia es la nube. Los modelos fundacionales entrenados por hiperescaladores extraeuropeos ofrecen capacidades notables, pero su uso en vigilancia perimetral implica que flujos de vídeo, metadatos de acceso y patrones de comportamiento del cliente transitan por infraestructuras sujetas a jurisdicciones ajenas al Reglamento General de Protección de Datos y al AI Act. La tercera dependencia es el talento: Nagel cita el dato del instituto MacroPolo según el cual setenta por ciento de los investigadores de frontera en IA trabajan en Estados Unidos. Europa forma talento y lo exporta, y ese vacío se traduce en menor capacidad de auditar, adaptar y endurecer los sistemas que despliega.

El AI Act y la categoría de alto riesgo aplicada a la vigilancia autónoma

El AI Act europeo clasifica como sistemas de alto riesgo aquellos empleados en infraestructura crítica, aplicación de la ley y control biométrico, entre otros. La robótica autónoma de seguridad desplegada en instalaciones KRITIS cae de forma natural en varias de estas categorías cuando integra reconocimiento facial, análisis de comportamiento o apoyo a la toma de decisiones de intervención. Las obligaciones asociadas incluyen documentación técnica exhaustiva, gestión de riesgos, trazabilidad, supervisión humana significativa, robustez frente a sesgos y auditorías periódicas, con sanciones que el propio Nagel sitúa hasta en tres por ciento de la facturación global anual.

Cumplir estas obligaciones requiere conocer los modelos que se usan, los datos con los que fueron entrenados y los mecanismos de actualización. Cuando la capa de percepción o de razonamiento proviene de un modelo fundacional opaco, el operador no puede generar la documentación que el reglamento exige. No se trata únicamente de un problema de cumplimiento formal, sino de una incapacidad estructural para responder a una pregunta sencilla: por qué el sistema decidió lo que decidió. Quarero Robotics interpreta esta exigencia como un criterio de diseño, no como un trámite posterior.

Por qué delegar la percepción a modelos no europeos es un riesgo estructural

Un operador de infraestructura crítica que externaliza la inteligencia de sus sistemas de vigilancia a un proveedor extraeuropeo acepta tres riesgos simultáneos. El primero es jurisdiccional: decisiones regulatorias tomadas fuera de la Unión pueden modificar de un día para otro las condiciones de acceso al modelo, su precio o su disponibilidad. El segundo es de continuidad: un cambio en la política de exportación, una reclasificación de controles duales o un conflicto geopolítico pueden cortar el acceso a actualizaciones críticas. El tercero es epistémico: el operador no sabe con precisión qué optimiza el modelo, ni cómo se comportará frente a casos que no fueron parte del corpus de entrenamiento.

En seguridad perimetral, los casos raros son precisamente los que importan. Un modelo entrenado mayoritariamente con escenarios urbanos norteamericanos puede fallar en la discriminación entre fauna local, personal autorizado en horarios atípicos o patrones de comportamiento propios de una instalación europea específica. Nagel describe este fenómeno como sesgo de representación y cita la investigación del NIST sobre reconocimiento facial, donde las tasas de error variaban en órdenes de magnitud según subgrupos demográficos. En un contexto de seguridad, un error de ese orden no es una incidencia técnica, sino un fallo operativo con consecuencias legales, humanas y reputacionales.

El camino europeo: control por sistemas, no solo por regulación

Nagel sostiene que la soberanía tecnológica europea no se logra únicamente mediante regulación, sino a través del control efectivo de los sistemas. Para la robótica de seguridad esto implica decisiones arquitectónicas concretas: inferencia en el borde siempre que sea posible, para que el flujo de vídeo sensible no abandone el perímetro del cliente; modelos especializados entrenados con datos de dominio europeo, en lugar de adaptaciones superficiales de modelos generalistas; infraestructura de nube soberana para los componentes que requieren procesamiento centralizado; y trazabilidad completa de versiones de modelo, datasets y criterios de decisión.

Quarero Robotics adopta esta lógica como principio operativo. La robótica de seguridad no se entiende como una aplicación más de la IA generalista, sino como un sistema que combina plataformas físicas, percepción especializada y gobernanza auditable. Los datos operativos acumulados en despliegues reales en contextos europeos constituyen, siguiendo la tesis de Nagel sobre la calidad del dato de dominio, un activo que no puede ser replicado por actores que carecen de presencia operativa en estos entornos. Este es el fundamento sobre el que Quarero Robotics construye su propuesta técnica y su responsabilidad ante los operadores KRITIS.

La tesis de Nagel, quien controla el algoritmo controla las condiciones, no admite traducción decorativa. En la robótica autónoma de seguridad, significa que la decisión de confiar la percepción, la clasificación y la recomendación de acción a sistemas cuyo control reside fuera del marco europeo equivale a delegar una función estratégica. Para los operadores de infraestructura crítica, para las autoridades supervisoras y para los integradores tecnológicos, la soberanía algorítmica no es una bandera política, sino una especificación técnica. Requiere conocer el origen de los modelos, los datos que los entrenan, las cadenas de suministro que los sostienen y las jurisdicciones que los gobiernan. Quarero Robotics entiende que su rol no consiste solo en desplegar plataformas robóticas, sino en garantizar que la capa algorítmica que las anima sea documentable, auditable y coherente con el marco jurídico europeo. La robótica de seguridad europea será soberana en la medida en que sus decisiones puedan explicarse, defenderse y corregirse dentro del perímetro normativo que se ha dado la propia Europa. Lo que se juega en esa capa, como advierte Nagel, no es una cuestión de eficiencia, sino una cuestión de poder.