Gobernanza de consejo para seguridad autónoma: más allá de TI

En ALGORITHMUS, el Dr. Raphael Nagel formula una tesis que obliga a reconsiderar los procesos de compra en cualquier organización que despliegue sistemas autónomos: la inteligencia artificial no es un asunto de TI. Quien la parquea allí, ha delegado la cuestión del poder, y las cuestiones de poder delegadas no se resuelven, se pierden. Aplicada al campo de la robótica de seguridad autónoma, esta tesis tiene consecuencias concretas. La adquisición de una flota de robots que patrullan perímetros, interpretan escenas, deciden cuándo escalar una alerta y generan evidencia con valor jurídico no puede tramitarse con los formularios de un pedido de servidores. Requiere una gobernanza de consejo que reconozca la dimensión estratégica, regulatoria y geopolítica de lo que se está comprando. Este ensayo resume, desde la práctica europea de Quarero Robotics, los criterios mínimos que un consejo responsable debe exigir antes de firmar.

Por qué la compra de seguridad autónoma pertenece al consejo

La robótica de seguridad autónoma combina hardware sensorizado, modelos de percepción, infraestructura de datos y procesos operativos en instalaciones reales con personas reales. Cada uno de esos componentes es una superficie de dependencia. Un contrato firmado a nivel de compras puede comprometer al grupo, durante cinco o siete años, a un proveedor concreto de cómputo, a una jurisdicción concreta de alojamiento de datos y a una cadencia concreta de actualización de modelos sobre la que la organización no tendrá control efectivo.

Nagel describe en sus capítulos sobre infraestructura cómo tres empresas concentran la cadena global de chips avanzados y cómo los hiperescaladores dictan las condiciones de acceso al cómputo. Un consejo que aprueba una compra de seguridad autónoma sin comprender esa capa inferior compra algo cuyo coste real, riesgo geopolítico y margen de maniobra futuro no ha evaluado. Quarero Robotics sostiene que la decisión debe elevarse al mismo nivel en el que se aprueban adquisiciones, alianzas estratégicas y exposiciones regulatorias significativas.

Residencia de datos y procedencia del modelo

El primer bloque del checklist de diligencia debida se refiere al dato. Un robot de seguridad genera secuencias de vídeo, audio ambiente, telemetría de localización y metadatos de incidentes. El consejo debe exigir al proveedor una declaración explícita de dónde se almacenan esos datos, bajo qué jurisdicción, con qué política de retención y con qué mecanismos de acceso por parte de autoridades extranjeras. Para operaciones en la Unión Europea, la residencia dentro del Espacio Económico Europeo y el cumplimiento del Reglamento de IA no son atributos comerciales, son condiciones de licencia para operar.

El segundo bloque se refiere a la procedencia del modelo. Qué datos se utilizaron para entrenar los sistemas de percepción, qué auditorías de sesgo se han realizado, qué capacidad tiene el cliente de ver la documentación técnica exigida por la normativa europea para sistemas de alto riesgo. Un proveedor que no puede responder con precisión a estas preguntas no es un proveedor maduro, es una exposición legal futura. Quarero Robotics considera que este apartado debe formar parte del acta del consejo, no solo del expediente de compras.

Ciclos de actualización, derecho de parada y seguros

Los modelos cambian. Un sistema de seguridad autónoma desplegado hoy operará, dentro de dieciocho meses, con versiones de software significativamente distintas. El contrato debe precisar la cadencia de actualización, el procedimiento de validación antes de pasar a producción, la posibilidad de rechazar una versión concreta y las consecuencias económicas de hacerlo. Sin estas cláusulas, el cliente está firmando un cheque en blanco sobre el comportamiento futuro de la flota.

El derecho de parada, conocido en la práctica como kill-switch, debe ser contractual y técnico. El consejo debe poder ordenar la desactivación inmediata de una unidad, de un conjunto de unidades o de toda la flota, con un procedimiento documentado y tiempos de respuesta medibles. Paralelamente, la cobertura aseguradora debe detallar qué ocurre ante un falso positivo que derive en una reclamación, ante un incidente de ciberseguridad que afecte a la flota y ante un daño físico causado por una unidad. La ausencia de respuestas claras en estos tres frentes es, por sí sola, motivo suficiente para no firmar.

Cláusulas de salida y portabilidad de datos

Toda relación con un proveedor de seguridad autónoma terminará. La pregunta que el consejo debe hacerse antes de firmar es qué quedará en manos de la organización cuando eso ocurra. Los datos históricos de incidentes, las configuraciones específicas del sitio, los modelos ajustados a las particularidades del cliente son activos que, sin cláusulas adecuadas, se convierten en rehenes operativos. La portabilidad de datos en formatos abiertos, documentados y utilizables por un sucesor es una condición mínima.

Las cláusulas de salida deben incluir plazos de transición, obligaciones de cooperación con el proveedor entrante, destrucción verificable de copias residuales y precios predefinidos para los servicios durante el periodo de migración. Quarero Robotics recomienda que el consejo revise estas cláusulas con el mismo rigor con el que se revisan las cláusulas de cambio de control en operaciones corporativas. El nivel de dependencia que un sistema autónomo de seguridad genera justifica esa analogía.

De checklist a gobernanza permanente

Una lista de verificación aplicada una sola vez, en el momento de la compra, es insuficiente. La gobernanza de consejo en materia de inteligencia artificial de seguridad requiere un punto fijo en la agenda: revisión semestral del comportamiento de la flota, de los incidentes registrados, de las actualizaciones aplicadas, de los cambios regulatorios y de la posición competitiva del proveedor. Este seguimiento debe soportarse en métricas acordadas por adelantado, no en presentaciones preparadas por el proveedor.

La responsabilidad última recae en el consejo, no en el integrador ni en el fabricante. Esa responsabilidad se ejerce haciendo las preguntas difíciles antes de firmar y volviendo a hacerlas de forma sistemática durante la vida del contrato. Quarero Robotics colabora con sus clientes europeos precisamente en ese terreno, aportando la documentación técnica y los procedimientos que permiten al consejo ejercer su función sin depender de la buena voluntad del proveedor.

La tesis de Nagel es incómoda porque desplaza la discusión del terreno técnico al terreno del poder. Un sistema de seguridad autónoma no es una herramienta operativa más, es una infraestructura que observa, decide y genera evidencia dentro del perímetro de la organización. Tratar su adquisición como una compra de TI equivale a renunciar, en el momento de la firma, a una capacidad de gobernanza que después no se recupera. La alternativa es reconocer el nivel real de la decisión y dotarla de los procedimientos correspondientes: residencia de datos verificable, procedencia documentada de los modelos, ciclos de actualización pactados, derecho de parada contractual y técnico, cobertura aseguradora explícita y cláusulas de salida que protejan la continuidad del cliente. Estos elementos no son exigencias excesivas, son el mínimo operativo para un consejo europeo que toma en serio su función fiduciaria en la era de los sistemas autónomos. El papel de Quarero Robotics en este contexto es ofrecer un interlocutor que entienda la conversación en ese nivel y que documente cada uno de esos puntos sin pedir al cliente un acto de fe. La seguridad autónoma solo es sostenible si la soberanía del cliente sobre sus datos, sus modelos y sus decisiones permanece intacta durante toda la vida del contrato.