Autor: Ángel Gómez de Agreda – Gentileza Revista Aeronáutica y Astronáutica del Ejército del Aire de España

El pasado mes de octubre (2021), la OTAN publicó su estrategia para la inteligencia artificial (IA), un hito que ya hacía tiempo que se echaba en falta. La misma estrategia reconoce que la IA va a afectar -o está afectando ya- a las tres actividades clave de la Alianza: la defensa colectiva, la gestión de crisis y la seguridad cooperativa. Por ello mismo, se compromete a liderar con el ejemplo la construcción de un modelo cooperativo entre los aliados para acelerar la puesta en servicio de estas tecnologías con respeto a los Principios de Uso Responsable -que se desarrollan en la misma estrategia- y a permanecer atenta a la identificación y neutralización de los intentos de uso malicioso por parte de actores rivales -estatales o no.

Se pretende -no puede ser de otro modo- integrar la IA en todos los procesos de la Alianza. Todo ello respetando siempre el Derecho Internacional vigente, incluyendo el Derecho Humanitario y la legislación sobre Derechos Humanos.

Fuente: Rev. Aeronáutica y Astronáutica 908/21

El documento reconoce la primacía de la I+D privada de carácter civil en las tecnologías asociadas a la IA y, por lo tanto, establece como prioritario el establecimiento de una estrecha colaboración con la academia y con la industria privada. Colaboración que tiene que venir acompañada del desarrollo del talento interno y de una fuerza laboral propia en los ejércitos con la suficiente capacitación, una arquitectura de datos robusta y segura, y de las medidas de ciberseguridad necesarias para conseguirlo.

A imitación de la industria, se anuncia también la creación de DIANA, el Acelerador de Innovación para Defensa del Atlántico Norte, para desarrollar estas iniciativas y fomentar la cooperación entre los miembros.

Se propone también la creación de unos requisitos de certificación en seguridad de la IA comunes para todos los miembros. Y la necesidad de protegerse, no sólo de los ataques tecnológicos contra nuestros medios, sino también de las campañas de manipulación de la información que pretendan cuestionar la legitimidad de los desarrollos propios en este campo. Para esto último, la transparencia parece que podría ser una de las claves principales a tener en cuenta.

La parte central de la estrategia son los Principios de Uso Responsable, el modo en que la OTAN ha denominado a su código ético para la utilización de la IA. No es, desde luego, la primera organización en hacerlo. Más de 160 códigos éticos han sido publicados desde que Satya Nadella, el CEO de Microsoft, elaborase su primera propuesta en 2016.[1] Nadella proponía entonces como principios la preservación de la autonomía humana y de su dignidad, la transparencia, la privacidad, la responsabilidad y la ausencia de sesgos.

Para la Alianza, los principios que deben regir el uso de la IA (tanto en el ámbito militar como con carácter general) son:

  • Legalidad. Garantizando el cumplimiento de las normas de Derecho Internacional, Derecho Humanitario y los Derechos Humanos
  • Responsabilidad. Que implica que los humanos que están detrás del desarrollo y empleo de los sistemas serán siempre los responsables de las acciones de estos, sin que pueda transferirse a las máquinas culpa alguna
  • Explicabilidad y trazabilidad. Dos conceptos complejos que implican la necesidad de conocer la lógica interna de los algoritmos que se empleen y de ser capaz de reproducir el razonamiento que hay tras cada paso para saber qué factores han influido en la toma de decisión
  • Fiabilidad. Asignando cada aplicación a unos usos concretos y verificando mediante ejercicios y auditorías su correcto funcionamiento
  • Gobernabilidad. Con la garantía de interacción persona-máquina que limite la autonomía de esta última con la posibilidad de correcciones permanentes o de desactivación por parte del humano
  • Mitigación de sesgos. Para evitar resultados en los que influya de forma no deseada alguna característica concreta del objetivo, en particular de las personas. La función de los algoritmos es discriminar, diferenciar entre distintas características, pero esta actuación tiene que responder a la intención del operador, y no a prejuicios que se hayan trasladado al sistema de forma involuntaria

Putin, Xi, Macron y la práctica totalidad de los líderes mundiales han expresado en numerosas ocasiones -y desde hace ya bastante tiempo- la centralidad de la IA en el desarrollo de las capacidades de los países y de los ejércitos. No sólo para mantener una superioridad que permita mantener la iniciativa y la libertad de acción, sino también para garantizar la supervivencia misma de los sistemas propios.

Japón acaba de lanzar una iniciativa para potenciar la digitalización de su sociedad, altamente tecnificada, pero no suficientemente inmersa en todo lo que significa la vida en un mundo híbrido cognitivo “figital” (físico y digital). En este entorno, Amnistía Internacional alerta sobre los riesgos tecnológicos para nuestra libertad, pero también sobre el importante crecimiento de la desinformación que se ha hecho patente cuando nuestra dependencia de lo digital ha aumentado durante la pandemia.

[1] La ética de los sistemas de IA es, precisamente, el tema central de mi tesis doctoral Ética del ecosistema híbrido cognitivo entre el espacio físico y el ciberespacio. Aproximación desde el caso de la inteligencia artificial. Universidad Politécnica de Madrid. Desarrollo el tema en detalle en Ethics of autonomous weapons systems and its applicability to any AI systems. Telecommunications Policy, 44(6), 1–15. https://doi.org/10.1016/j.telpol.2020.101953 y en Gómez-de-Ágreda, Á., & Feijoo, C. (2021). Hacia una ética del ecosistema híbrido del espacio físico y el ciberespacio. Diecisiete.

Ángel Gómez de Ágreda – Analista Geopolítico – Coronel del Ejército del Aire de España – Doctor en Ingeniería de Organización (UPM) – Autor de «Mundo Orwell – Manual de Supervivencia para un Mundo Conectado«

El presente artículo se publica con la debida autorización de su autor. Es una republicación del artículo original publicado en páginas 1052/1053 en la Sección Internet y Nuevas Tecnologías de la Revista Aeronáutica y Astronáutica Nº 908 – Diciembre 2021 – del Ejército del Aire de España que puede encontrarse en este enlace:
https://publicaciones.defensa.gob.es/revista-de-aeronautica-y-astronautica-908-revistas-papel.html