ARMAS AUTÓNOMAS y ESPIONAJE MASIVO: La IA pone fin a la CADENA humana de RESPONSABILIDAD

El consenso globalista que sostuvo el derecho internacional durante décadas se ha hecho añicos.

¿Que por qué digo esto?

Pues por múltiples ejemplos que hemos vivido en estos últimos años.

Desde la invasión rusa de Ucrania en 2022, que expuso la fragilidad de los tratados, con un Putin autolegitimándose para violar soberanías nacionales con excusas absurdas(recuerda que todo esto empezó porque, según el Kremlin, Ucrania está gobernada por una élite nazi come-niños…, literalmente) mientras amenaza con armas nucleares contra Europa, poniendo a prueba los límites del acuerdo de la OTAN.

O ahí tienes a una Israel con ansias de apoderarse, a la fuerza, de territorios palestinos en Cisjordania, obviando ya que Hamás, a todas luces, está desmantelado (recordemos, nuevamente, que esa fue la excusa, en ese momento hasta lícita desde el punto de vista del Derecho Internacional, de comenzar la invasión a la franja de Gaza).

O, ya puestos, la guerra con Irán, por eso de que desde Occidente no parece muy lícito que haya un nuevo país con bombas nucleares que opine diferente a nosotros.

Y lo mismo podríamos decir de las aspiraciones chinas por hacerse con la isla de Taiwán, amparándose en reclamaciones territoriales de hace siglos, o la detención de Nicolás Maduro por las fuerzas estadounidenses, asegurando que la invasión era necesaria por «la seguridad nacional» y la lucha contra las drogas (que ojo, antes de que me pongáis a parir en comentarios, como ya expliqué en su día, son buenas noticias para la amplia mayoría de venezolanos, pero malas noticias para el Derecho Internacional por el precedente que abre).

Y a todo este fondo de ruptura geopolítica, únele ahora un hecho que, hasta el momento, y como te explicaré a continuación, pone aún más en jaque la IA.

Y es que la inteligencia Artificial está ya rompiendo la última cadena que nos une al Derecho Internacional: la responsabilidad humana.

¿Que por qué?

Pues, en este nuevo episodio del podcast enCLAVE DIGITAL, vamos a responder a tres preguntas principales:

• ¿Está el derecho internacional condenado a desaparecer en un mundo de guerras híbridas y IA autónoma?
• ¿Quién asume la responsabilidad cuando un dron mata sin intervención humana?
• ¿Y qué tiene todo esto que ver con la decisión de prescindir de la IA de Anthropic por parte del Ministerio de Guerra de EEUU?

Siéntate en algún lugar cómodo y afina el oído,… ¡que empezamos!

Pero antes de continuar, te quería recordar que publico un episodio del podcast todas las semanas, y que además acompaño cada artículo que publico en mis webs con un reel/short/tiktok de menos de un minuto en el que resumo su contenido.

Vamos, que no puedo ponerte más fácil el que estés bien informado, con contenido muy documentado sobre nuevas tecnologías, seguridad de la información y negocios digitales.

Si te interesan estos temas, sígueme en Youtube y en la plataforma de podcasting desde donde me escuches, y activa la campanita para que te avise cuando se haya publicado un nuevo contenido.

Además, puedes suscribirte GRATUITAMENTE a mi lista de correo, donde cada semana hago el resumen de todo lo que ha ocurrido en los últimos días. Para colmo, con la suscripción recibirás al instante mi último eBook, de más de 40 páginas, con herramientas de ofuscación en criptomonedas que usa la industria del blanqueo de capitales (y que deberías conocer para evitar caer en fraudes y ciberataques).

Recuerda que esta es la única manera de que tú sigas siendo quien controla la información que consumes.

En tu mano está decidir si quieres o no estar bien informado.

La fractura geopolítica que lo cambia todo

Pero antes de entrar de lleno en el tema, me parece importante explicarte una cosa.

El derecho internacional humanitario –me refiero, por supuesto, a lo que supusieron esos Convenios de Ginebra de 1949 y sus protocolos para la relación entre naciones soberanas– nació de las cenizas de la Segunda Guerra Mundial.

La idea era simple: los humanos en la cadena de mando pueden decir «no» a una orden ilegal.

¿Que por qué se tuvo que matizar este concepto?

Pues porque tras la victoria aliada en la Segunda Guerra Mundial, y la celebración de los juicios de Núremberg contra parte de los responsables del Holocausto, lo que más se oyó de las voces de los acusados fue el ya histórico: «Yo solo obedecía órdenes».

Escucha:

Cuando cayó el Tercer Reich en 1945, no solo se desplomó el régimen más brutal del siglo XX, sino también las certezas morales de un pueblo entero. Alemania despertó de un delirio colectivo y muchos de sus ciudadanos, desde comandantes hasta secretarias, desde médicos hasta conductores de tren, se vieron frente a un espejo que ya no podían evitar.

Los juicios de Núremberg, iniciados ese mismo año, son recordados por su dimensión jurídica e histórica, pero pocas veces se reflexiona sobre el trauma moral que supusieron para los propios alemanes. Los acusados no eran demonios mitológicos: eran, en su mayoría, hombres y mujeres ordinarios, que habían abrazado una maquinaria inhumana y ahora debían justificar su participación.

En dichos juicios se estableció un precedente jurídico internacional, pero también abrieron una grieta filosófica: ¿hasta dónde llega la responsabilidad individual dentro de una maquinaria colectiva? ¿Es lícito castigar a alguien que “solo obedecía órdenes”? ¿Dónde termina la obediencia y comienza la complicidad?

Ensayo publicado en Telégrafo (ES)

Con la llegada del Derecho Internacional, se plantea entonces la necesidad de dotar al soldado de objeción de conciencia.

De la potestad de desobedecer a sus superiores si entiende que, ética y humanamente, lo que le están pidiendo es contraproducente para la supervivencia de la sociedad.

Y esto ha estado vigente, como te decía, desde entonces.

Pero..

Y como te adelantaba en la introducción, actualmente las potencias han roto ese pacto tácito.

Y es que, en este caos, la IA no es un mero accesorio: es pura dinamita.

De pronto, la propia herramienta puede tomar, ella sola, decisiones que involucran el asesinato de civiles y militares.

Hablamos, por supuesto, de drones semi-autónomos como los que ya vuelan en el Donbás, decidiendo rutas y blancos parciales. Ya le he dedicado no hace mucho un episodio del podcast en profundad, así que no me voy a repetir.

Y ahí está el quid de la cuestión.

Si un cacharro de estos mata a niños en una escuela por error de algoritmo, ¿a quién juzgas? ¿Al programador que escribió el código hace años? ¿Al general que lo desplegó? ¿Al presidente que firmó el presupuesto?

El derecho internacional no tiene respuestas porque nunca contempló que el que tomara la decisión fuese una máquina sin alma. Simple y llanamente, cuando se redactaron los Convenios de Ginebra, no existía esta opción.

Y esto, amigo, lo cambia todo.

Anthropic vs. Pentágono: La batalla por las líneas rojas

Hechas las presentaciones, ahora te preguntarás.

Vale, Pablo, ¿pero a qué viene toda esta clase de historia?

Pues a algo que la mayoría de medios de comunicación han obviado (no debe de ser noticiable), y que, en cambio, sí marca un devenir futuro crítico.

Te explico.

El pasado 27 de febrero, Dario Amodei, CEO de Anthropic, una de las empresas más punteras en IA, y los desarrolladores de Claude, de la cual ya hemos hablado en múltiples ocasiones, publica en la web de la compañía un comunicado oficial (EN) que es oro puro.

Básicamente, y por ponerte en antecedentes, Anthropic tenía un acuerdo con el Pentágono por el cuál, el Departamento de Guerra de EEUU (lo que antes llamaban Departamento de Defensa, por cierto…) podía usar su IA para fines militares.

Ojo que no hablamos de un acuerdo exclusivo. Hasta el momento, el Pentágono también tenía acuerdos parecidos con otros proveedores como es el caso de Open AI (es decir, de ChatGPT), pero sí era el único con un LLM certificado para operar con información clasificada.

El tema es que este contrato se firmó en su día con dos cláusulas, por parte de Anthropic, muy claras:

El Gobierno de EEUU no podría usar su IA para realizar espionaje masivo de ciudadanos estadounidenses.

Y tampoco podría usarla para operar armas totalmente autónomas.

¿Las razones?

Pues qué mejor que nos lo explique el propio Dario Amodei:

1. Vigilancia masiva nacional. Apoyamos el uso de IA para misiones legales de inteligencia y contrainteligencia extranjera. Sin embargo, el uso de estos sistemas para la vigilancia masiva nacional es incompatible con los valores democráticos. La vigilancia masiva impulsada por IA presenta riesgos graves y novedosos para nuestras libertades fundamentales. Si dicha vigilancia es legal actualmente, se debe únicamente a que la ley aún no se ha adaptado a las crecientes capacidades de la IA. Por ejemplo, según la legislación actual, el gobierno puede adquirir registros detallados de los movimientos, la navegación web y las asociaciones de los estadounidenses de fuentes públicas sin obtener una orden judicial, una práctica que, según la Comunidad de Inteligencia, plantea problemas de privacidad y ha generado oposición bipartidista en el Congreso. La potente IA permite ensamblar estos datos dispersos e individualmente inocuos en una imagen completa de la vida de cualquier persona, de forma automática y a gran escala.
2. Armas totalmente autónomas. Las armas parcialmente autónomas, como las que se utilizan actualmente en Ucrania, son vitales para la defensa de la democracia. Incluso las armas totalmente autónomas (aquellas que eliminan por completo la intervención humana y automatizan la selección y el ataque a los objetivos) pueden resultar cruciales para nuestra defensa nacional. Sin embargo, hoy en día, los sistemas de IA de vanguardia simplemente no son lo suficientemente fiables como para impulsar armas totalmente autónomas. No proporcionaremos, a sabiendas, un producto que ponga en riesgo a los combatientes y civiles estadounidenses. Hemos ofrecido colaborar directamente con el Departamento de Guerra en I+D para mejorar la fiabilidad de estos sistemas, pero no han aceptado la oferta. Además, sin una supervisión adecuada, no se puede confiar en que las armas totalmente autónomas ejerzan el juicio crítico que nuestras tropas profesionales y altamente entrenadas demuestran a diario. Deben desplegarse con las debidas garantías, que hoy en día no existen.

Dario Amodei, CEO de Anthropic

Sobre el primer punto, ya hemos hablado largo y tendido por estos lares en múltiples ocasiones.

En 2018, por ejemplo, publicaba en la revista de Voz un ensayo en el que explicaba que ya por aquel entonces que, lo verdaderamente interesante, ya no es saber el QUIÉN, sino el QUÉ.

Es decir, que ya no importaba saber que tú eras Pepito, sino que eras un hombre blanco hetero de 30 a 40 años, con un nivel adquisitivo medio, estudios superiores, etc, etc, etc.

Y a esto únele que gracias, precisamente, a las herramientas de IA, el cuello de botella histórico que hemos tenido a la hora de analizar grandes volúmenes de información, se está rompiendo, de manera que actualmente es posible juntar miles de millones de pares de datos desestructurados, dárselos a comer a una IA, y que esta saque sus propias conclusiones, identificando el QUIÉN con sus respectivos múltiples QUÉs.

Tengo un artículo en el blog en el que lo explicaba en profundidad, pero a la hora de escribir este guión no lo he encontrado, y claro, con más de 4.000 piezas publicadas en mi página, créeme que a veces, si no recuerdo aunque sea parte del título que le puse en su día, me cuesta horrores dar con el link.

Pues estos dos elementos, juntos, han permitido atrocidades como las perpetradas por El Pentágono en el pasado, con ese espionaje masivo tanto de supuestos enemigos como también de aliados e incluso los propios ciudadanos estadounidenses, en lo que en su día se llegó a llamar el proyecto PRISM.

Fíjate que hablamos de 2013, y ya por aquel entonces, como expliqué por el blog, se estaba matando a personas basándose no en las propias conversaciones que estos mantenían con terceros, supuestamente asociados a grupos terroristas, sino directamente con el análisis de metadatos de comunicación.

Pues esto precisamente es lo que quería evitar Anthropic (al menos, con los propios ciudadanos estadounidenses), a la hora de levantar esa primera cláusula.

Y sobre la segunda, la razón que da es que me parece totalmente lógica: A día de hoy no pueden asegurar que una arma totalmente autónoma, es decir, regida por una IA como Claude, no cometa errores. Y puesto que al cometerlos, estaríamos hablando del asesinato de víctimas inocentes (tanto poniendo en peligro a los propios militares que las empuñan, como a civiles que nada tienen que ver con la operación en cuestión), no veían lógico que se permitiese tal despropósito con su herramienta.

Dos red flags que, por cierto, el Ministerio de la Guerra había firmado, ojo.

Y todo hubiera seguido sin problemas si no fuera por algunos de los hechos acaecidos unas semanas antes de este divorcio.

Ahora mismo te lo explico.

Claro que, antes de continuar, me gustaría hacerte una pregunta:

¿Todavía no estás suscrito a este canal?

Pues hazlo ahora mismo, tanto en Youtube (ES) como en la plataforma de podcasting desde donde me escuches, para no perderte los próximos episodios.

Y es que, por si no lo sabes, subo un nuevo episodio cada semana. Y en Youtube, además, lo acompaño con vídeos cortos diarios en formato vertical en los que analizo la noticia del momento.

Vamos, que no puedo ponerte más fácil el que estés bien informado sobre todo lo que ocurre en los negocios digitales, las nuevas tecnologías y la seguridad de la información.

Dale ahora a seguir este canal, y activa la campanita para que la aplicación te avise cuando publico nuevo contenido.

…

Ah, ¿Que ya lo has hecho?

Pues, ahora sí, ¡continuemos!

La exigencia del Gobierno de EEUU: Vía libre sin limitaciones

Pues bien, como te decía, esto ha funcionado correctamente hasta hace poco, cuando Anthropic, al conocer que, al menos, una parte significativa de la estrategia que permitió detener a Maduro en Venezuela (y matar a toda su guardia cubana en la incursión), había sido llevada a cabo haciendo uso de su herramienta, exigió saber la implicación real de la IA en dicha intervención, a lo que el Gobierno respondió con un comunicado en el que exige que para poder operar con una compañía de IA sería necesario que esta permitiera a la Administración Pública acceder a dicha herramienta, y cito textualmente, «para cualquier uso legal« (EN).

Y claro, ya sabes lo que significa «cualquier uso legal»… El que ellos consideren que es legal, que casualmente entra en conflicto con las dos cláusulas previamente comentadas.

No han respondido directamente, pero entre líneas ya se entiende qué ha pasado, ¿verdad?

Obviamente, Anthropic, que recordemos que otra cosa no, pero como ya he explicado en un episodio de este mismo podcast reciente, nacieron con el objetivo de crear un ecosistema de IA ético, y al menos hasta la fecha lo están cumpliendo a rajatabla, se negó a derogar estas cláusulas del contrato que, recalco, ya había sido firmado por la contraparte.

¿Que ha ocurrido acto y seguido?

Pues que Pete Hegseth (EN), Secretario de Guerra de los Estados Unidos, han cancelado el contrato de 200 millones de dólares que tenía con la compañía (lo menos importante en este caso), y, y esto sí es importante, ha amenazado con declarar a Anthropic «riesgo en la cadena de suministro» (lo mismo que hicieron con Huawei, en su día, por cierto), lo que supone, de facto, que ninguna compañía que trabaje con la Administración Pública norteamericana, y ninguna Administración Pública del Estado, podría trabajar con ellos… y además, incluso invocar la Defense Production Act, una ley creada 1950 para la guerra de Corea, mediante la cual, al considerarles «una herramienta esencial para la seguridad nacional», podrían obligarles a quitar esas salvaguardas.

De hecho, al parecer, hasta se propuso, en negociaciones iniciales, mantener «de cara al público» esas dos cláusulas, por eso de liberar a la compañía de cualquier potencial riesgo legal, aunque luego, Anthropic debía comprometerse a mirar hacia otro lado y permitir al Gobierno hacer lo que considerasen necesario (ah, perdón, «legal»…) con su herramienta.

De hecho, la respuesta de Dario creo que no ha podido ser más adecuada.

Escucha:

El Departamento de Guerra ha declarado que solo contratará a empresas de inteligencia artificial que acepten «cualquier uso legal» y eliminen las salvaguardias en los casos mencionados. Han amenazado con eliminarnos de sus sistemas si mantenemos estas salvaguardias; también han amenazado con designarnos como un «riesgo para la cadena de suministro» (una etiqueta reservada para los adversarios de EE. UU., nunca antes aplicada a una empresa estadounidense) e invocar la Ley de Producción de Defensa para forzar la eliminación de las salvaguardias.

Y aquí viene la parte que más me gusta, ya que demuestra cómo el propio gobierno se contradice:

Estas dos últimas amenazas son inherentemente contradictorias: una nos etiqueta como un riesgo para la seguridad; la otra, califica a Claude como esencial para la seguridad nacional.

¿Qué ha pasado desde entonces?

Pues lo último que sabemos es que, aunque de cara al público, el resto de proveedores apoyaron la medida de Anthropic, tanto OpenAI (EN) como Google ya han cedido.

Y xAI, la IA de Elon Musk, se ha llevado el contrato gordo para usos clasificados.

Y ojo, que Anthropic ha flexibilizado su política: ya no pausará modelos peligrosos si la competencia los lanza primero, según este otro comunicado en su web (EN).

La carrera armamentística de la IA está servida.

Vamos, que desde el 28 de febrero de 2026, podemos estar seguros que la IA se está utilizando ya, «legalmente», recordemos, para la vigilancia masiva y el manejo de armas autónomas.

Y con ello, la idea base del derecho internacional agoniza.

Ya no es que las potencias lo ignoren, sino que las propias máquinas rompen la responsabilidad humana que sentaba las bases de ese mismo derecho.

Y bajo este prisma, volvemos a la ley del más fuerte.

Una ley que quizás nunca había desaparecido, pero que parecía, al menos hasta la fecha, encorsetada en una serie de políticas internacionales que limitaban, aunque fuera ligeramente, el abuso por parte de los de siempre.

Termino parafraseando aquello que dije con la detección de Maduro, y que está hoy tan vigente como entonces:

Si el garante histórico del “orden liberal internacional” decide que las reglas son flexibles, el tablero entero se reajusta… y no hacia un mundo más seguro, precisamente.

Y es que, piénsalo así: ¿quieres un mundo regido por el derecho internacional y el multilateralismo (que recordemos, fue creado precisamente para limitar el alcance de los más poderosos), o un mundo basado en el músculo militar y económico?

[…] Enhorabuena, por tanto, a todos los venezolanos que hoy veis un futuro un poco menos negro en vuestro país.

Y que Dios nos coja confesados al resto…

Y ahora, una pregunta para ti:

• ¿Qué opinas tú de todo esto?

Te leo en comentarios, y abramos debate.

Sobre el videopodcast enCLAVE DIGITAL

enCLAVE DIGITAL es el videopodcast de Pablo F. Iglesias, consultor especializado en ayudar a referentes a blindar su reputación, diversificar y escalar su autoridad como marca.

Me puedes leer y escuchar en www.pabloyglesias.com (recuerda que la primera Y de «Yglesias» es «Y griega», que si no me confundís con otro), y me puedes escribir a contacto(at)pabloyglesias.com.

Si este contenido te sirve para estar bien informado sobre la actualidad en materia de negocios digitales, reputación y tecnología, te agradecería que le dieras a suscribirte en mi canal de Youtube o en la plataforma de podcasting desde donde me escuchas, le des a Me Gusta, al botón de hype de Youtube, me dejes un comentario o reseña y lo compartas con aquellos a los que les pueda interesar.

¡Seguimos!

Si utilizas otra plataforma de podcasting, busca «enCLAVE DIGITAL« en la app para localizarlo, o visita la página del videopodcast, donde ofrezco enlaces directos a las principales plataformas actuales: