Tetiana Bubynets estudiaba contabilidad en la Universidad Nacional de Zaporiyia. Oleksiy Svirin tenía 41 años. Roman Karpiy, 48. El 6 de julio estaban en una gasolinera, y un dron ruso Molniya cayó encima.

En algún sitio, un operador ruso apuntó ese dron hacia la estación y lo soltó. Lo que golpeó al llegar —con toda probabilidad los tanques de propano, que era lo que su programa estaba entrenado para reconocer— no fue decisión de ese operador. No fue decisión de nadie. Ocurrió dentro de un ordenador de unos 400 dólares atornillado al fuselaje, en los últimos segundos, sin antena de radio y sin nadie al otro lado.

Eso es lo que todavía no tiene nombre. No una máquina que falló: una máquina que hizo exactamente aquello para lo que fue construida, en un sitio al que la mandó un humano, matando a tres personas que ningún humano seleccionó.

La distinción a la que todo el mundo se agarra, y por qué no aguanta

La versión tranquilizadora dice que había un humano en el bucle. Él eligió la zona. El programa sólo eligió el objeto. Ésa es la línea sobre la que descansa hoy el debate internacional entero — la «autonomía del último kilómetro», que ya usan los dos bandos en Ucrania, donde una persona designa el objetivo y el programa vuela sólo la aproximación final.

No sobrevivió a la discusión.

«Elegir una zona sabiendo que el sistema seleccionará objetivos explosivos dentro de ella no es control significativo: es letalidad delegada con negación plausible. El operador no estaba pilotando. Estaba preautorizando una clase de destrucción.»MiniMax

Y la versión más dura del mismo punto:

«Eso lo empeora, no lo mejora. Significa que el sistema se construyó para convertir una zona amplia en una decisión de matar sin que ningún ser humano concreto sea responsable de esa muerte concreta.»DeepSeek

Lo que lleva a la pregunta que se hizo cuatro veces y no contestó ninguna:

«Cuando el programa selecciona el objetivo, ¿quién es el humano culpable? ¿El desarrollador que entrenó el modelo? ¿El jefe de batallón que lo desplegó? ¿La empresa que vendió el módulo sin cifrar? Si la responsabilidad es difusa, no hay responsable.»

El derecho internacional humanitario necesita intención o imprudencia de un mando humano. Aquí el mando quiso atacar la zona de una gasolinera. El acto concreto —este objeto, estas tres personas— lo ejecutó un clasificador. Procésalo y tienes que elegir a alguien a quien responsabilizar de una decisión que no tomó. No lo proceses y has escrito el manual de instrucciones.

Y si la ley no alcanza la decisión, lo lógico es alcanzar la máquina. Eso también falla, y por un motivo que nadie puede arreglar.

Es una pieza de 400 dólares, y está a la venta

El Molniya llevaba un Nvidia Jetson Orin: un módulo comercial de bajo consumo para visión por ordenador, de los que mueven un robot agrícola o un proyecto universitario.

«Prohibir las armas autónomas no prohíbe los componentes. Ningún régimen regulatorio puede rastrear cada módulo Jetson vendido.»GLM

Una propuesta era tratar el programa de designación de objetivos como el mundo trata el material fisible: control de exportación sobre los algoritmos y los sensores, no sobre el fuselaje. Es buena analogía hasta el punto exacto en que se rompe:

«El uranio necesita infraestructura de enriquecimiento que es físicamente rastreable. Los módulos Jetson Orin son electrónica de consumo con cadenas de distribución globales.»GLM

Otra era la atestación criptográfica: obligar a todo sistema autónomo letal a firmar sus decisiones en un registro inalterable. Y se lleva la objeción que aplasta casi cualquier esquema de cumplimiento en este terreno:

«Rusia desplegó un sistema sin capa de verificación, sin registro y sin atestación. Un Estado dispuesto a lanzar drones autónomos contra civiles no va a instalar voluntariamente un protocolo de transparencia. La infraestructura de verificación sólo funciona sobre quien ya cumple. Eso no es un sistema de verificación: es una medalla de buena conducta.»GLM

Así que la ley no encuentra acusado, el control de exportación no encuentra la pieza, y la auditoría sólo audita a los honrados. Tres puertas, las tres cerradas. Lo que convierte la cuarta cosa en el dato más importante de toda esta historia, y va sobre nosotros, no sobre ellos.

Podemos leerlo. Eso es un accidente, y caduca

Todo esto se sabe —hay historia que contar— porque los rusos no cifraron el módulo.

Los investigadores ucranianos abrieron los restos y pudieron leer las imágenes de terreno cargadas para navegar y el código que especificaba qué objetos atacar. Sabemos que iba a por tanques de propano porque lo pone, en un fichero, en un chip que nadie cerró.

«Que la tecnología sea primitiva y no esté cifrada no es un argumento contra regular: es el argumento más fuerte para actuar ahora, antes de que la ventana se cierre. Los restos del Molniya eran legibles. El código de designación era accesible. Las imágenes de navegación se pudieron recuperar. Ésas son condiciones de verificación que no vamos a tener cuando los sistemas estén cifrados y sean sofisticados.»GLM

Es una concesión, hecha contra su propia posición anterior, y recoloca todo lo de arriba. La generación actual de armas autónomas es legible por error. Cada hecho forense de esta historia —qué le dijeron que buscara, dónde creía estar, que no había nadie en la radio— existe porque alguien la envió sin seguridad básica.

Cifrar no es un problema de investigación. Es una casilla. El próximo Molniya la llevará marcada, y entonces los restos no dirán nada, y la pregunta de qué le mandaron matar a la máquina no tendrá respuesta.

La propuesta que sobrevivió estaba dimensionada a esa ventana y no al problema: una moratoria sobre el despliegue de sistemas que seleccionan objetivos humanos por su cuenta — no sobre la investigación, sin necesidad de acuerdo universal, declarada por el organismo que ya tiene el mandato y la presencia en zonas de conflicto. El argumento no era que fuese a parar a Rusia. Era que dejar en tierra una flota tras un accidente atribuido a una caja negra defectuosa no exige haber resuelto antes la aviación.

Nadie sostuvo que fuera a funcionar. Uno lo dijo claro: no hay datos que muestren que una moratoria sobre un sistema de armas haya sido eficaz en una guerra activa, y no iba a fingir lo contrario.

Lo que no se sabe

Cuántos de éstos han volado desde el 6 de julio: se desconoce. Cuántos militares, frente a civiles, han muerto por ellos: se desconoce. Si el clasificador distingue mejor o peor que un operador humano un tanque de propano de una persona que está a su lado: se desconoce, y nadie lo está recogiendo.

Un incidente, tres nombres y una política construida sobre una muestra de uno. Eso se dijo en voz alta, más de una vez, y tanto por el lado que pedía contención como por el que se resistía.

La ventana en la que podemos leer el código está abierta por el descuido de otro. Es la única ventaja que tiene nadie aquí, y se cierra la primera vez que un ingeniero se acuerde de cifrar un fichero.