La IA

Por Will Knight

Una flota de barcos robot se balancea suavemente en las cálidas aguas del Golfo Pérsico, en algún lugar entre Bahrein y Qatar, tal vez a 100 millas de la costa de Irán. Estoy en la cubierta cercana de una lancha rápida de la Guardia Costera de EE. UU., entrecerrando los ojos por lo que entiendo es el lado de babor. Esta mañana de principios de diciembre de 2022, el horizonte está salpicado de petroleros, cargueros y diminutos dhows de pesca, todos brillando con el calor. Mientras la lancha rápida rodea a la flota de robots, anhelo una sombrilla o incluso una nube.

Los robots no comparten mi patética necesidad humana de sombra, ni requieren ninguna otra comodidad biológica. Esto es evidente en su diseño. Algunas se parecen a las típicas lanchas patrulleras como en la que estoy, pero la mayoría son más pequeñas, más delgadas y más cercanas al agua. Uno parece un kayak impulsado por energía solar. Otro parece una tabla de surf con una vela de metal. Otro más me recuerda a un coche de Google Street View sobre pontones.

Estas máquinas se han reunido aquí para un ejercicio dirigido por la Task Force 59, un grupo dentro de la Quinta Flota de la Marina de los EE.UU. Su atención se centra en la robótica y la inteligencia artificial, dos tecnologías en rápida evolución que dan forma al futuro de la guerra. La misión del Task Force 59 es integrarlos rápidamente en las operaciones navales, lo que logra adquiriendo la última tecnología disponible en el mercado de contratistas privados y juntando las piezas en un todo coherente. El ejercicio en el Golfo ha reunido a más de una docena de plataformas no tripuladas: buques de superficie, sumergibles y drones aéreos. Serán los ojos y oídos distribuidos del Task Force 59: observarán la superficie del océano con cámaras y radar, escucharán debajo del agua con hidrófonos y ejecutarán los datos que recopilen a través de algoritmos de coincidencia de patrones que separan los petroleros de los contrabandistas.

Un compañero en la lancha rápida me llama la atención sobre una de las embarcaciones estilo tabla de surf. De repente pliega su vela, como una navaja automática, y se desliza bajo el oleaje. Llamado Tritón, puede programarse para hacer esto cuando sus sistemas detectan peligro. Me parece que este acto de desaparición podría resultar útil en el mundo real: un par de meses antes de este ejercicio, un buque de guerra iraní se apoderó de dos buques autónomos, llamados Saildrones, que no pueden sumergirse. La Marina tuvo que intervenir para recuperarlos.

El Tritón podría permanecer sumergido hasta cinco días y resurgir cuando la costa esté despejada para cargar sus baterías y llamar a casa. Afortunadamente, mi lancha rápida no estará ahí por mucho tiempo. Enciende su motor y ruge de regreso al muelle de atraque de un guardacostas de 150 pies de largo. Me dirijo directamente a la cubierta superior, donde sé que hay una pila de agua embotellada debajo de un toldo. Mido las ametralladoras pesadas y los morteros que apuntan al mar al pasar.

La cubierta se enfría con el viento mientras el cúter regresa a su base en Manama, Bahréin. Durante el viaje entro en conversación con la tripulación. Estoy ansioso por hablar con ellos sobre la guerra en Ucrania y el uso intensivo de drones allí, desde cuadricópteros aficionados equipados con granadas de mano hasta sistemas militares completos. Quiero preguntarles sobre un ataque reciente a la base naval ocupada por Rusia en Sebastopol, en el que participaron varios barcos no tripulados construidos en Ucrania cargados de explosivos, y una campaña pública de financiación colectiva para construir más. Pero estas conversaciones no serán posibles, dice mi acompañante, un reservista de la empresa de redes sociales Snap. Debido a que la Quinta Flota opera en una región diferente, los integrantes del Task Force 59 no tienen mucha información sobre lo que está sucediendo en Ucrania, dice. En cambio, hablamos de generadores de imágenes de IA y de si dejarán a los artistas sin trabajo, de cómo la sociedad civil parece estar alcanzando su propio punto de inflexión con la inteligencia artificial. En verdad, todavía no sabemos ni la mitad. Ha pasado apenas un día desde que OpenAI lanzó ChatGPT, la interfaz conversacional que revolucionaría Internet.

Matt Simón

Gregorio Barbero

adrien so

caballero

De regreso a la base, me dirijo al Centro de Operaciones Robóticas, donde un grupo de humanos supervisa los sensores distribuidos en el agua. La República de China es una sala sin ventanas con varias filas de mesas y monitores de computadora, bastante sin personalidad excepto por las paredes, que están adornadas con citas inspiradoras de figuras como Winston Churchill y Steve Jobs. Aquí me encuentro con el Capitán Michael Brasseur, el jefe del Grupo de Trabajo 59, un hombre bronceado con la cabeza rapada, una sonrisa dispuesta y entrecerrar los ojos como un marinero. (Desde entonces, Brasseur se ha retirado de la Marina). Camina entre las mesas mientras explica alegremente cómo opera la República de China. "Aquí es donde se fusionan todos los datos que provienen de los sistemas no tripulados, y donde aprovechamos la IA y el aprendizaje automático para obtener información realmente interesante", dice Brasseur, frotándose las manos y sonriendo mientras habla.

Los monitores parpadean con actividad. La IA del Task Force 59 destaca embarcaciones sospechosas en el área. Ya ha señalado hoy una serie de barcos que no coincidían con su señal de identificación, lo que llevó a la flota a examinar más de cerca. Brasseur me muestra una nueva interfaz en desarrollo que permitirá a su equipo realizar muchas de estas tareas en una pantalla, desde ver la transmisión de la cámara de un barco no tripulado hasta acercarlo a la acción.

“Puede funcionar de forma autónoma, pero no lo recomendamos. No queremos comenzar la Tercera Guerra Mundial”.

Brasseur y otros en la base enfatizan que los sistemas autónomos que están probando son sólo para detección y detección, no para intervención armada. "El enfoque actual del Task Force 59 es mejorar la visibilidad", dice Brasseur. "Todo lo que hacemos aquí apoya a los buques tripulados". Pero algunas de las naves robot involucradas en el ejercicio ilustran cuán corta puede ser la distancia entre armas desarmadas y armadas: es cuestión de intercambiar cargas útiles y ajustar el software. Una lancha rápida autónoma, la Gaviota, está diseñada para cazar minas y submarinos arrastrando un conjunto de sonar a su paso. Amir Alon, director senior de Elbit Systems, la empresa de defensa israelí que creó el Seagull, me dice que también puede equiparse con una ametralladora operada a distancia y torpedos que se lanzan desde la cubierta. "Puede funcionar de forma autónoma, pero no lo recomendamos", afirma con una sonrisa. "No queremos comenzar la Tercera Guerra Mundial".

No, no lo hacemos. Pero la broma de Alon toca una verdad importante: ya existen en todo el mundo sistemas autónomos con capacidad para matar. En cualquier conflicto importante, incluso uno muy inferior a la Tercera Guerra Mundial, cada bando pronto enfrentará la tentación no sólo de armar estos sistemas sino, en algunas situaciones, de eliminar la supervisión humana, liberando a las máquinas para luchar a la velocidad de las máquinas. En esta guerra de IA contra IA, sólo morirán humanos. Por lo tanto, es razonable preguntarse: ¿Cómo piensan estas máquinas y las personas que las construyen?

Matt Simón

Gregorio Barbero

adrien so

caballero

Durante décadas han existido destellos de tecnología autónoma en el ejército estadounidense, desde el software de piloto automático en aviones y drones hasta los cañones automatizados en cubierta que protegen a los buques de guerra de los misiles entrantes. Pero se trata de sistemas limitados, diseñados para realizar funciones específicas en entornos y situaciones particulares. Autónomo, tal vez, pero no inteligente. No fue hasta 2014 que los altos mandos del Pentágono comenzaron a contemplar una tecnología autónoma más capaz como la solución a un problema mucho mayor.

A Bob Work, subsecretario de Defensa en ese momento, le preocupaba que los rivales geopolíticos de la nación se estuvieran “acercando a la paridad” con el ejército estadounidense. Quería saber cómo “recuperar la ventaja”, dice: cómo garantizar que incluso si Estados Unidos no pudiera desplegar tantos soldados, aviones y barcos como, por ejemplo, China, pudiera salir victorioso de cualquier conflicto potencial. Entonces Work preguntó a un grupo de científicos y tecnólogos dónde debería centrar sus esfuerzos el Departamento de Defensa. “Regresaron y dijeron que la autonomía era posible gracias a la IA”, recuerda. Comenzó a trabajar en una estrategia de defensa nacional que cultivaría innovaciones provenientes del sector tecnológico, incluidas las nuevas capacidades emergentes que ofrece el aprendizaje automático.

Esto era más fácil decirlo que hacerlo. El DOD consiguió que se construyeran ciertos proyectos, incluido el Sea Hunter, un buque de guerra experimental de 20 millones de dólares, y el Ghost Fleet Overlord, una flotilla de embarcaciones convencionales adaptadas para funcionar de forma autónoma, pero en 2019 los intentos del departamento de aprovechar las grandes tecnologías fracasaban. El esfuerzo por crear una infraestructura de nube única para respaldar la IA en operaciones militares se convirtió en un tema político candente y fue abandonado. Un proyecto de Google que implicaba el uso de IA para analizar imágenes aéreas fue recibido con una tormenta de críticas públicas y protestas de los empleados. Cuando la Armada publicó su plan de construcción naval para 2020, un esbozo de cómo evolucionarán las flotas estadounidenses durante las próximas tres décadas, destacó la importancia de los sistemas no tripulados, especialmente los grandes buques de superficie y sumergibles, pero asignó relativamente poco dinero para desarrollarlos.

En una pequeña oficina en lo profundo del Pentágono, un ex piloto de la Armada llamado Michael Stewart era muy consciente de este problema. Encargado de supervisar el desarrollo de nuevos sistemas de combate para la flota estadounidense, Stewart había comenzado a sentir que la Armada era como Blockbuster sonámbulo entrando en la era de Netflix. Años antes, en la Escuela de Negocios de Harvard, había asistido a clases impartidas por Clay Christensen, un académico que estudiaba por qué las empresas grandes y exitosas se ven perturbadas por entrantes más pequeños al mercado, a menudo porque centrarse en los negocios actuales les hace pasar por alto las nuevas tendencias tecnológicas. La cuestión para la Marina, tal como la veía Stewart, era cómo acelerar la adopción de la robótica y la inteligencia artificial sin quedar atrapadas en la burocracia institucional.

Otros en ese momento pensaban en líneas similares. Ese diciembre, por ejemplo, investigadores de RAND, el grupo de expertos en defensa financiado por el gobierno, publicaron un informe que sugería un camino alternativo: en lugar de financiar un puñado de sistemas autónomos con precios extravagantes, ¿por qué no comprar enjambre otros más baratos? Basándose en varios simulacros de guerra de una invasión china de Taiwán, el informe de RAND afirmó que el despliegue de grandes cantidades de aviones no tripulados de bajo costo podría mejorar significativamente las probabilidades de victoria de Estados Unidos. Al proporcionar una imagen de cada barco en el Estrecho de Taiwán, los hipotéticos drones (que RAND denominó “gatitos”) podrían permitir a Estados Unidos destruir rápidamente la flota enemiga. (Una revista militar china tomó nota de esta predicción en ese momento, discutiendo el potencial de xiao mao, la frase china para "gatito", en el Estrecho de Taiwán).

Matt Simón

Gregorio Barbero

adrien so

caballero

A principios de 2021, Stewart y un grupo de colegas elaboraron un documento de 40 páginas llamado Marco de campaña no tripulado. Esbozó un plan rudimentario y poco convencional para el uso de sistemas autónomos por parte de la Marina, renunciando a las adquisiciones convencionales en favor de la experimentación con plataformas robóticas baratas. El esfuerzo involucraría un equipo pequeño y diverso (especialistas en inteligencia artificial y robótica, expertos en estrategia naval) que podrían trabajar juntos para implementar ideas rápidamente. "No se trata sólo de sistemas no tripulados", dice Stewart. "Es tanto, si no más, una historia organizacional".

El plan de Stewart llamó la atención del vicealmirante Brad Cooper de la Quinta Flota, cuyo territorio abarca 2,5 millones de kilómetros cuadrados de agua, desde el Canal de Suez alrededor de la Península Arábiga hasta el Golfo Pérsico. La zona está repleta de rutas marítimas que son vitales para el comercio mundial y plagadas de pesca ilegal y contrabando. Desde el final de la Guerra del Golfo, cuando parte de la atención y los recursos del Pentágono se dirigieron hacia Asia, Cooper había estado buscando formas de hacer más con menos, dice Stewart. Irán había intensificado sus ataques contra buques comerciales, atacándolos en lanchas rápidas armadas e incluso atacando con drones y embarcaciones operadas a distancia.

Cooper le pidió a Stewart que se uniera a él y a Brasseur en Bahrein, y juntos los tres comenzaron a crear el Grupo de Trabajo 59. Examinaron los sistemas autónomos que ya se utilizan en otros lugares del mundo, para recopilar datos climáticos, por ejemplo, o monitorear plataformas petroleras en alta mar. —y concluyó que arrendar y modificar este hardware costaría una fracción de lo que la Armada normalmente gastaba en nuevos barcos. Luego, el Task Force 59 utilizaría software impulsado por inteligencia artificial para unir las piezas. "Si los nuevos sistemas no tripulados pueden operar en estas aguas complejas", me dijo Cooper, "creemos que se pueden ampliar a otras flotas de la Armada de Estados Unidos".

A medida que creaban el nuevo grupo de trabajo, esas aguas se volvían más complejas. En las primeras horas del 29 de julio de 2021, un petrolero llamado Mercer Street se dirigía hacia el norte a lo largo de la costa de Omán, en ruta desde Tanzania a los Emiratos Árabes Unidos, cuando dos drones negros en forma de V aparecieron en el horizonte, barriendo el cielo despejado antes de explotar en el mar. Un día después, después de que la tripulación recogiera algunos escombros del agua e informara del incidente, un tercer dron bombardeó en picado el techo de la sala de control del barco, esta vez detonando un explosivo que atravesó la estructura y mató a dos miembros de su tripulación. . Los investigadores concluyeron que los culpables eran tres “drones suicidas” fabricados en Irán.

Matt Simón

Gregorio Barbero

adrien so

caballero

La principal amenaza en la mente de Stewart era China. “Mi objetivo es presentar productos baratos o menos costosos muy rápidamente (dentro de cinco años) para enviar un mensaje disuasorio”, afirma. Pero, naturalmente, China también está haciendo inversiones sustanciales en autonomía militar. Un informe de la Universidad de Georgetown de 2021 encontró que el Ejército Popular de Liberación gasta más de 1.600 millones de dólares en tecnología cada año, aproximadamente a la par que Estados Unidos. El informe también señala que los buques autónomos similares a los utilizados por el Task Force 59 son un foco importante de la marina china. Ya ha desarrollado un clon del Sea Hunter, junto con lo que supuestamente es una gran nave nodriza no tripulada.

Sin embargo, Stewart no había notado mucho interés en su trabajo hasta que Rusia invadió Ucrania. “La gente me llama y me dice: '¿Conoces ese tema autónomo del que hablabas? Está bien, cuéntame más'”, dice. Al igual que los marineros y funcionarios que conocí en Bahréin, no quiso comentar específicamente sobre la situación, no sobre el ataque del barco no tripulado a Sebastopol; no se trata del paquete de ayuda de 800 millones de dólares que Estados Unidos envió a Ucrania la primavera pasada, que incluía un número no especificado de “buques de defensa costera no tripulados”; No se trata del trabajo de Ucrania para desarrollar drones asesinos totalmente autónomos. Todo lo que Stewart diría es esto: "La línea de tiempo definitivamente está cambiando".

Hivemind está diseñado para volar el avión de combate F-16 y puede vencer a la mayoría de los pilotos humanos que lo enfrentan en el simulador.

Estoy en San Diego, California, un puerto principal de la Flota del Pacífico de Estados Unidos, donde las nuevas empresas de defensa crecen como percebes. Justo frente a mí, en un alto edificio de cristal rodeado de palmeras, se encuentra la sede de Shield AI. Stewart me animó a visitar la empresa que fabrica el V-BAT, un dron aéreo con el que el Task Force 59 está experimentando en el Golfo Pérsico. Aunque de apariencia extraña (con forma de T invertida, con alas y una sola hélice en la parte inferior), es una pieza de hardware impresionante, lo suficientemente pequeña y liviana como para que un equipo de dos personas la lance desde prácticamente cualquier lugar. Pero es el software dentro del V-BAT, un piloto de IA llamado Hivemind, lo que he venido a ver.

Camino por las oficinas blancas y brillantes de la empresa, pasando junto a ingenieros que juguetean con fragmentos de drones y líneas de código, hasta llegar a una pequeña sala de conferencias. Allí, en una pantalla grande, veo cómo tres V-BATS se embarcan en una misión simulada en el desierto de California. En algún lugar cercano se está produciendo un incendio forestal y su tarea es encontrarlo. El avión se lanza verticalmente desde el suelo, luego se inclina hacia adelante y desciende en diferentes direcciones. Después de unos minutos, uno de los drones localiza el incendio y luego transmite la información a sus cohortes. Ajustan el vuelo, acercándose al fuego para mapear su extensión completa.

Matt Simón

Gregorio Barbero

adrien so

caballero

Los V-BAT simulados no siguen órdenes humanas directas. Tampoco siguen comandos codificados por humanos en software convencional: el rígido Si esto, entonces aquello. En cambio, los drones detectan y navegan de forma autónoma en su entorno, planifican cómo cumplir su misión y trabajan juntos en un enjambre. -Los ingenieros de Shield AI han entrenado a Hivemind en parte con aprendizaje reforzado, desplegándolo en miles de misiones simuladas, alentándolo gradualmente a concentrarse en los medios más eficientes para completar su tarea. "Estos son sistemas que pueden pensar y tomar decisiones", dice Brandon Tseng, un ex Navy SEAL que cofundó la empresa.

Esta versión de Hivemind incluye un subalgoritmo bastante simple que puede identificar incendios forestales simulados. Por supuesto, un conjunto diferente de subalgoritmos podría ayudar a un enjambre de drones a identificar cualquier número de otros objetivos: vehículos, embarcaciones, combatientes humanos. El sistema tampoco se limita al V-BAT. Hivemind también está diseñado para volar el avión de combate F-16 y puede vencer a la mayoría de los pilotos humanos que lo enfrentan en el simulador. (La compañía prevé que esta IA se convierta en un “copiloto” en generaciones más recientes de aviones de guerra). Hivemind también opera un cuadricóptero llamado Nova 2, que es lo suficientemente pequeño como para caber dentro de una mochila y puede explorar y mapear los interiores de edificios y complejos subterráneos.

Para el Task Force 59, o cualquier organización militar que busque pasar a la IA y la robótica a un precio relativamente bajo, el atractivo de estas tecnologías es claro. Ofrecen no sólo “visibilidad mejorada” en el campo de batalla, como dijo Brasseur, sino también la capacidad de proyectar poder (y, potencialmente, usar la fuerza) con menos gente real en el trabajo. En lugar de asignar docenas de operadores de drones humanos a una tarea de búsqueda y rescate o una misión de reconocimiento, se podría enviar un equipo de V-BAT o Nova 2. En lugar de arriesgar las vidas de tus costosos pilotos entrenados en un asalto aéreo, podrías enviar un enjambre de drones baratos, cada uno pilotado por la misma inteligencia artificial, cada uno una extensión de la misma mente colmena.

Aún así, por más sorprendentes que puedan ser los algoritmos de aprendizaje automático, pueden ser inherentemente inescrutables e impredecibles. Durante mi visita a Shield AI, tengo un breve encuentro con uno de los drones Nova 2 de la compañía. Se eleva desde el suelo de la oficina y flota a unos treinta centímetros de mi cara. “Te está examinando”, dice un ingeniero. Un momento después, el dron zumba hacia arriba y atraviesa una ventana simulada en un lado de la habitación. La experiencia es inquietante. En un instante, esta pequeña inteligencia aérea tomó una decisión sobre mí. ¿Pero cómo? Aunque la respuesta puede ser accesible para los ingenieros de Shield AI, quienes pueden reproducir y analizar elementos de la toma de decisiones del robot, la compañía todavía está trabajando para que esta información esté disponible para "usuarios no expertos".

Basta mirar al mundo civil para ver cómo esta tecnología puede fallar: sistemas de reconocimiento facial que muestran prejuicios raciales y de género, autos sin conductor que chocan contra objetos para los que nunca fueron entrenados para ver. Incluso con una ingeniería cuidadosa, un sistema militar que incorpore IA podría cometer errores similares. Un algoritmo entrenado para reconocer camiones enemigos podría confundirse con un vehículo civil. Es posible que un sistema de defensa antimisiles diseñado para reaccionar ante amenazas entrantes no pueda “explicar” completamente por qué falló.

Estos riesgos plantean nuevas cuestiones éticas, similares a las que plantean los accidentes que involucran vehículos autónomos. Si un sistema militar autónomo comete un error mortal, ¿quién es el responsable? ¿Es el comandante a cargo de la operación, el oficial que supervisa el sistema, el ingeniero informático que construyó los algoritmos y conectó la mente colmena, el intermediario que proporcionó los datos de entrenamiento?

Matt Simón

Gregorio Barbero

adrien so

caballero

Una cosa es segura: la tecnología avanza rápidamente. Cuando conocí a Tseng, dijo que el objetivo de Shield AI era tener "un equipo operativo de tres V-BAT en 2023, seis V-BAT en 2024 y 12 V-BAT en 2025". Ocho meses después de que nos conocimos, Shield AI lanzó un equipo de tres V-BAT desde una base de la Fuerza Aérea para volar la misión simulada de incendio forestal. La compañía ahora también se jacta de que se puede entrenar a Hivemind para emprender una variedad de misiones (buscar bases de misiles, atacar aviones enemigos) y que pronto podrá operar incluso cuando las comunicaciones sean limitadas o cortadas.

Antes de salir de San Diego, hago un recorrido por el USS Midway, un portaaviones que se puso en servicio originalmente al final de la Segunda Guerra Mundial y ahora está atracado permanentemente en la bahía. Durante décadas, el barco llevó parte de la tecnología militar más avanzada del mundo y sirvió como pista flotante para cientos de aviones que realizaban misiones de reconocimiento y bombardeo en conflictos desde Vietnam hasta Irak. En el centro del portaaviones, como un cavernoso estómago de metal, se encuentra la cubierta del hangar. Las puertas a un lado conducen a un laberinto de pasillos y habitaciones, que incluyen estrechas habitaciones para marineros, cómodas habitaciones para oficiales, cocinas, enfermerías e incluso una barbería y una lavandería, un recordatorio de que 4.000 marineros y oficiales solían llamar a la vez. este barco a casa.

Desde aquí puedo sentir cuán profundo será el cambio hacia la autonomía. Puede pasar mucho tiempo antes de que los barcos sin tripulación superen en número a los que llevan humanos a bordo, incluso más antes de que los barcos nodriza drones gobiernen los mares. Pero la armada de robots del Task Force 59, por incipiente que sea, marca un paso hacia otro mundo. Tal vez sea un mundo más seguro, en el que las redes de drones autónomos, desplegadas en todo el mundo, ayuden a los humanos a mantener los conflictos bajo control. O tal vez los cielos se oscurecerán con enjambres de ataques. Cualquiera que sea el futuro que se vislumbra en el horizonte, los robots navegan en esa dirección.

Este artículo aparece en la edición de septiembre de 2023. Suscríbase ahora.

Háganos saber lo que piensa acerca de este artículo. Envíe una carta al editor a [email protected].