The Diplomats Franz-Stefan Gady habla con Elsa B. Kania sobre las implicaciones potenciales de la inteligencia artificial (IA) para las fuerzas armadas y cómo las principales potencias militares del mundo, Estados Unidos, China y Rusia, planean desarrollar e implementar tecnologías habilitadas para IA. en futuras guerras.
Kania es miembro principal adjunto del Programa de Tecnología y Seguridad Nacional del Centro para una Nueva Seguridad Estadounidense (CNAS). Su investigación se centra en la innovación militar china en tecnologías emergentes. También es becaria de investigación en el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown y becaria no residente en el Instituto Australiano de Política Estratégica (ASPI). Actualmente, es Ph.D. estudiante en el Departamento de Gobierno de la Universidad de Harvard.
Kania es autora de numerosos artículos e informes, incluidos Battlefield Singularity: Artificial Intelligence, Military Revolution, and Chinas Future Military Power y A New Sino-Russian High-Tech Partnership. Su informe más reciente es Asegurando nuestro futuro 5G, y recientemente también fue coautora de un resumen de políticas AI Safety, Security, and Stability Among Great Powers. Ella puede ser seguida @EBKania.
¿Qué es la inteligencia artificial (IA) y cuál es su definición preferida?
Como politólogo que tiende a ser realista con inclinaciones contrarias y constructivistas, supongo que podría intentar responder: ¿La IA es lo que los estados hacen de ella? Además, la utilidad de cualquier definición de IA depende de su propósito previsto. Ninguna definición puede capturar completamente su complejidad y progresión continua.
¿Disfrutas de este artículo? Haga clic aquí para suscribirse y obtener acceso completo. Solo $5 al mes.
La idea misma de inteligencia artificial puede transmitir tanta prominencia como sus realidades técnicas. Por supuesto, el significado de IA ha evolucionado a lo largo de su historia. Me gusta recordar el objetivo de la Conferencia de Dartmouth de 1956, que partió de la conjetura de que todos los aspectos del aprendizaje o cualquier otra característica de la inteligencia se pueden describir con tanta precisión que se puede fabricar una máquina para simularlos.
Las conversaciones de hoy sobre la IA en asuntos militares se concentran en varias variantes de la inteligencia artificial limitada, en lugar de la inteligencia artificial general o la superinteligencia, que siguen siendo posibilidades tal vez distantes pero, sin embargo, consecuentes.
Las discusiones actuales sobre IA a menudo se concentran principalmente en el aprendizaje automático, que es el proceso de usar algoritmos para aprender de los datos. En particular, gran parte del progreso más interesante de los últimos años se ha basado en el aprendizaje profundo, una técnica que implica el uso de capas de redes neuronales artificiales, que están inspiradas en la estructura del cerebro humano.
En un nivel básico, la IA involucra software que aprovecha los datos para el aprendizaje, pero también requiere hardware para aprovechar el poder de capacidades informáticas significativas para permitir ese proceso. Como tal, se puede esperar que la IA se difunda rápidamente, pero también depende de esa restricción de cómputo. Esta dinámica eleva la importancia estratégica de los avances en semiconductores que se adaptan para habilitar aplicaciones de IA, desde unidades de procesamiento de gráficos (GPU) hasta nuevos avances en computación neuromórfica que pueden habilitar arquitecturas novedosas para chips.
Es intrínsecamente desafiante definir qué es o puede lograr la IA cuando el campo es tan dinámico y evoluciona tan rápidamente. Por el momento, las técnicas de AI/ML a menudo están limitadas por la disponibilidad de datos, pero eso también puede cambiar con los avances en el uso de datos sintéticos y técnicas que aprovechan el aprendizaje por refuerzo, como la capacidad de AlphaGo Zeros para aprender solo del juego. . La IA también sufre en la actualidad problemas de confiabilidad y vulnerabilidades potenciales, que el campo de la seguridad de la IA busca mitigar.
Solo en el último año, ha habido una serie de avances intrigantes y preocupantes en IA que ilustran su potencial y limitaciones. Por ejemplo, los avances en el uso de redes adversarias generativas (GAN, por sus siglas en inglés) han permitido la creación de falsificaciones profundas, que pueden variar desde lo extraño y divertido (p. ej., fotos de gatos que no existen) hasta lo más preocupante (p. ej., alteraciones de videos). que podría usarse para promulgar desinformación). En particular, OpenAI ha lanzado un modelo conocido como Generative Pre-Training (GPT), que es capaz de generar texto sintético, lo que podría permitir la automatización de la creación de contenido falso.
Tiendo a estar más entusiasmado con las aplicaciones interdisciplinarias de la IA en la investigación científica. La IA ha resuelto el problema de los tres cuerpos mediante el uso de redes neuronales. En astronomía, la IA ha facilitado los esfuerzos para encontrar nuevos cúmulos de galaxias. Hasta la fecha, la IA también se ha aplicado al descubrimiento de fármacos y a las investigaciones del genoma humano. Las posibilidades futuras pueden estar limitadas solo por la imaginación humana. A pesar de todo el miedo y la preocupación por la IA, no debemos dejar de considerar ese potencial único y la maravilla de todo.
El Departamento de Defensa de los EE. UU. (DoD) gastará casi mil millones de dólares en investigación y desarrollo (I+D) de IA y tecnologías de aprendizaje automático en el año fiscal en curso. Los ministerios de defensa de China y Rusia también están asignando fondos significativos para esfuerzos de I+D comparables. ¿Qué hace que la IA sea tan importante para los militares?
Los líderes chinos, rusos y estadounidenses han reconocido que la IA es una tecnología estratégica que podría resultar increíblemente importante para la competitividad nacional. No es de extrañar que varios ejércitos de todo el mundo estén explorando el potencial de la IA en asuntos militares. Cada vez más, los estrategas e investigadores militares anticipan que la IA podría cambiar el carácter del conflicto, y algunos líderes incluso han postulado que la IA podría cambiar la naturaleza de la guerra.
La trayectoria futura de estas capacidades emergentes aún está por verse, pero la IA se ha convertido en una nueva dirección de la competencia militar en la búsqueda de una ventaja operativa. El primer ejército en aprovechar todo el potencial de la IA podría lograr una ventaja sobre sus competidores, lo que podría alterar el equilibrio militar.
¿Disfrutas de este artículo? Haga clic aquí para suscribirse y obtener acceso completo. Solo $5 al mes.
El ejército de EE. UU. ha buscado mantener la superioridad tecnológica, mientras que el ejército chino ha buscado la oportunidad de superar y dejar obsoletas las ventajas estadounidenses, y el ejército ruso ha experimentado activamente a lo largo de sus compromisos actuales. Hay algunos puntos en común en las capacidades que estos competidores y los principales ejércitos de todo el mundo están buscando actualmente.
La trayectoria futura de la IA en asuntos militares es difícil de anticipar. A corto plazo, las aplicaciones más prometedoras pueden ser las más básicas y prácticas. Algunas de las aplicaciones iniciales incluyen inteligencia, vigilancia y reconocimiento, desde mejorar la eficiencia del análisis de imágenes hasta el despliegue de satélites de IA. El mantenimiento predictivo de los principales sistemas de armas ya ha demostrado ser beneficioso, y los avances en logística podrían ser muy importantes.
AI puede primero transformar la guerra en dominios virtuales. En particular, la IA será importante para los avances en defensa cibernética, permitiendo una mayor velocidad y automatización en las operaciones cibernéticas. Las nuevas técnicas en la guerra electrónica cognitiva prometen capacidades mejoradas para disputar el dominio del espectro. La aplicación de AI/ML a operaciones psicológicas a través de perfiles mejorados y precisión en la selección de objetivos también es preocupante. En una era en la que los datos pueden ser decisivos, la IA podría transformar la impugnación de la superioridad en las decisiones, de la inteligencia al mando y control del futuro.
En la punta de lanza, se espera que una mayor autonomía en los sistemas de armas permita operaciones en entornos denegados y muy disputados y podría proporcionar una ventaja en el campo de batalla. Existen intensas preocupaciones sobre las complejidades legales y éticas y el potencial de riesgos o accidentes que podrían surgir con los futuros Sistemas Letales de Armas Autónomas (LAWS), sin embargo, los debates sobre las LAWS e incluso las definiciones siguen siendo objeto de acalorados debates en los compromisos diplomáticos internacionales. El ejército chino está desarrollando lo que caracterizó como armas de inteligencia artificial o sistemas de armas inteligentes que son más capaces de seleccionar y atacar objetivos. Por ejemplo, los avances en el enjambre aumentan la posibilidad de ataques de saturación que podrían abrumar a los defensores.
¿Quién es, en su opinión, la potencia militar líder en el mundo en el campo de la IA en este momento? El entonces secretario de Defensa de EE. UU., James Mattis, advirtió en 2018 que Estados Unidos se está quedando atrás de sus llamados competidores pares, principalmente China, en lo que respecta a la IA. ¿Estás de acuerdo con esa afirmación?
En parte de mi investigación actual, me estoy concentrando en crear mejores métricas para responder y evaluar solo esa pregunta. Es difícil determinar qué implicará o se parecerá el liderazgo en IA, ya que estamos hablando de capacidades y aplicaciones muy dispares. Entonces, quizás la pregunta central no sea quién está liderando, sino qué aspectos, qué competencias específicas en liderazgo o ventaja comparativa resultarán más importantes.
Puede que no haya una respuesta única. Por ejemplo, potencialmente, el ejército de EE. UU. puede volverse más capaz de aprovechar la IA en las operaciones cibernéticas, pero el ejército chino podría lograr mayores avances en los sistemas de armas hipersónicas que pueden operar de forma autónoma, y el ejército ruso puede tener más experiencia en la integración de sistemas no tripulados en entornos urbanos. guerra. Es decir, diferentes ejércitos pueden liderar o poseer una competencia particular en diferentes aplicaciones, tal vez basándose en las fortalezas o prioridades existentes en la inversión.
El impacto de la IA en el equilibrio militar puede ser dinámico y difícil de determinar. A diferencia de las capacidades más tradicionales, los avances en IA no se pueden contar ni medir fácilmente. Es probable que se revelen y señalen ciertas capacidades. Por ejemplo, el ejército chino ha demostrado avances en enjambres y ha anunciado intenciones de desplegar submarinos autónomos. Ciertos drones chinos y embarcaciones no tripuladas se describen como autónomos.
Sin embargo, las características de la autonomía no pueden verificarse o evaluarse fácilmente sin una mayor comprensión de las características técnicas subyacentes y las limitaciones de los sistemas de armas. Yo diría que esta misma ambigüedad podría aumentar los riesgos de accidentes o errores de cálculo, incluida la estimación errónea del equilibrio militar.
Por supuesto, para cualquier ejército, el talento y la capacitación serán determinantes críticos de la capacidad para aprovechar la IA. Las nuevas demandas de competencia técnica requerirán nuevas iniciativas para contratar y retener y brindar oportunidades para el aprendizaje continuo y los avances profesionales. Intrínsecamente, los ejércitos tienden a ser organizaciones jerárquicas, y el ajuste para promover nuevas prioridades puede ser un desafío, ya que requiere no solo el apoyo de los líderes en la parte superior, sino también la voluntad de empoderar a los nuevos especialistas.
En este frente, soy cautelosamente optimista de ver nuevas iniciativas en los Estados Unidos como la Ley de Ventaja Digital de las Fuerzas Armadas, incorporada recientemente a la nueva Ley de Autorización de Defensa Nacional, que tiene como objetivo establecer la ingeniería digital como una competencia central y crear nuevos caminos para formación y promoción. Al mismo tiempo, el ejército chino se está concentrando en crear nuevos institutos de investigación militar para lograr avances en IA y reclutar a más especialistas técnicos civiles, mientras expande masivamente las iniciativas en educación y capacitación.
Por el momento, el ejército estadounidense parece seguir siendo el líder y el estándar con respecto al cual el ejército chino mide su propio avance. Sin embargo, el liderazgo estadounidense en IA difícilmente está asegurado y no debe asumirse, considerando las ambiciones, inversiones y avances de China. El EPL está decidido a adelantarse al ejército estadounidense y superarlo en el curso de esta revolución en los asuntos militares (¿AI-RMA?), incluso mediante el desarrollo de capacidades diseñadas para explotar las debilidades y vulnerabilidades estadounidenses.
En última instancia, creo que es demasiado pronto para llamar a esto. Por el momento, estas tendencias siguen siendo incipientes. La trayectoria a largo plazo de esta competencia evolucionará y dependerá de factores que incluyen la tolerancia al riesgo, el progreso en las pruebas y la garantía, la vulnerabilidad de las capacidades habilitadas por IA frente a la explotación del adversario y la voluntad de varios ejércitos de adoptar estas transformaciones tecnológicas, entre otras. otros. Entonces, pregúntame de nuevo en un par de años, ¿quizás?
¿Puede resumir brevemente algunas de las principales diferencias entre el enfoque de los Estados Unidos para desarrollar e implementar tecnologías habilitadas para IA versus los esfuerzos chinos?
Las diferencias significativas entre los enfoques estadounidense y chino surgirán como resultado de sus distintas culturas estratégicas, experiencias históricas y características organizativas. Para empezar, EE. UU. y China tienen economías políticas muy diferentes que darán forma a sus enfoques de investigación y desarrollo de IA. Los líderes chinos buscan establecer un ecosistema de innovación que combine un fuerte apoyo estatal y una orientación de mercado en la que la competencia entre empresas comerciales. El gobierno de EE. UU. ha tardado en apoyar e invertir en ciencia e investigación en un grado acorde con la importancia de estas tecnologías.
¿Disfrutas de este artículo? Haga clic aquí para suscribirse y obtener acceso completo. Solo $5 al mes.
El ejército de los EE. UU. tiene una amplia experiencia en conflictos de baja intensidad en su historia reciente, y podría decirse que el giro hacia el aprovechamiento de los datos surgió de estas experiencias. Las iniciativas iniciales del ejército de EE. UU. en IA se concentraron en la utilidad táctica, incluido el Proyecto Maven, que se concentró en el uso de IA/ML para el análisis de video de movimiento completo. Por el contrario, el ejército chino, el Ejército Popular de Liberación (EPL), está luchando para innovar y confrontando los desafíos particulares de la innovación en tiempos de paz, sin experiencia operativa pero buscando activamente aprender del estudio de los ejércitos extranjeros y nuevas iniciativas en juegos de guerra.
El ejército chino se ha concentrado en EE. UU. como un poderoso adversario desde la década de 1990, mientras que EE. UU. se ha reorientado más recientemente hacia una gran competencia estratégica. El EPL parece estar dando prioridad a las aplicaciones de IA que reflejan sus dominios y misiones prioritarios, incluidos los sistemas espaciales, la guerra submarina y la hipersónica. Al igual que el ejército de los EE. UU., el EPL se preocupa por los grandes datos de defensa y enfrenta los desafíos burocráticos de administrarlos y aprovecharlos, mientras busca expandir su adquisición de nuevas fuentes de datos relevantes para las aplicaciones militares.
Los ejércitos de EE. UU. y China también encontrarán diferentes obstáculos y desafíos burocráticos. El PLA se encuentra en medio de reformas altamente disruptivas que siguen en curso en su esfuerzo por promover una mayor articulación en las operaciones. Xi Jinping supervisó la implementación de estas reformas y elevó la importancia de la innovación. Desde 2014, el EPL se ha preocupado por la nueva Revolución en Asuntos Militares (RMA), concentrándose en una gama de tecnologías emergentes. El ejército de EE. UU. está luchando para redirigir su atención a la competencia estratégica y reasignar recursos de acuerdo con las prioridades en evolución.
Para el PLA, el capital humano ha sido y sigue siendo una gran preocupación, por lo que está aumentando la contratación de especialistas técnicos y nuevos programas educativos y de capacitación. Mientras tanto, el requisito absoluto del control del Partido sobre las fuerzas armadas, desde el papel de los comisarios políticos hasta las expectativas de conformidad ideológica a través del trabajo político, también puede influir en el enfoque del EPL hacia estas tecnologías emergentes.
El enfoque de los EPL sobre la ética y las leyes de los conflictos armados sigue sin estar claro. El PLA se preocupa y considera los problemas que involucran el control humano, incluida la distinción entre humanos dentro, dentro y fuera del circuito. El ejército chino está explorando y comprometiéndose con estos temas legales, pero carece de experiencia y no ha operacionalizado o institucionalizado completamente su aplicación hasta la fecha, aunque se habla de abordar más estos temas en futuras reformas.
En ese contexto, ¿por qué no es útil hablar de una carrera armamentista de IA que supuestamente está teniendo lugar entre Estados Unidos y China?
Honestamente, he estado absolutamente agotado por hablar de una carrera armamentista de IA. Ha habido múltiples intentos por parte de muchos de nosotros en el campo para contrarrestar ese discurso y reformular la compleja dinámica de cooperación y competencia en la IA actual. Es decir, la IA no es un sistema de armas. Hablar de carreras armamentísticas tergiversa la complejidad de esta competencia y no capta las implicaciones multifacéticas de los avances actuales en IA.
De hecho, persiste una colaboración de investigación bastante extensa entre investigadores estadounidenses y chinos. Hay una curiosa yuxtaposición entre hablar de competencia en IA en relación con la concurrencia de colaboración en la academia y la industria. Al mismo tiempo, la realidad de la rivalidad es evidente cuando se trata de competencia militar.
También me preocupa que hablar de carreras armamentistas distraiga la atención de la importancia de las trayectorias económicas a largo plazo entre los Estados Unidos y la República Popular China. De hecho, la dimensión económica de esta rivalidad es la base de la competitividad a largo plazo. Los líderes chinos están siguiendo una estrategia nacional para el desarrollo impulsado por la innovación, concentrándose en la ciencia y la tecnología como facilitadores críticos del poder nacional. Es imperativo que la estrategia estadounidense priorice la inversión en innovación.
¿Qué ventajas tiene Estados Unidos sobre China y Rusia en el desarrollo de tecnologías militares habilitadas para IA? ¿Cuáles son algunas de las desventajas de Washington frente a esos países?
Quizás la mayor ventaja que posee Estados Unidos actualmente es el dinamismo y la solidez de su ecosistema de innovación. Las universidades y empresas estadounidenses han estado en el centro de los avances recientes en IA. Estados Unidos ha seguido atrayendo a los mejores talentos y sigue siendo un entorno favorable para el espíritu empresarial. A pesar de los desafíos actuales, también creo en la fortaleza de nuestras instituciones. La rivalidad de las grandes potencias de hoy es una competencia sistémica, en la que la vitalidad y el éxito de nuestra democracia deben ser una métrica crítica para el éxito.
Me temo que nuestra mayor desventaja puede estar relacionada con nuestra política actual, particularmente la hostilidad hacia la experiencia científica y la inmigración, pero espero que estas condiciones actuales puedan superarse en el futuro. Debe reavivar el espíritu que inspiró a los EE. UU. a centrarse en la ciencia como la frontera sin fin que cataliza la inversión estadounidense en investigación científica. A lo largo de nuestra historia, la inmigración ha sido fundamental para la economía y el espíritu empresarial estadounidense, y las políticas actuales corren el riesgo de desperdiciar esta ventaja fundamental. Al mismo tiempo, el sistema educativo de EE. UU. necesita urgentemente inversiones. Para Estados Unidos, la competencia estratégica debe comenzar en casa.
¿Ve la IA como una tecnología evolutiva o revolucionaria en la guerra futura? ¿Cree que existe el riesgo de que se sobrevalore el impacto de la tecnología habilitada para IA en el campo de batalla moderno?
Supongo que diría que la IA será evolutiva a corto plazo y potencialmente revolucionaria en un futuro más lejano. El ciclo de exageración de la IA no es propicio para una discusión matizada del potencial real y las serias dificultades que pueden surgir con la puesta en funcionamiento de la IA. Me preocupa que esta tendencia hacia un entusiasmo exuberante sobre el potencial de las capacidades habilitadas por IA también sea preocupante, ya que puede distraer la atención de la consideración cuidadosa de las complejidades técnicas, las limitaciones y las vulnerabilidades que surgen con el desarrollo y la implementación de los sistemas de IA.
En particular, existen serias razones para preocuparse por la seguridad, la protección y la confiabilidad de la IA. En algunos casos, los sistemas de IA han contribuido a externalidades inesperadas e involuntarias. Tales sistemas complejos pueden mostrar su aparición en entornos del mundo real. Ya hemos visto accidentes graves como resultado del bajo rendimiento de la IA en condiciones del mundo real. En un accidente fatal, un automóvil autónomo se estrelló como resultado de no identificar a un peatón que cruzaba la calle imprudentemente. Así también, han surgido serios problemas con el sesgo en los sistemas de IA que reflejan patrones de prejuicio o distorsión en los datos que lo entrenan, incluida una herramienta para el reclutamiento que manifestó sesgo contra las mujeres. La dinámica de la discriminación algorítmica también ha implicado disparidades en la precisión basadas en la raza y el género.
¿Disfrutas de este artículo? Haga clic aquí para suscribirse y obtener acceso completo. Solo $5 al mes.
¿Quizás tenemos más razones para preocuparnos por la ignorancia artificial y la incompetencia artificial por el momento?
¿Cuál cree que es el mayor peligro relacionado con la IA con respecto a la rivalidad entre las grandes potencias entre Estados Unidos, China y Estados Unidos y Rusia? ¿Cree que puede impactar negativamente en la estabilidad estratégica entre estos países?
AI podría alterar el equilibrio militar actual, al tiempo que exacerba las amenazas a la estabilidad estratégica. Hay motivos para preocuparse de que los avances en IA puedan exacerbar la vulnerabilidad de los segundos ataques, lo que puede ser particularmente preocupante para China, que ha mantenido un arsenal nuclear más limitado para una postura caracterizada como represalia asegurada. Al mismo tiempo, el EPL ha estado ampliando y modernizando sus fuerzas nucleares. Hay indicios iniciales de que la investigación china podría incorporar IA/ML en sistemas relevantes para la energía nuclear, incluso para mejorar la alerta temprana, la selección de objetivos y el mando y control.
Los debates actuales sobre la noción de una nueva era de contrafuerza han puesto de relieve cómo la convergencia de desarrollos tecnológicos interrelacionados, desde sensores hasta computación, procesamiento de datos y ahora inteligencia artificial, podría erosionar los cimientos de la disuasión nuclear. Estos problemas merecerán una mayor atención analítica y académica a medida que estas tecnologías se pongan en funcionamiento. Al mismo tiempo, los incentivos para un primer ataque, particularmente en el espacio y el dominio cibernético, y el imperativo de la velocidad que podría generar un impulso para la escalada, podrían aumentar los riesgos.
No solo las capacidades emergentes, sino también los riesgos de accidentes que pueden surgir con tecnologías tan incipientes y no probadas deben ser motivo de preocupación. En retrospectiva, es realmente notable que la humanidad haya sobrevivido a la Guerra Fría, considerando las falsas alarmas y los accidentes nucleares que casi causan una catástrofe. La mayor complejidad que la IA introducirá en los asuntos militares puede aumentar los riesgos de un accidente o un enfrentamiento no intencionado. Dados estos riesgos, es imperativo que las grandes potencias sean proactivas en la búsqueda de un compromiso pragmático en cuestiones de seguridad, protección y estabilidad estratégica de la IA a fin de explorar opciones para la mitigación de riesgos, como destaca nuestro informe de política reciente.
¿Cuál es el mito o la inexactitud que se repite con frecuencia que está tratando de disipar con su investigación en lo que respecta a la IA y la competencia militar en curso entre Estados Unidos, China y Rusia?
Inicialmente, comencé mi investigación sobre la innovación militar china porque me preocupaba que la comunidad de seguridad nacional de EE. UU. subestimara constantemente las ambiciones y los avances chinos, sin reconocer el alcance total de este desafío competitivo. En ocasiones, también me ha preocupado una tendencia hacia el fatalismo o la sobreestimación de las capacidades chinas que no considera sus debilidades y dificultades, desde el talento hasta la experiencia limitada y la influencia de la ideología del PCCh que puede impedir la innovación. La estrategia estadounidense debe basarse en evaluaciones cuidadosas y una comprensión sofisticada de nuestros competidores. Este es el desafío intelectual central de la competencia estratégica.