tHay muchas cosas que la IA puede hacer. Puede ordenar su lista de compras y entretener a sus hijos cuando se amotinan al crearles un cuento antes de dormir hecho a su medida. Puede hacerlo más eficaz en el trabajo y ayudar a que nuestro gobierno funcione de manera más eficiente.
De lo que menos se habla, y de lo que debemos gritar más fuerte ahora, son los riesgos inherentes al uso de la IA como arma. En los últimos tres meses, la Casa Blanca de Donald Trump habría utilizado dos veces la IA para lograr un cambio de régimen o –en el caso más reciente en Irán– para acercarse lo más posible a él, y dejar que los iraníes de base terminen el trabajo.
Primero, el modelo Claude AI de Anthropic, que la mayoría de la gente usa como una alternativa un poco más reveladora a ChatGPT, fue supuestamente usado para planificar y ejecutar el secuestro de Nicolás Maduro desde su complejo en Venezuela, pero no está claro cómo se utilizó el modelo en detalle. Luego, este fin de semana nos enteramos de que la herramienta de inteligencia artificial se utilizó una vez más para analizar la inteligencia que contribuyó al bombardeo de misiles extremadamente dañinos que cayeron sobre Irán, aparentemente para identificar objetivos y ejecutar simulaciones.
Es difícil exagerar la importancia de estos dos momentos. La IA se utilizó en la planificación y ejecución de operaciones militares que causaron un número indeterminado de víctimas y trastornaron a Oriente Medio.
Si esto te hace sentir incómodo, no estás solo. El director ejecutivo de Anthropic, Dario Amodei, se vio envuelto en una disputa pública muy fea con el presidente de Estados Unidos después de negarse a suavizar dos “líneas rojas” para Claude: que la compañía no debería usarse para vigilancia doméstica masiva, ni para construir armas completamente autónomas que seleccionen y ataquen objetivos sin un control humano significativo. OpenAI rápidamente intervino y firmó un acuerdo con el Pentágono, a pesar de que afirma que los términos de su acuerdo significa que es en realidad tiene protecciones más fuertes que las que Anthropic deseaba.
Independientemente de los términos específicos del contrato, vale la pena repetirlo: una herramienta que comenzó en la vida pública como una interfaz de chat para resumir correos electrónicos y ayudarle a escribir una carta de presentación ahora está en algún lugar de la cadena que convierte la información en violencia.
En el pasado, preguntas como “¿Quién debería controlar la IA y qué sucede si se usa militarmente?” » fueron discutidos entre académicos durante paneles en abstracto. Había preocupaciones, pero parecían lejanas porque no habían llegado a buen puerto. Cuando Maduro fue aniquilado por fuerzas especiales en enero y comenzaron a lanzarse bombas sobre Irán, aparentemente todas con la ayuda de IA, ese cálculo cambió.
Los principios básicos del conflicto armado son empuñar armas grandes y aterradoras, pero nunca usarlas. Esto es para disuadir. La teoría de la destrucción mutua asegurada significaba que la gente se mostraba reacia a pulsar el botón de las bombas nucleares. (Es preocupante, los primeros indicios de escenarios de juegos de guerra son que los tomadores de decisiones de IA son fáciles de activar con armas nucleares).
Ahora esa excusa ya no existe. Cada vez más países utilizarán la IA en sus planes y acciones militares, y con razón, ya que ha demostrado su eficacia, aunque surgen cuestiones morales obvias si la IA se utiliza para tomar decisiones militares. Cuando los historiadores militares analizan lo que ha sucedido en los últimos meses, es fácil imaginarlos pensando que el uso de la IA de esta manera será similar a las armas nucleares lanzadas sobre Japón: marcando un momento en el que hubo un antes claro y un después incierto.
Entonces, ¿qué podemos hacer al respecto? Muy poco. Deberíamos haber prohibido por completo el uso de IA militar. Llevamos más de una década alejándonos de él, desde que Demis Hassabis tomó una posición de principios y dijo que sólo vendería su empresa, DeepMind, a Google si este último aceptaba no autorizar el uso militar de la tecnología. El año pasado, la compañía, ahora llamada Alphabet, abandonó silenciosamente su promesa de no utilizar IA para sus armas. Y las acciones de Trump han hecho estallar esa idea.
Pero la comunidad internacional ahora debe trabajar duro para sacar a Trump del abismo. Los aliados deberían presionar a la Casa Blanca de Trump no sólo para que sea responsable en su uso militar de la IA, sino también para que acepte restricciones vinculantes. Esto debería incluir compromisos internacionales, normas transparentes de contratación pública y una supervisión significativa, que otros también deberían suscribir, en lugar de ver la ética como una barrera a la acción. Porque si el ejército más poderoso del mundo normaliza los modelos de IA de consumo como parte de las operaciones de cambio de régimen, estaremos al otro lado del espejo de la IA: estaremos en un mundo completamente nuevo y mucho más peligroso.
