“NORTEen el futuro avanzaremos tan lentamente como hoy”, afirmó el Secretario General de la ONU, António Guterres. prevenido esta semana, para abordar la urgente necesidad de dar forma al uso de la inteligencia artificial. El rápido desarrollo tecnológico –junto con las turbulencias geopolíticas– está desdibujando la distinción entre argumentos teóricos y acontecimientos del mundo real. Una pelea política La cuestión de las capacidades militares estadounidenses en IA coincide con su uso sin precedentes en la crisis iraní.
La empresa de inteligencia artificial Anthropic lo ha insistido no se pudieron eliminar las garantías impedir que el Departamento de Defensa utilice su tecnología para vigilancia masiva nacional o armas letales autónomas. El Pentágono ha dicho que no está interesado en esos usos, pero que esas decisiones no deberían ser tomadas por las empresas. Escandalosamente, la administración no sólo despidió a Anthropic, sino que la incluyó en la lista negra de riesgos de la cadena de suministro. OpenAI intervino, insistiendo en que había mantenido las líneas rojas declaradas por Anthropic. Sin embargo, internamente responder a reacciones negativas de usuarios y empleadossu director ejecutivo, Sam Altman, reconoció que no controla el uso de sus productos por parte del Pentágono y que la gestión del acuerdo hace que OpenAI parezca “oportunista y descuidado”.
Pero como Nicole van Rooijen, directora ejecutiva de Stop Killer Robots –que aboga por el control humano en el uso de la fuerza– prevenido: “La cuestión no es sólo si estas armas se utilizarán, sino también cómo sus sistemas precursores están transformando ya la forma en que se libran las guerras… El control humano corre el riesgo de convertirse en una ocurrencia tardía o una mera formalidad. »
El cambio de paradigma ya ha comenzado. A pesar de la disputa, Claude de Anthropic supuestamente facilitó la ofensiva masiva e intensificada que ya ha matado a más de mil civiles en Irán. Vivimos en una era en la que los bombardeos son “más rápidos que la velocidad del pensamiento”, dijeron los expertos a The Guardian esta semana, en los que la IA identifica y prioriza objetivos, recomienda armas y evalúa los fundamentos legales para un ataque.
La IA no es un requisito previo para las muertes de civiles, los errores militares o la irresponsabilidad. El secretario de Defensa estadounidense, Pete Hegseth, se jacta de haber relajado las reglas de enfrentamiento. Son los humanos del Pentágono los que esquivan las preguntas sobre la muerte de 165 colegialas en lo que parece haber sido una huelga estadounidense en una escuela en Irán el 28 de febrero.
Pero –incluso sin considerar cuestiones de inexactitud y sesgo de la IA– los impactos son obvios para sus usuarios. Una fuente de inteligencia israelí observó su uso en la guerra de Gaza: “Los objetivos nunca terminan. Hay 36.000 más esperando”. Otro dijo que pasó 20 segundos evaluando cada objetivo y dijo: “No tenía ningún valor agregado como ser humano más que ser un sello de aprobación”. » Se facilitan masacres en todos los sentidos de la palabra, con mayor distancia moral y emocional y menor responsabilidad.
El control democrático y las limitaciones multilaterales, en lugar de dejar las decisiones en manos de los contratistas y los ministerios de defensa, son esenciales. Mientras llovían bombas sobre Irán, los Estados se reunieron en Ginebra para abordar sistemas de armas autónomas letales; el proyecto de texto que consideran constituiría una base sólida para un tratado que tanto falta. La mayoría de los gobiernos quieren orientaciones claras sobre el uso militar de la IA. Son los jugadores más importantes los que aguantan, aunque al menos estén en la sala. El ritmo de las guerras impulsadas por la IA significa que la precaución puede parecer una transferencia de control a los adversarios. Sin embargo, como se dan cuenta los técnicos y los propios militares, los peligros de una expansión incontrolada son mucho mayores.
-
¿Tiene alguna opinión sobre las cuestiones planteadas en este artículo? Si desea enviar una respuesta de hasta 300 palabras por correo electrónico para ser considerada para publicación en nuestra sección de cartas, haga clic aquí.
