Anthropic anunció este mes su último modelo de inteligencia artificial, Claude Mythos, pero dijo que no se haría público porque convierte las computadoras en escenas de crímenes. La compañía afirmó que podía encontrar vulnerabilidades de día cero previamente desconocidas, explotarlas y, en principio, conectar esas debilidades para tomar el control. Principales sistemas operativos y navegadores web.. Mythos hizo esto de forma autónoma, escribiendo código y obteniendo privilegios. Las implicaciones son significativas. Es como si un ladrón pudiera atacar cualquier edificio, entrar, abrir todas las puertas y vaciar todas las cajas fuertes.
La empresa de Silicon Valley ha nombrado hasta el momento a 40 organizaciones como socios del Proyecto Glasswing para ayudar a montar una defensa, pidiéndoles que “arreglen” las vulnerabilidades antes de que los piratas informáticos tengan la oportunidad de explotarlas. Todos son estadounidenses y están en el corazón del sistema digital liderado por Estados Unidos. Anthropic compartió Mythos solo con Gran Bretaña fuera de Estados Unidos, lo que permitió al AI Security Institute probar modelos fronterizos. Después de verlo de cerca, los ministros británicos prevenido: La IA está preparada para hacer que los ciberataques sean mucho más fáciles y rápidos, y la mayoría de las empresas no están preparadas. bancos en Europa Es probable que lo prueben después.
Quizás no sea demasiado pronto. Informes de acceso no autorizado surgió esta semana, lo que plantea la cuestión de si a una empresa privada se le puede confiar tal capacidad. El mito no crea necesariamente un nuevo tipo de amenaza cibernética. Esto transforma una debilidad latente en un riesgo sistémico. El hackeo es tradicionalmente una tarea difícil y que requiere mucho tiempo, y requiere habilidades que pocas personas poseen. Pero las herramientas de IA se están extendiendo rápidamente, poniendo las fallas del sistema al alcance de muchas personas, no sólo de los expertos.
Un cazador furtivo también puede convertirse en guardabosques. Mozilla probó Mythos en su navegador Firefox: encontró 10 veces más fallas que antes y las solucionó. Sobre todo, ninguno de ellos fue un humano no podría detectarlo. Lo que está cambiando es que la IA está descubriendo “vulnerabilidades cibernéticas” de forma rápida, económica y a escala.
La adopción de Anthropic por parte del gobierno de Estados Unidos marca un cambio. En febrero, el Pentágono consideró a la empresa un “riesgo para la seguridad” y la despojó de cualquier acuerdo lucrativo después de negarse a permitir que su tecnología se utilizara para vigilancia masiva o armas autónomas. OpenAI obtuvo el contrato en su lugar. Anthropic, con su chatbot Claude, se presenta desde hace tiempo como la alternativa ética entre sus competidores, aunque su imagen se vio dañada por una multa de 1.500 millones de dólares. regulaciones de piratería el año pasado.
El mito es poderoso, pero las relaciones públicas de Anthropic dieron forma a la narrativa tanto como a la tecnología. También está la cuestión de qué tan avanzado es realmente Mythos. Investigadores han demostrado que modelos más pequeños y baratos implementados a escala pueden lograr hazañas similares. Lo que parece ser un avance importante puede reflejar un cambio más amplio en esta área. La Casa Blanca cree que Anthropic tiene valor estratégico. atractivo vuelve al redil y señala un cambio en el tratamiento de las empresas de IA como emprendedores en lugar de socios. Esto plantea una preocupación más profunda: ¿tiene sentido controlar los riesgos de infraestructura crítica por parte de las empresas privadas, especialmente si actores menos responsables obtienen influencia técnica?
Está claro que quienquiera que sea (gobierno o empresa) que cree los modelos de IA más potentes se beneficiará. geopolítica ventajas sobre amigos y enemigos. Sin embargo, sin un marco internacional de coordinación de la ciberseguridad, existe el riesgo de que no haya una Internet segura, sino varias Internet en competencia, cada una de las cuales “parchea” su propio sistema y no confíe plenamente en ninguna de las demás. Ya no sería un bien común global. En cambio, la red se dividiría en alianzas de seguridad, vigiladas más estrechamente, incluso cuando algo más grande se escabulle silenciosamente.
-
¿Tiene alguna opinión sobre las cuestiones planteadas en este artículo? Si desea enviar una respuesta de hasta 300 palabras por correo electrónico para ser considerada para publicación en nuestra sección de cartas, haga clic aquí.
