Tuve a Dario Amodei en el programa la última vez hace unos años. Era 2024 y tuvimos esta conversación en la que le dije, en un momento dado, si estás construyendo algo tan poderoso como lo que me estás describiendo, entonces el hecho de que esté en manos de un CEO privado parece extraño. Y él dijo, sí, absolutamente. “Creo que es bueno en este momento, pero al estar en última instancia en manos de actores privados, hay algo antidemocrático en tal concentración de poder”. Él dijo: “Creo que si llegamos a ese nivel – probablemente lo estoy parafraseando aquí – tendremos que nacionalizar esto. Y dije, no creo que si llegas a ese punto querrás ser nacionalizado. Y ahora no lo estamos. Aquí estamos. Pero en realidad, todo está sucediendo un poco al revés. El gobierno… en un momento amenazaron con usar la Ley de Producción de Defensa para nacionalizar de alguna manera a Anthropic. No terminaron haciendo eso. Pero, ¿qué están haciendo? Lo que básicamente digo es que van a tratar de destruir a Anthropic para que eso no suceda, para castigarlo, para sentar un precedente para otros para que no represente una amenaza para ellos. Si se trata de un acto político y si estos sistemas son poderosos, y con el tiempo, y nuevamente, creo que la gente debe entender que esta parte sucederá, les confiaremos mucho más, una mayor parte de nuestra sociedad estará automatizada y bajo la gobernanza de este tipo de modelos. Es una cuestión espinosa de gobernanza. Especialmente porque las diferentes administraciones que entran y salen actualmente de los Estados Unidos son realmente diferentes. Se encuentran entre las más diferentes en la historia estadounidense, por lo que es difícil imaginar que algún modelo pueda estar bien alineado con ambas partes en este momento, y mucho menos lo que podría suceder en el futuro. alinear modelos dentro de los gobiernos parece muy difícil. Sí, creo que estoy completamente de acuerdo en que es increíblemente complicado. Y parte de la razón por la que esta conversación parece una locura es porque si esta conversación parece una locura, es en parte porque carecemos del vocabulario conceptual para interrogar adecuadamente estas preguntas. yes, there will be models aligned differently, aligned with different philosophies. And they will be, different governments will prefer different things. And the models can conflict with each other. They will face each other. There will be a contradictory context with each other. And so at that point, what do you do? You do Aristotle. You go back to the fundamentals of politics. And so, as a classical liberal, I say, well, the classical liberal order, the principles of the classical liberal order actually make a lot of sense. We No quiero que el gobierno pueda dictar los diferentes tipos de alineación: el gobierno no define qué es la alineación. Los actores privados definen qué es la alineación, pero entiendo que es extraño para la gente, porque de lo que estamos hablando aquí es nuevamente de esta noción de actores, actores que, en cierto sentido, hemos quitado las manos del volante. Antes de llegar a este punto, ya había habido mucha retórica por parte de los miembros de la administración Trump. y su círculo íntimo, personas como Elon Musk y Katie Miller y otros, que describieron a Anthropic como una empresa radical que quería dañar a Estados Unidos tal como ellos lo veían. Quiero decir, Trump ha retomado esa retórica. Llamó a Anthropic una “empresa radical de izquierda” y llamó a sus empleados “bichos raros de izquierda”. Emil Michael dijo que Darío es “un mentiroso” y tiene un “complejo de dios”. Ha habido muchísimos casos de Elon Musk, que dirige una empresa de inteligencia artificial competidora, que tiene una política muy diferente a la de Darío, como atacar implacablemente a Anthropic en X, que es el alma de la información de la administración Trump. Una forma de conceptualizar por qué han llegado tan lejos en el riesgo de la cadena de suministro es que hay personas, tal vez no la mayoría, pero que realmente piensan que es muy importante que los sistemas de IA sean exitosos y poderosos y que entienden a Anthropic porque sus políticas son diferentes a las de ellos, por lo que destruirlo es bueno para ellos a largo plazo, completamente separado de cualquier cosa que normalmente consideraríamos riesgo de la cadena de suministro. Lo antropogénico representa una especie de riesgo político a largo plazo. Sí. Quiero decir, no sé si los actores en esta situación entienden completamente esta dinámica; parte de mi argumento desde el principio es que creo que muchas personas en la administración Trump que están haciendo esto no lo entienden. No entienden qué, no entienden estos problemas. No piensan en los problemas en los términos que describimos. Pero si lo piensas en los términos que estamos discutiendo aquí, entonces creo que te das cuenta de que se trata de una especie de asesinato político. Si realmente se cumple la amenaza de destruir completamente la empresa, se trata de una especie de asesinato político. Y, nuevamente, es por eso que la Primera Enmienda está ahí para mí. Y por eso es una cuestión de principios que me importa tanto. Por eso escribí un ensayo de 4.000 palabras que me granjeará muchos enemigos de la derecha. Por eso tomé este riesgo, porque creo que es importante.
