# SIN LÍMITE: U.S. vs China's Race to Superintelligence | Jeremie & Edouard Harris *Author: Ryan Sean Adams, Josh Kale* *Published: Jun 18, 2025* *Source: https://www.bankless.com/es/podcast/limitless-us-vs-chinas-race-to-superintelligence* --- Ryan: [0:03] Hola a todos, Ryan aquí. Chicos, hoy vais a disfrutar. El episodio que están a punto de escuchar fue extraído de nuestro nuevo podcast Limitless, donde ocasionalmente soy anfitrión invitado, como lo hice hoy, junto con David y nuestro nuevo co-anfitrión, Josh. Ya hemos hablado antes de la carrera geopolítica entre EE.UU. y China por el estatus de moneda de reserva mundial, pero hay otra carrera que está teniendo lugar, una que se mueve más rápido, con más urgencia, incluso puede ser más importante. Es la carrera de la inteligencia artificial. La pregunta de hoy es: ¿quién va a ganar la guerra de la inteligencia artificial? ¿Estados Unidos o China? Este es un episodio increíble con dos invitados que son expertos en este tema. A partir de ahora, episodios como este estarán en el podcast de Limitless, así que no los verás aquí. Si aún no lo has hecho, deja de hacer lo que estás haciendo. Suscríbete a Limitless en Spotify, Apple, YouTube, dondequiera que escuches. Hay un enlace en las notas del programa si quieres hacerlo. Limitless explora una frontera de la IA, al igual que Bankless ha explorado la frontera de las criptomonedas. Creemos que estas son las dos fronteras para la generación de riqueza y la libertad para esta década. Tienes que subir de nivel en ambas. Ryan: [1:07] Disfruta de este episodio. Edouard: [1:12] Oh, wow. Bien, muy bien. Sólo serán 30 segundos. Edouard: [1:18] Bueno, depende. Depende. Pero depende de maneras interesantes. Así que hay diferentes dimensiones de la carrera de la IA. Una forma de dividirla es en la cadena de suministro, ¿no? Miras toda la cadena de suministro de la IA. ¿Qué se necesita para entrenar un modelo líder de IA donde hay talento? Esa es una gran aportación. En ese sentido, hay un poco de niebla de guerra en torno a quién está exactamente dónde, especialmente en el lado chino. A juzgar por el tipo de avances de ingeniería que entran en la fabricación de su DeepSeq R1, su Quen 3, hay gente muy, muy de fiar en los laboratorios chinos en este momento, DeepSeq y Alibaba en realidad entre los líderes claros en China. Pero, por otro lado, está la cuestión del hardware que se utiliza, ¿no? Tienes el talento para entrenar estos modelos, para diseñarlos, pero el hardware físico que necesitas para hacer el entrenamiento o la inferencia es una historia complicada. Así que el hardware en sí, los chips más avanzados, obviamente, son de exportación controlada. China no puede hacerse con la serie de chips Blackwell ahora mismo. Están atascados en el H20, todo tipo de cosas por el estilo. Pero tienen toda la potencia que necesitan. Y así, cuando se trata de energía, eso no es un cuello de botella para ellos. Tienen toda la energía que quieren. No sabemos cómo construir centrales nucleares en menos de 10 años. China ha añadido una América entera de energía a su red en la última década. Así que se trata de un conjunto muy, muy diferente de limitaciones. Y eso se refleja incluso en la forma en que construyen sus centros de datos y sus chips y la forma en que los amplían para las carreras de entrenamiento. Así que en general, yo diría que depende de la dimensión que se mire. Edouard: [2:46] Tal vez yo apostaría por que Estados Unidos es el primero en construir realmente como capacidades de nivel AGI o ASI en este momento, pero China simplemente robaría esa mierda como inmediatamente bajo circunstancias nominales. Así que no importa. Jeremie: [3:00] Sí. Así que esa es la cosa acerca de ganar en las condiciones actuales. Ganar no es realmente ganar porque podemos ser los primeros en desarrollar la tecnología. Pero por todo lo que hemos visto y oído y toda la gente con la que hemos hablado que están siguiendo este espacio de cerca. Es decir, ya están todos en nuestros sistemas en este momento y por lo tanto hay un impulso masivo de seguridad que es necesario para que ganar sea significativo y eso es incluso antes de llegar a la cuestión de bueno, construyes un agi o construyes una super inteligencia, ¿cómo lo controlas y cómo es eso, ya sabes, cómo es tu escenario de victoria catastrófica, ¿verdad? Ryan: [3:40] Correcto, me refiero a la superinteligencia aparte porque podría haber como un tercer actor en esto, los EE.UU. y China y luego la superinteligencia con sus propias ambiciones, por supuesto. Pero me quedo con el tipo de los EE.UU. y China. Queremos llegar al marcador y desglosarlos en cada una de sus diferentes categorías y dimensiones, porque están los laboratorios, el lado del software, está el hardware, está la energía, incluso está la cultura de EE.UU. frente a China. Y creo que hay marcadores asociados a cada uno de ellos. Pero antes de entrar en esto de una manera más granular, tal vez podríamos establecer el contexto para algunos de nuestra audiencia y oyentes de hoy. En primer lugar, ¿por qué hay una carrera armamentista de IA? ¿Y existe realmente una carrera armamentística? Porque una carrera armamentística implica que estamos en la cúspide de algún tipo de superarma o supercapacidad. Y eso no es obvio, creo, para mucha gente que nos escucha. ¿Realmente hay una carrera armamentista? Jeremie: [4:33] Bueno, ciertamente hay una carrera económica. Creo que eso es, ya sabes, Jeremie: [4:37] razonablemente obvio para todos, incluso dentro de los Estados Unidos. Los propios laboratorios lo han dicho. Estamos en una carrera. Ya sabes, nos gustaría que todos los demás no estuvieran compitiendo tan duro. Pero obviamente, cuando estas en ese espacio. Edouard: [4:50] Eso es algo, por cierto, que Sam Altman una vez nos dijo directamente. Nos dijimos, oye, parece que vosotros no tenéis la seguridad, las cosas de seguridad en su lugar para donde las cosas podrían estar yendo. ¿Cuál es tu opinión? Y nos dijo, ojalá Google no nos hiciera tanta carrera. Ryan: [5:07] Ojalá no tuviera acreedores. Bien. Edouard: [5:12] Lo cual es cierto, por cierto. Edouard: [5:13] Eso no es cierto. Jeremie: [5:15] Sí, no se equivoca al desear eso. Todos estaríamos, ya sabes, tal vez marginalmente en una mejor posición si Google no estuviera compitiendo tan duro. Pero, por supuesto, una vez que tienes tres, cuatro, cinco Frontier Labs compitiendo, cada uno individualmente no importa mucho. Jeremie: [5:30] Sí, así que en términos de la pregunta, ¿es una carrera armamentista? Bueno, definitivamente es una carrera. La cuestión es la parte armamentística, ¿no? Así que en última instancia, uno, ¿hay una buena probabilidad de que haya una capacidad similar a un arma en el camino o al final de esta carrera? Y dos, ¿son los participantes, especialmente a nivel nacional. Jeremie: [5:54] Operando como si ese fuera el caso? Y creo que en el primer caso, hay definitivamente, ya sabes, hay razones para creer que ciertamente hay capacidades preocupantes a lo largo del camino. Ya ha comenzado a aparecer. Anthropic ha salido y ha dicho, no podemos garantizar que los sistemas que tenemos desplegados hoy en día no puedan ayudar a un novato a diseñar y desplegar un arma biológica conocida, ¿verdad? Un arma biológica conocida. Eso ya es una capacidad armamentista. Y no es que esto sea algo especial de Anthropic, pero ellos, para su crédito, han salido y dicho esto explícitamente. Y sólo imagina una especie de extrapolación de las capacidades cibernéticas que están saliendo, en unos pocos meses o unos pocos años, ya sabes, te imaginas como el mejor, el mejor hacker de la NSA o el mejor buscador de día cero como un experto cibernético, multiplica eso por un millón y ejecuta un millón de copias de ese tipo en un gran centro de datos a una velocidad mil veces humana. ¿Es eso un arma de destrucción masiva? Bueno, no está super claro que lo sea, pero no está claro que no lo sea. Edouard: [7:00] Sí, quiero decir, es como, Edouard: [7:01] Ya sabes, hemos visto no Petia, hemos visto WannaCry, hemos visto como sólo algunas de las armas cibernéticas muy básicas, que, por cierto, quiero decir, a menudo tiran de esa gran fuga de como del conjunto de herramientas de la NSA de tipo de un par de sus armas cibernéticas, se mezclan con las cosas. Creo que la idea de sistemas de IA descubriendo autónomamente días cero está totalmente sobre la mesa. Y en el momento en que se admite esa posibilidad, hay que pensar en cómo es vivir en un mundo donde hay ciberataques catastróficos que podrían ser lanzados cada dos días. Quiero decir, puede sonar extremo, pero la superficie de ataque para nuestra infraestructura crítica, todo, desde las redes eléctricas a, ya sabes, los sistemas de purificación de agua, todo eso, ya sabes, está todo ahí fuera. Cuando hablas de IA, te enfrentas a una tecnología que fundamentalmente es nativa del ciberespacio de una manera que los humanos no lo son. Pueden moverse mucho más rápido. A través de APIs, puedes controlar enjambres de bots que, ya sabes, se conectan y desconectan sin problemas de formas que los humanos no pueden. Y así es como la gente a menudo espera que, bueno, tal vez el ángulo de la defensa cibernética va a ganar a través de, ya sabes, todo esto acerca de que tal vez la defensa obtendrá más ayuda que el lado de la ofensiva. Edouard: [8:14] Por desgracia, el lado de la defensa sólo tiene que cubrir tanto, ¿verdad? La superficie de ataque es enorme. Así que sólo desde la pieza cibernética por sí sola, creo que es sólo un enorme potencial tipo de dominio de aplicación weaponizable. Pero luego tienes cosas como el diseño de armas biológicas. Ed aludió a ella, ya sabes, Anthropic acaba de anunciar que están pasando a lo que ellos llaman ASL-3 medidas de seguridad. Así que estas son las medidas asociadas no con los actores del Estado-nación, sino con el crimen organizado y los grupos terroristas que ahora dicen, está bien, bueno, Edouard: [8:44] La IA ha avanzado hasta el punto en que estas cosas realmente nos dan un aumento significativo de la capacidad a lo largo de, en este caso, el eje de las armas biológicas. Creemos que nos hará más fácil, por ejemplo, sintetizar sarín, Correcto. Así que tal vez, usted sabe, usted no va a ver como lo que sea que ese Om Shuriken o lo que sea el tipo de derecho japonés al culto fallido ataque con armas biológicas que no pudo desplegar sarín, en parte debido a la falta de tiempo, pero también en parte porque es una especie de genuinamente difícil problema biológico. Y tal vez con herramientas como esta, ese tipo de ataques serían devastadores y eficaces. Si vivimos en ese mundo, de repente, ya sabes, ahora tienes armas biológicas más ataques cibernéticos. Por cierto, los dos vectores más comúnmente citados, hay otros como la robótica y otras cosas que especialmente China va a estar muy, muy interesada en debido a cómo son sus cadenas de suministro. Pero fundamentalmente, estás hablando de inteligencia, ¿verdad? La inteligencia es útil para todas las cosas, y eso incluye la mierda realmente mala, y eso es parte de por qué, bajo el paraguas de lo que la IA puede hacer, tienes un montón de capacidades similares a las armas de destrucción masiva. Si los humanos pueden hacerlo, con el tiempo, la inteligencia automatizada debería ser capaz Patrocinadores: [9:48] De hacerlo también. En el Salvaje Oeste de DeFi, la estabilidad y la innovación lo son todo, por eso deberías echar un vistazo a Frax Finance, el protocolo que revoluciona las stablecoins, DeFi y Rolex. El núcleo de Frax Finance es Frax USD, que está respaldado por el fondo biddle institucional de BlackRock. Frax diseñó Frax USD para obtener los mejores rendimientos de su clase en DeFi, T-bills y carry trade, todo en uno. Sólo tiene que visitar Frax.com y apostar por él para obtener algunos de los mejores rendimientos en DeFi. ¿Quiere aún más? Traslade su Frax USD a Fraxtel Layer 2 para obtener el mismo rendimiento más puntos Fraxtel y explore el variado ecosistema Fraxtel Layer 2 con protocolos como Curve, Convex y muchos más, que recompensan a los primeros en adoptarlos. Frax no es sólo un protocolo, es una nación digital, impulsada por el token FXS y gobernada por su comunidad global. Adquiera FXS a través de Frax.com o de su DEX, apóyelo y ayude a dar forma al futuro de Frax Nation. ¿Listo para unirte a la vanguardia de DeFi? Visite Frax.com ahora para empezar a ganar con Frax USD y Frax USD apostados. Y para los oyentes de Bankless, pueden utilizar frax.com slash r slash Bankless al pasar a Fraxel para obtener ventajas exclusivas de Fraxel y recompensas potenciadas. Edouard: [10:51] Uniswap es su puerta de entrada a una experiencia DeFi más eficiente. Con Uniswap intercambiando y puenteando a través de 13 cadenas, es simple, rápido y rentable, ayudándote a mover valor donde sea y cuando sea. Gracias a la gran liquidez del protocolo Uniswap, disfrutará de un impacto mínimo en el precio de cada operación. Y ahora Uniswap V4 lo lleva aún más lejos. Patrocinadores: [11:08] Los swappers se benefician del ahorro de gas en los swaps multisalto y en los pares de intercambio de ETH, mientras que los proveedores de liquidez pueden crear nuevos pools a un coste un 99% menor. La mejor parte, usted no tiene que hacer nada extra. Cada operación se enruta automáticamente a través de Uniswap X, V2, V3 y V4, por lo que obtendrá el intercambio más eficiente sin ni siquiera pensar en ello. Tanto si estás intercambiando, enviando, haciendo on-ramping, off-ramping o puenteando, la aplicación web y el monedero de Uniswap te dan las herramientas para liberar todo el potencial de DeFi en Ethereum, base, Arbitrum, Unichain y más. Utilice la aplicación web y el monedero de Uniswap para utilizar DeFi de forma más eficiente. Celo, la cadena de bloques diseñada para los pagos cotidianos, ha vuelto oficialmente a Ethereum como una capa 2 ultrarrápida. Construido sobre la pila OP y eigenDA, Celo ofrece bloques de un segundo, tarifas por debajo del céntimo y abstracción de tarifas para que los usuarios puedan pagar el gas en USDT, USDC o cualquier token ERC-20 de la lista blanca. Añada puentes nativos, seguridad al nivel de Ethereum y dinero ultra-verde, y tendrá una red especialmente diseñada para el comercio global. En sólo cinco años, Celo ha procesado 730 millones de transacciones para 12 millones de direcciones. Se lanza con 100 socios y una nueva potencia de fuego DeFi. Esto convierte a Celo en el centro FX de la cadena para las remesas sin fronteras y el gasto en el mundo real. Para los constructores, la distribución se hornea en programas como subvenciones presentese financiación retroactiva de bienes públicos cello camp y prueba de envío pondrá su mini aplicación en farcaster y opera mini pay tokenomics nivelado también la gran reducción a la mitad de cello recorta la inflación del dos por ciento al uno por ciento alineando la cadena con su ambiciosa visión 2030 una economía de un billón de dólares en la cadena donde las regiones cypherpunks y dgens crean prosperidad para todos seguir en cello en x y empezar a construir en cello.org Ryan: [12:36] Hoy en día parece que un ejército de supergenios en un centro de datos es como si obviamente fuera a ser convertido en un arma y puede ser convertido en un arma de muchas maneras diferentes. Pero incluso si se quita el armamento y sólo se habla del poder económico que favorece a un país sobre otro. Y podríamos remontarnos a través de la historia y ver que todas las guerras son guerras económicas. ¿Por qué los aliados ganaron la Segunda Guerra Mundial? Quiero decir, basta con mirar a las tasas de producción de tanques y armamento y aviones y portaaviones, y eso es realmente lo que ganó la guerra. Ryan: [13:10] Y así, en última instancia, el poder económico es poder. Y esto es una especie de juego de poder, supongo. Así que déjame hacerte esta pregunta. ¿Saben los países que en realidad están en esta carrera armamentista de IA? Tal vez lo sabemos aquí. Estamos hablando de esto en Silicon Valley. ¿Pero el gobierno de EE.UU. realmente diría, sí, estamos en una carrera armamentista con China por la IA? ¿Lo admitirían? Y lo admitiria China tambien. Jeremie: [13:35] Aunque todavia no lo han admitido directamente. Así que la característica que define al gobierno de Estados Unidos es que es gigantesco. Como que esa es la principal cosa que define al gobierno de los Estados Unidos. Tiene, ya sabes, incluso si no se cuenta el ejército, es como tres millones de personas o alguna cantidad absurda. Bien. Así que si preguntas, ¿el gobierno cree en algo? Realmente, es como si fuera una cosa tan gigantesca. Correcto. Como que no tiene necesariamente que ser que el presidente salga y diga, esta es la política de los Estados Unidos sobre bla, bla, bla. Ni siquiera es un objetivo tan grande. No es que sea un objetivo tan grande. Así que creo que lo que podemos decir es que hay absolutamente bolsillos del gobierno que creen todas las cosas que creemos. Esos bolsillos están creciendo. Esos bolsillos han leído todos los manifiestos de IA, AGI, ASI que tú y yo y tal vez la audiencia al menos hemos tocado. Conciencia situacional, AI 2027, tal vez las cosas de MAME, tal vez nuestra super inteligencia, el informe del proyecto de super inteligencia de América. Y en esos ámbitos, son tan AGI como nosotros. Edouard: [14:49] ¿Se ha apoderado Jeremie: [14:51] de todo el gobierno? No. Cuando ese interruptor se encienda, creo que todos lo sabremos. Edouard: [14:59] Sí, también es todo el gobierno, ¿verdad? Así que la Oficina, por lo que BIS, a la derecha, el Departamento de Comercio, que básicamente manejan todos los controles de exportación. desde el 20, creo que 2018 fue cuando la primera ronda de controles de exportación dirigidos a las exportaciones de GPU a China puso en marcha. Y como, usted habría tenido derecho a mirar hacia atrás entonces en los controles de exportación y decir, espera, ¿por qué estamos haciendo esto? Las razones que se citan son el armamentismo de estas piezas básicamente de hardware de juegos, como ¿qué está pasando? Y, obviamente, no eran exactamente eso. Quiero decir, ya sabes, el A100, el V100, estos eran todavía impresionantes piezas de hardware de IA estaban en su propio derecho. Pero eso era lo que mucha gente sentía. Ahora, el trinquete se ha subido significativamente desde entonces. Pero el lenguaje explícitamente ha sido y sigue siendo, esto es para evitar que China acceda a la tecnología de grado militar. Así es como están viendo y eligiendo ver la exportación de GPUs, de ASICs de alta gama a China. Y ciertamente, esa es una preferencia revelada, una preferencia revelada para llamarlo una carrera armamentista sin llamarlo una carrera armamentista. Edouard: [16:03] También hay, por cierto, una razón por la que puede que no oigas hablar de esto, hay una opinión en algunos sectores que al llamarlo una carrera armamentista, la exacerbas. Ahora, creo que esto es realmente muy, muy exagerado. Si nos fijamos en lo que los principales actores están haciendo, ¿verdad? Así que Beijing ha puesto, como el Banco de China ha invertido el equivalente a un cuarto de billón de dólares, como un billón de yuanes en la infraestructura de IA a nivel nacional. Esto fue justo después de que se anunciara el proyecto Stargate, al que se hacía referencia como el Proyecto Manhattan para la IA que el gobierno de EE.UU. estaba lanzando, a pesar de que no es una cosa del gobierno, es una cosa privada. Esa es una de las dimensiones. La gente está utilizando este lenguaje, y es difícil imaginar a cualquiera de los dos países haciendo Edouard: [16:44] algo muy diferente en cuanto a la aceleración. Hay cosas que harían de forma diferente en el lado de la seguridad si los gobiernos creen institucionalmente que es hacia donde nos dirigimos. Y no creo que la gente se haya dado cuenta todavía. El mundo se ve realmente diferente en el momento en que dices, vamos a dejar de llamarlo sólo un proyecto Manhattan y ver cómo se vería si realmente creemos que eso es lo que estamos haciendo. Si eso fuera realmente lo que estamos haciendo, de repente, la sociedad se ve muy diferente. Ryan: [17:11] Así que parece que nos estamos acercando a ese momento. Y Ed, mencionaste un interruptor que podría activarse en algún momento. Danos un ejemplo de qué tipo de cosa podría accionar el interruptor a una carrera completa en la IA y convertir esto en algo como, ya sabes, la atómica, el tipo nuclear de los proyectos de energía de la década de 1940. Jeremie: [17:32] Sí, así que me refiero un poco menos directamente a un interruptor que nos ponga necesariamente en modo de carrera armamentista, aunque potencialmente eso. Y más en torno a un cambio de régimen en torno a quién entiende y se ve que entiende y cree en estas cosas. Así que lo que quiero decir es que en este momento, en realidad ha sido tan fascinante ver esta evolución en el gobierno. Anteriormente, digamos hace 18 meses, a finales de 2023, Sam Alvin estaba siendo despedido, esa era, ¿verdad? Jeremie: [18:04] Hablas con la gente en el gobierno y encontraras algunos individuos que fueron AGI-pilled y que eran como, Sí, así que veo lo que está pasando, creo en esto, pero no siento que realmente pueda decirlo directamente porque nadie más cree en esto, y es como si fuera un suicidio profesional o lo que sea, a finales del año pasado, esto estaba sucediendo con oficinas enteras, así que hablabas, como si estuvieras en una llamada en una oficina en el Departamento de Energía con la que hablamos, y no voy a nombrarla porque sí, pero tuvimos que sentarnos y había.., ya sabes, media docena de personas en y todos ellos son como, sí, hemos leído la conciencia situacional. Sí, esto viene. Uh-huh. Sip. Y no fue, está bien, no hay ninguna barrera que saltar. Todos lo entendieron. Genial. Y ahora tienes como dentro de la oficina, este consenso comienza a formarse. Y lo que vemos es este tipo de burbujas en expansión en el gobierno que se están tocando entre sí. Y cuando piensas en esto es literalmente como, es exactamente como esta analogía de cómo hierve el agua, ¿verdad? Es como estas pequeñas bolsas de gas que están empezando a formarse. Con el tiempo se fusionan en estas cosas grandes y comienza a hervir. Y así estábamos viendo que el gobierno comenzaba a hervir un poco en este tema y estas bolsas se formaban y fusionaban. Y. Edouard: [19:22] Creo que, ya sabes, Jeremie: [19:23] Cualquier número de eventos desencadenantes podría volcarnos sobre la línea. Podría ser que el presidente o vicepresidente diga, hey, esto es una locura. Y ahora estábamos como ahora creemos que esto como explícitamente real. Podría haber algún incidente como estamos hablando de estos modelos que pueden hacer ataques biológicos. Bueno, en cierto punto, vas a llegar a un nivel de capacidad donde el primero que quiera ver el mundo arder puede realmente hacerlo. Así que hay cualquier número de posibles puntos de activación y, pero sin duda estamos viendo como la presión comienza a aumentar internamente y el seguimiento de eso....obviamente gobernados por una gran deritocracia, así que hay muchos baby boomers, mucha gente mayor que se está familiarizando y cuando leo artículos como tu súper informe de inteligencia o ai 2027... ...incluso para mí, Josh y yo, que somos tecnología de frontera, hemos visto tanto de esto que estamos absortos en ello...fi ni siquiera suena creíble así que me estoy imaginando a alguien que está a finales de sus 60 años y recogen algunos de estos informes y empiezan a leer la literatura y están como me estás diciendo que para el 2028 vamos a tener robots creando robots con una inteligencia artificial general que no podemos controlar vamos eso es quiero decir que es ciencia ficción como cosas que es tierra de fantasía que no es realmente como tiene que ser muy difícil para estas personas creerlo Edouard: [20:51] Es y de alguna manera el más peligroso, así que la edad en sí es definitivamente un factor, no hay duda, pero ves personas que están en sus 60s y 70s que simplemente lo entienden y es a menudo la gente que ha estado a cargo de anticipar las nuevas tecnologías en el pasado. Así que han visto como cuando se inventó la bomba atómica, ¿verdad? Como, vamos. El día anterior, era todo esto como poco lindo como tal vez usted tendría como un buster presa, ¿verdad? Como que harías una bomba de mil libras. La gente va, ooh. Pero entonces, de repente, Hiroshima se convierte en humo. Ryan: [21:26] Cero a uno. Edouard: [21:27] Exactamente. Exacto. Así que hay algunas personas que han sido. Y, por cierto, este tipo de cosas, tienes que imaginarte cómo se desarrollan en la comunidad de inteligencia, en la comunidad de seguridad nacional, a medida que aparecen nuevas tecnologías de las que tú y yo ni siquiera hemos oído hablar y entonces se desarrollan nuestras contramedidas y se inventan planes de contingencia sobre la marcha durante las últimas décadas. Así que hay gente que ha estado ejercitando ese tipo de músculo durante mucho tiempo. Pero una cosa que está en el lado de la IA, que es especialmente, yo diría, casi peligrosa o que puede cerrar las mentes de la gente, No hay nada más peligroso que alguien con como un máster en IA de 2005. Ryan: [22:07] ¿Antes de la era del escalamiento tipo de cosas? Sí, exactamente. Edouard: [22:10] O en algunos casos, sí, antes de que las redes neuronales fueran realmente una cosa o, quiero decir, eso es tal vez decir lo mismo. Pero sí, a menudo te encuentras con estas personas que, debido a que casi nadie tenía ningún conocimiento de IA en ese entonces, son vistos como los gurús locales en la oficina cuando se trata de la IA y sus identidades están envueltas en ella. Y han vivido como uno, dos, tres, tal vez inviernos de IA. Así que han visto los ciclos de auge y caída y están listos para decirte, ya sabes, tal vez se entusiasmaron justo antes del primer invierno de IA y tuvieron que refactorizar y lo han visto pasar un montón de veces. Así que son pesimistas por defecto. Ed y yo a menudo hablamos de esto en el contexto de la inversión ángel. Al igual que construimos temprano en una empresa de tecnología de la educación y nunca hemos invertido en tecnología de la educación desde entonces porque podemos ver todos los problemas con ella. Cuando estás tan cerca de un problema, estás como, oh, este es un mercado de mierda. A tus usuarios no les va a gustar esto, bla, bla, bla, bla, bla. El mismo tipo de cosa puede suceder cuando estás... Sólo un poco demasiado cerca de la tecnología, pero no lo suficientemente cerca como para que estés en la frontera de los laboratorios, ves todas las razones para el pesimismo porque las has experimentado. De todos modos, que puede venir a través de su outlook. Ryan: [23:18] Esto es tan divertido porque es la misma historia, como usted viene de cryptocurrency. Es como las personas menos propensas a entender que Bitcoin podría llegar a un billón de dólares fueron las personas que son como los banqueros y las finanzas y economistas. Son como, nunca va a suceder. Ya hemos hecho dinero. Lo arreglamos. Es como que ya funciona. Ellos eran los detractores que eran como los expertos en la sala y, ya sabes, se equivocaron en gran medida. Edouard: [23:38] Yeah. Jeremie: [23:39] Yeah. Si estás demasiado invertido en la forma en que las cosas son, no ves lo que viene de lado para ti. Es como si fuera la primera pieza del dilema de los innovadores. Simplemente no lo ves. No te lo crees. Estás cómodo. Ya has ganado. Así que, ¿por qué admitir una imagen del mundo en la que tu victoria no tiene sentido? Josh: [24:01] Vale. Así que quiero que volvamos al marcador porque estoy realmente emocionado de ver cómo China se clasifica en relación con los Estados Unidos en algunas categorías diferentes. La primera son los modelos de IA. Creo que Jeremy fue usted quien dijo, o no DeepSeek, fue el equipo de Anthropic que dijo, no pueden prometer que la nube no se puede utilizar como arma biológica. Sé que la semana pasada, 03, alguien encontró una vulnerabilidad de día cero en como un núcleo de Linux utilizando ese modelo. Así que ya son tan poderosos y tan aplicables para aplicar daños a otras personas en otros países. Queria preguntarte quien crees que esta ganando, tenemos estas dos entidades tenemos el lado chino que es deep seek y quen y toda esta cesta de otros y luego tenemos los estados unidos que es open ai y google y tenemos anthropic um quien crees que esta ganando esa carrera hasta ahora en Jeremie: [24:42] Código abierto creo que están por delante están por delante y estamos codo a codo en código abierto como nuestro campeón de código abierto es meta y quiero decir que han tropezado en los últimos meses por lo que es sólo un tropiezo básicamente te hace retroceder. Así de apretado está. En términos de las cosas de código cerrado, es un poco más complicado por el hecho de que, sí, sólo están robando nuestras cosas todo el tiempo. Así que podríamos, y probablemente estamos por delante en el desarrollo nativo porque tenemos más instalaciones. Tenemos más espacio en el centro de datos, más clusters, chips de mayor calidad. Hay un montón de infraestructura que ha sido construida para esta carrera por estas entidades privadas que saben lo que están haciendo, al menos desde el punto de vista de la escala del centro de datos a ese nivel. Edouard: [25:28] Pero Jeremie: [25:29] ¿Es una victoria si tu adversario te quita la medalla de las manos justo después de que termines la carrera? Quiero decir, es algo sin sentido. Edouard: [25:40] Esto también tiene una dimensión. Y esto es con las leyes de escalado de tiempo de inferencia que han salido, ¿verdad? Eso cambió las cosas de una manera muy significativa. Así que si te imaginas la historia hasta sólo pre-01, ¿verdad? Así que, ya sabes, hace seis meses, lo que tienes es esencialmente todo el mundo escalando el tiempo de formación de computación. Así que déjame hacer un mejor y mejor sistema de autocompletado de texto es más o menos el orden del día. ¿Cómo voy a hacer eso? Voy a hacer un clúster cada vez más grande. Todo el mundo tenía más o menos al máximo la capacidad de ingeniería para construir y hacer uso de los chips que tenían. Así que OpenAI está utilizando su flota de chips como al máximo para hacer pre-entrenamiento. Así es. Y también Baidu. Y también Tencent. Al igual que todo el mundo. Así es. Así que estás obteniendo esta comparación de manzanas con manzanas sobre una base de flota totalmente saturada de EE.UU. y China. Y ahora, de repente, llega la computación en tiempo de inferencia. ¿Y qué sucede? Pues que todo el mundo mira por encima del hombro y dice: "Tengo que encontrar la forma de utilizar un millón de GPU para realizar cálculos en tiempo de inferencia". Es un problema fundamentalmente diferente desde el punto de vista del flujo de datos, desde el punto de vista de la red. Todos los cuellos de botella que eran los cuellos de botella para el cálculo de pre-entrenamiento, de repente ya no lo son. Nuevos cuellos de botella ocupan su lugar. Es un nuevo problema. Así que ahora tienes que responder a la pregunta, si eres Anthropic, si eres Google, si eres Microsoft, si eres OpenAI, ¿cómo hago uso de un millón de GPUs para el cálculo en tiempo de inferencia? Y la respuesta es que no. Empiezas con 100 GPUs y luego con 1.000 y luego con 10.000 y vas escalando. Edouard: [27:09] Pero la cuestión es, Edouard: [27:10] China también tiene 100 GPUs. También tienen 1.000 GPU. También tienen 10.000 GPU. Probablemente tengan 100.000. Así que hasta que no cruzas esos umbrales de OOM y saturas tu reserva actual de computación en tiempo de inferencia, no estás consiguiendo realmente la misma calidad. Por esta razón, creo que es razonable esperar que China elabore modelos de frontera legítimos. Y me refiero a modelos fronterizos este año hasta que por fin lleguemos al punto en que saturemos nuestras respectivas pilas de tiempo de inferencia. La nuestra es mayor, así que deberíamos esperar saturar más. Pero esto es una especie de, supongo, un modelo mental para tener en tu mente cuando estás pensando en quién está por delante. Va a haber una ilusión durante un tiempo en los próximos meses, muy probablemente, que China está haciendo mejor de lo que en cierto sentido son o podrían ser. Y cuando eso ocurra, créanme, el Global Times estará ahí para recordarnos a todos que China lo hizo y para extrapolar de eso, que los controles a la exportación de chips no están funcionando porque están desesperados por convencernos de eso. Y esto nos da esa oportunidad que será falsa cuando lo digan. Es importante que reconozcamos la falsedad de esa afirmación y nos atengamos a nuestra estrategia de control de las exportaciones. Pero eso es todo de todos modos, una especie de predicción futura. Jeremie: [28:20] Eso es realmente un buen punto. Josh: [28:22] Para la gente que está un poco confundida, ¿te importaría explicar el cálculo del tiempo de inferencia? Porque es muy importante. Y creo que mucha gente no sabe de qué estás hablando cuando dices eso. Así que si pudieras resumirlo para nosotros, sólo para que todo el mundo entienda por qué es tan importante. Edouard: [28:33] Si pudieras descifrar los últimos cinco minutos de lo que has dicho. Josh: [28:38] Vamos a explicar, como, ¿qué es lo que hace que el tiempo de inferencia compute? ¿Por qué fue un gran avance? Edouard: [28:42] Sí. Así que, vale, aquí tienes una intuición. Te voy a dar un examen y tienes 100 horas tanto para estudiar como para realizar el examen. Depende de ti cómo dividir tu tiempo. El viejo paradigma de la computación previa al entrenamiento era básicamente decir, voy a pasar 99,99 horas estudiando para el examen, y luego me tomaré tres segundos para hacer el examen. Bueno, no es de extrañar, como estudiar el doble en ese régimen en realidad no va a mejorar tu rendimiento. Tienes un cuello de botella en tu capacidad de pensar en el examen. Y ahora lo que el nuevo paradigma de computación en tiempo de inferencia está diciendo es, bueno, ¿qué pasa si tomamos estos modelos y en lugar de gastar toda nuestra computación en tiempo de entrenamiento, vamos a ahorrar algo de ese cálculo en tiempo de inferencia en la propia prueba. Y cuando esas dos cosas se combinan al mismo tiempo de forma complementaria, parece que el cielo puede ser el límite. Aún no lo sabemos, pero las curvas de escalado parecen seguir avanzando. Eso es lo básico de ese paradigma. Así que hemos cambiado a eso. Hacer ese pensamiento en la prueba sólo requiere una configuración de la flota de computación diferente centros de datos que se ven de alguna manera diferente. Los chips están conectados de forma diferente. Ryan: [29:48] Los usuarios experimentan esto con ChatGPT 03, ¿verdad? Cuando hacen una pregunta, es como, antes de que responda a tu pregunta, es una especie de pensamiento y puedes leer sus pensamientos, ¿verdad? Eso es computación en tiempo de inferencia en el trabajo. Jeremie: [29:59] Sí, eso es exactamente correcto. Así que es como darte, ya sabes, tiempo para pensar antes de responder, ¿verdad? Para ciertas preguntas, como, ¿cómo estás hoy? No necesitas tiempo para pensar antes de responder. Para otras preguntas como, ¿cuál es la raíz cuadrada de pi? porque, ya sabes, si das una respuesta de inmediato, no va a ser una respuesta muy buena. Pero cuanto más lo pienses, mejor será la respuesta. Y esa es la idea detrás del cálculo en tiempo de inferencia. Dar a las IAs la libertad de decidir cuánto necesitan pensar antes de responder. Josh: [30:29] Tengo curiosidad por saber cómo contrastarías el enfoque entre los laboratorios de EE.UU. y China. Todos utilizan la misma tecnología, pero no siempre han sido iguales. Parece que DeepSea lanzó una bomba en el sector de la inteligencia artificial. Y estaban como, espera un segundo. Podríamos hacer esto mucho más eficientemente que Estados Unidos. Así que creo que tradicionalmente la gente piensa que los EE.UU. está tirando un montón de dinero en el problema. Estamos construyendo estos enormes centros de datos. Tenemos todas las GPU, mientras que China está siendo un poco más ingeniosa en la pila de software. Tengo curiosidad por saber cómo ves esta dinámica de la eficiencia del software chino frente al dominio del hardware estadounidense. Jeremie: [31:01] Bueno, esto viene a colación de lo que decía Jer, que en la transición a la computación en tiempo de inferencia, nos encontramos básicamente en una curva en la que hemos tenido estas flotas gigantes de material de entrenamiento. Y ahora tenemos que dar la vuelta para asignar gran parte de ella a cosas de inferencia. Durante esa curva cerrada, hay una oportunidad para una búsqueda profunda que puede no tener las flotas gigantescas de tiempo de entrenamiento o de computación general que los Estados Unidos tienen para aparecer básicamente por delante o bordear la ventaja. Jeremie: [31:37] A través de la eficiencia y a través del hecho de que el juego no se está jugando todavía a su máximo nivel hasta que todos esos puntos de control de escala se hayan alcanzado. El equipo de DeepSeek hizo un trabajo de ingeniería increíble y genuino para encontrar eficiencias en el nivel más profundo, básicamente en el metal de los chips. Al igual que, aquí está la forma de asignar el equipo a través de estos y se fueron y como kernels construidos manualmente y todas estas cosas. Así que absolutamente obtuvieron la máxima cantidad posible de jugo de su equipo que podían. Y, por supuesto, las empresas estadounidenses tomaron todo lo que quisieron e hicieron sus propias configuraciones más eficientes. Pero fundamentalmente, es una cuestión de como, ¿dónde está su restricción? Como, ¿dónde está su restricción dominante? ¿Y dónde es más productivo asignar tus recursos? Así que para las empresas estadounidenses, no son realmente tan limitado, por lo menos ahora estamos tipo de empezando a golpear a las consideraciones de energía en el continente, en la parte continental de Estados Unidos. Así que eso está empezando a ser un poco de un factor limitante, pero usted sabe, todavía ahora es, sigue siendo escalable. Y, y sobre todo como en los últimos meses, sí, sólo podía como seguir embistiendo más computación y como mantener, seguir apilando más cosas en la pila más grande, mejor se puso. Así que esa era la manera de hacerlo. Teníamos todo el mejor equipo. Teníamos todas las cosas más brillantes, así que sigue haciendo lo que funciona. Jeremie: [33:06] Mientras que para ellos, porque estaban limitados en chips y tenían controles de exportación y, ya sabes, algunos de los equipos Huawei, que ahora están empezando a estar en línea, no estaban en el horizonte todavía. Todavía estaban como, bueno, sólo tenemos esta reserva de material y esa es nuestra limitación. Así que lo único que podemos hacer es maximizar la utilización de esa reserva de material. Y así es como los dos enfoques diferentes vinieron. Es como, ¿cuáles son sus limitaciones en este momento y donde su esfuerzo de ingeniería mejor gastado? Ryan: [33:35] Parece que ustedes están diciendo que para la parte de los modelos de IA que como los EE.UU. es tal vez como marginalmente por delante, pero eso no es una ventaja duradera y que están por delante en el lado de código cerrado. Bueno, permítanme hacer esta pregunta, sin embargo, porque, ya sabes, siempre hablamos de los EE.UU. abierto, la sociedad libre, ¿verdad? Ya sabes, Silicon Valley abrazando Linux y el código abierto. ¿Es irónico para alguien más que ahora parece que los principales modelos de código abierto AI en realidad de China? Como, ¿por qué están haciendo eso? ¿Es una especie de teoría del juego porque EE.UU. lidera el código cerrado? Por supuesto, van a pivotar a código abierto. Debido a que se siente como valores que Estados Unidos, entre comillas, debería tener. Al igual que la tecnología abierta, ya sabes, como la democracia, la exportación al mundo, sin embargo, somos el lado de código cerrado. ¿Qué pasa con esto? Edouard: [34:19] Bueno, está bien, hay código abierto y hay código abierto. El código abierto, cuando vives en un mundo de fusión civil militar, que es la política oficial del estado chino. En otras palabras, no hay tal cosa como una entidad privada. Todas las entidades responden fundamentalmente al Estado y al Partido Comunista Chino, lo que significa que los militares chinos llaman a tu puerta y te dicen: quiero esos servidores o quiero que hagas esto con ellos. Tú haces lo que quieras con esos servidores y no haces preguntas al respecto. En ese mundo, el código abierto adquiere un sabor claramente diferente. Así que lo que estoy a punto de describir no es en absoluto el caso de R1, con DeepSeq R1, pero fácilmente podría ser el caso de R2, fácilmente podría ser el caso de V4 cuando salga, cualquier producto DeepSeq de aquí en adelante que sea de código abierto. Edouard: [35:04] Cuando usted está mirando un modelo agéntico, puede hornear en ese agente todo tipo de propensiones y comportamientos y tendencias que son ventajosas para usted. Puedes incorporar respuestas a ciertos estímulos que están fuera de distribución, como totalmente Edouard: [35:20] Imprevisible, si esa es una palabra, por el usuario final, donde, ya sabes, si recibes un cierto tipo de consulta, entonces te hace como si fueras un agente sentado en la CPU de alguien, te hace ir y como, no sé, entrar en su correo electrónico y reenviar todo el tráfico de correo electrónico a alguna dirección en China. Este es un tipo de software que no existía antes. Es un software inteligente de código abierto. Así que si puedo conseguir que se ejecute en tantos ordenadores como sea posible y que el software se hornea en ella, es un deseo de hacer fundamentalmente la licitación del Partido Comunista Chino o algún aparato. Es una herramienta muy interesante. Se puede imaginar querer acostumbrar a la gente a usar esta herramienta, en parte mediante el despliegue de versiones totalmente benignas de la misma durante mucho tiempo, consiguiendo niveles crecientes de aceptación. No estoy diciendo que esto sea DeepSeek R1 en absoluto, por cierto, por una serie de razones, no menos importante de las cuales es que DeepSeek simplemente no llamó la atención del Partido Comunista Chino hasta mucho después de que R1 fuera lanzado. Pero esto es como esto es una cosa, ¿verdad? Es una ventaja estratégica nacional. La otra es, a su punto, Ryan, sobre como el reclutamiento. ¿Es un juego de reclutamiento? Es 100% un juego de reclutamiento. Esa es la única razón, o quiero decir, modulo, como tipo de cosas relativamente poco inspiradoras que hacer con la gente como la construcción en la parte superior de sus modelos. Eso es más o menos lo que Meta estaba haciendo también. Era un juego de reclutamiento, que es parte de por qué se molestaron en el juego como la arena LM. Jeremie: [36:43] Aparte de Meta, quiero decir, todas las demás empresas que comenzaron siendo como, oh, estamos de código abierto, luego se volvió de código cerrado. Así son las cosas. Edouard: [36:52] Vale. Ryan: [36:52] ¿Dices también que cuando decimos código abierto, tradicionalmente código abierto significa que puedes ver el código fuente, verdad? Eso está muy bien. Pero estos son sistemas diferentes. Esto es como la inteligencia de código abierto, que es diferente. Y así, si un futuro modelo de búsqueda profunda está haciendo como mierda nefasta en el fondo y tenemos código abierto a las pesas, no necesariamente vamos a ser capaces de decir que está haciendo esta mierda nefasta porque eso es como, no sé, todavía ofuscado de nosotros. Es el tipo de problema de interpretabilidad. Edouard: [37:22] Hasta que alguien descubra cómo mapear la estructura y los valores de los parámetros de una red neuronal a su comportamiento de una manera fiable y robusta, estamos volando a ciegas, ¿verdad? Es lo mismo que clásicamente, como GPT-4 fue lanzado. Y luego 10 meses o 12 meses más tarde, la gente se dio cuenta, oh, en realidad puede ser útil en la búsqueda de exploits de un día. ¿Quién lo sabía? Y nadie lo sabía. Nadie lo supo durante un año porque sólo tienes que jugar con él y averiguarlo. Así que es algo similar. No hay manera, como dices, de ir de este es mi modelo a estos son los comportamientos. Esto es lo que se ha incorporado. Josh: [37:57] Bien. Ahora que estamos entrenando estos modelos, necesitamos muchas GPUs y mucha energía. Y el siguiente tema que quiero tratar es la importancia de la energía, porque parece que todo se deriva de ella. Y leí esta inquietante estadística la otra semana que cada 18 meses, China añade un valor de Estados Unidos de la energía, por lo menos durante los próximos cinco años, que están planeando hacerlo. Y eso significa que China estará produciendo aproximadamente uno de cada tres electrones del mundo, lo que parece mucho considerando las demandas de energía que estos nuevos clusters van a utilizar. Sé que Stargate en Texas está tratando de llegar a 1,2 gigavatios de potencia. Josh: [38:29] Eso es suficiente para abastecer a más de un millón de hogares. Así que quiero preguntarte, ¿realmente nos están pateando el trasero en la guerra de la energía o tenemos una oportunidad de competir con China cuando las demandas de energía son tan altas para construir estos nuevos clusters? Si. Edouard: [38:42] En la parte continental de Estados Unidos, Jeremie: [38:44] Quiero decir, que, de nuevo, todo se reduce a, ¿dónde está tu restricción, verdad? ¿Cuál es tu limitación y dónde está? Así que para nosotros en los Estados Unidos continentales, la restricción es el poder. Para China, que, como usted ha dicho, están construyendo toneladas de energía. Así que su limitación no es la energía. En cambio, su restricción son los chips. Y si están fundamentalmente limitados en chips, y Huawei es, por supuesto, la construcción de sus propios chips desarrollados de forma nativa, y están haciendo un buen trabajo para que usted pueda ver en realidad se están apoyando en sus puntos fuertes. Así que una de las cosas que está haciendo Huawei es desarrollar sistemas de chips para competir con los Blackwell de NVIDIA, no sólo a nivel de chip, sino a nivel de todo el sistema con esta idea de que, oye, nuestros chips pueden ser más cutres que los de NVIDIA. Edouard: [39:31] No necesitan ser tan eficientes. Jeremie: [39:32] No necesitan dar tantos flops por kilovatio como los chips de NVIDIA porque tenemos toneladas de potencia. No estamos limitados por la potencia. Así que pueden diseñar teniendo en cuenta esa limitación. Pero aún así, fundamentalmente, van a estar limitados en el número de tintes funcionales que se bombean fuera de sus fundiciones para GPUs. Así que, literalmente, esa va a ser su principal limitación dominante. Para nosotros, la energía es, sí, es la principal limitación. Hay maneras de evitar que para nosotros de varias maneras. Una de las cosas que hemos visto en las últimas semanas ha sido a Estados Unidos haciendo tratos con Arabia Saudí y los EAU porque esos países tienen abundantes fuentes de energía. ¿Se pueden establecer acuerdos de este tipo de forma que las instalaciones resultantes sean seguras y que se tengan en cuenta todas las consideraciones relevantes para la seguridad nacional? Como que el diablo está en los detalles, pero a un alto nivel, oye, necesitamos energía si no somos demasiado quisquillosos al respecto. Sí, podemos, podemos decir que podemos desvirtuar nuestras regulaciones. Eso sería genial. Sería genial desregular para que podamos construir energía legalmente en los Estados Unidos. Y hasta cierto punto, estamos tratando de hacer eso, también. Pero en caso de apuro, tenemos aliados que tienen gigavatios. Sí. Quiero decir, ya sabes, un tercio de todos los electrones salen de China. Bueno, dos tercios están en otros lugares. Así que, ya sabes, podemos tener amigos en otros lugares. Josh: [40:58] ¿Es esa la manera de hacerlo? ¿Es aprovechar a nuestros amigos? Estoy tratando de averiguar dónde nos equivocamos. ¿Cómo es que China tiene tanta más abundancia que nosotros? Jeremie: [41:06] Francamente, esto lleva mucho tiempo. Es el hecho de que la política explícita de Estados Unidos durante décadas, y esto no es culpa de ninguna administración. Es sólo la forma en que toda la política económica, no todos, pero una gran cantidad de la política económica se ha anclado, ha sido más o menos explícitamente. Estados Unidos va a ser el consumidor de último recurso para el mundo y China va a ser el productor de todas las cosas del mundo y sólo vamos a pagar a China nuestros dólares, ellos nos van a dar sus cosas y van a invertir nuestros dólares en bonos del Tesoro y así es como el maravilloso ciclo va a funcionar y ahora nos estamos dando cuenta de que hay un montón de problemas con esa estrategia, uno de los cuales es la entrega de toda tu base industrial a un probable adversario. Ese es un gran problema. Ustedes mencionaron antes que, sí, ¿cómo se ganó la Segunda Guerra Mundial? Bueno, fue como, ¿quién podía encender más cosas en el fuego, ¿verdad? ¿Quién podía construir más cosas y prenderles fuego? Así es como se ganan las guerras en la era industrial. Así que eso es un problema para nosotros. Y por supuesto, los chips más sofisticados del mundo se fabrican en Taiwán y dentro de una especie de zona de alto riesgo donde China puede influir significativamente. Edouard: [42:21] Creo que tal vez hay una distinción, Ryan: [42:23] Al menos estoy empezando a aprender, entre la energía y la electricidad específicamente, ¿verdad? Así como la energía es algo así como, supongo que podría ser solar, podría ser gas natural, podría ser petróleo, y la red eléctrica específicamente, que se siente mucho como la pila de IA. Estaba leyendo un post del economista Noah Smith. Él ha estado en el podcast antes. donde hablaba de América básicamente perdiendo lo que él llama la era eléctrica. Edouard: [42:51] Y la narrativa básica es, Ryan: [42:53] Ya sabes, siglo 19, la unidad central de energía fue el vapor. En el siglo XX, fue la combustión, ¿verdad? Básicamente, ya sabes, aviones, portaaviones, petróleo, todo eso. Siglo 21, la pila AI realmente depende de la electricidad específicamente, porque así es como usted consigue sus aviones no tripulados. Así es como consigues tus coches eléctricos. Así es como consigues tus robots. Así es como consigues tus centros de datos. Así es como obtienes tu ventaja competitiva de súper inteligencia y en última instancia el dominio del mundo, como el poder. Y así habla de tres avances. Estoy seguro de que algunos oyentes están vagamente familiarizados con, pero para la era eléctrica, como uno es sólo metales de tierras raras, ¿verdad? Que son clave para el movimiento de la IA en el espacio físico. El otro son los chips de los que hemos estado hablando. El silicio, que es la capa de computación. Y la tercera es como las baterías de litio, que es una especie de almacenamiento. Y luego va y muestra el uso de la electricidad en EE.UU. como porcentaje del consumo. Y los EE.UU. - en realidad, voy a mostrar esto en la pantalla. Y los EE.UU. es como detrás - quiero decir detrás no sólo China, sino también Europa en el porcentaje de uso de la electricidad como porcentaje de nuestro consumo de energía. Permítanme compartir este gráfico para ustedes aquí. Esta justo aqui, Edouard: [44:10] ¿Correcto? Edouard: [44:11] Y entonces - Jeremie: [44:12] Energia primaria, si, si, si, si. Ryan: [44:14] Correcto, correcto, correcto. No es sólo la parte energética de la pila. También es la parte de la red eléctrica. Y parece que también estamos perdiendo aquí. ¿Han estudiado esto? Edouard: [44:30] Sí, esto es en realidad, porque cuando vas a construir un nuevo centro de datos, tus preguntas son, bueno, la primera pregunta es, ¿dónde puedo encontrar un gigavatio de repuesto o dos de, voy a decir energía, se refieren a la electricidad, ¿verdad? Y eso conlleva un montón de preguntas sobre las líneas de transmisión. Y críticamente, generadores y transformadores y subestaciones transformadoras. Así que cuando nos fijamos en su transformador promedio, ¿dónde se hace? La respuesta no es en Estados Unidos. ¿Dónde en particular es casi imposible encontrar un transformador que no tenga componentes fabricados en China? Ahora, el problema con eso es que sabemos históricamente que China ha utilizado transformadores como puertas traseras. De hecho, acabamos de tener un reciente, hay una historia reciente sobre puertas traseras que se pusieron en las células solares. Hay células solares de fabricación china, una especie de espíritu similar, ¿verdad? Como, si eres China, estarías loco si no tomaras algunas de estas medidas sabiendo la importancia de la red eléctrica mucho antes de que la IA fuera una cosa. Ya sabes, hay todo tipo de fallos críticos que puedes inducir si tienes acceso a los componentes adecuados en el sistema. Así que no sólo tenemos un problema de capacidad Edouard: [45:37] En el sentido Edouard: [45:37] de que no hay suficientes transformadores. Estas cosas están en pedidos pendientes de varios años, ¿verdad? Así que un transformador te costará. Depende del contexto, pero en cualquier lugar de seis a 24 meses, ¿verdad? Así que usted podría estar esperando dos años y un montón de construcciones son sólo un cuello de botella por su capacidad para conseguir sus manos en los transformadores. Y lo mismo es cierto para los generadores, ¿verdad? Así que cuando se va esencialmente de gas natural a la electricidad, que es todo tipo de si está detrás del medidor en frente del medidor. La red en este momento está en un estado bastante lamentable y la cadena de suministro para la red tiene todos estos hermosos vectores de acceso que China en particular disfruta. Edouard: [46:15] Yikes. Ryan: [46:15] Ok. Así que para la gente que sigue la pista en casa, hablamos de los laboratorios y modelos de IA, y tal vez los EE.UU. es una especie de, estamos por delante en esa área. En cuanto a la energía y la electricidad, parece que China va por delante, aunque quizá podamos conseguir algunas fuentes de energía y ponernos al día. Pasemos a la siguiente parte, a la que ya has aludido antes, Ed, la computación en la pila de computación con chips, GPU y cadenas de suministro. Creo que tu informe de superinteligencia llama a las cadenas de suministro el talón de Aquiles de América. Creo que tu informe de superinteligencia llama a las cadenas de suministro el talón de Aquiles de América. Y un poco de contexto aquí es como, ¿habéis leído ese libro que salió o estáis familiarizados con el tipo de libro recientemente? Patrick, no puedo pensar en su apellido. Patrick McGee. Él estaba hablando de Apple en China y sólo va a través de los últimos 20 años de Apple y sólo documentar cómo, básicamente, Apple metódicamente subcontratado toda su cadena de suministro a China. Cómo Apple es básicamente una empresa china. Tiene 150.000 ingenieros en los EE.UU., pero 3 millones de su fuerza de trabajo están en realidad en China. Todo el proceso de montaje y el know-how, lo más importante, la capacidad y la competencia es sólo en China. Y no hay manera de replicarlo en Estados Unidos o, como, en cualquier otro lugar en el Ryan: [47:31] globo, al menos sin una década de esfuerzo de trabajo aquí. Vale, entonces la cadena de suministro, el talón de Aquiles de Estados Unidos, ¿cuál es la historia aquí? Jeremie: [47:40] Sí, el ejemplo de Apple es realmente bueno y revelador. Sí, quiero decir, eso es una especie de legado de Tim Cook, por desgracia. Y mientras ellos están, ya sabes, están semi-luchando para cambiar eso a la India, al menos hasta cierto punto, como dijiste, estas son cosas que toman décadas para la transición. Estos son gigantescos, inimaginablemente enormes sistemas humanos. Y la forma en que terminó sucediendo es ... Jeremie: [48:06] Quiero decir, Tim Cook era un tipo de la cadena de suministro. Entendió el costo de mantener inventario. El inventario es básicamente como un peso muerto si estás operando un negocio. Es por eso que haces inventario justo a tiempo cuando tus cosas llegan justo cuando se necesitan. El problema es que eso significa que no guardas nada para un día lluvioso. Y esto es fundamentalmente como una visión puramente económica que va como, ¿cuáles son los dólares y centavos? Lo que está en el balance que, básicamente, asume como el supuesto de base subyacente, tenemos un sistema mundial que se basa en normas y estable que estamos operando en la parte superior. De ahí viene todo esto. Usted no operaría de esta manera si su punto de vista fuera, hey, todo tipo de cosas locas podrían suceder. Los piratas podrían secuestrar mi barco. Los Houthis podrían volar mis rutas de suministro alrededor de lo que sea. Así es. Estas son cosas que sólo se llega a como usted tiene estos márgenes muy delgados alrededor de todo sólo cuando se tiene esta suposición subyacente de que el mundo es estable y seguro y nunca va a cambiar. Y esto nos lleva a externalizar nuestras cadenas de suministro a China. Como, la verdad es que mantener inventario es caro. Jeremie: [49:29] La fabricación es una especie de industria de mierda si estás en ella. Conozco a un montón de gente que está en la fabricación, y todo el mundo es, todos sus mentores son como, bueno, ¿cuál es tu consejo? Sal de la fabricación. El hardware es duro. Hardware es difícil. Es una mierda de negocio. Jeremie: [49:46] Y si eres un país tomando una parte de la cadena de suministro y si Camboya estuviera haciendo otra cosa y si fuera México haciendo una tercera cosa o lo que sea, entonces eso podría estar bien porque entonces ya sabes, como Estados Unidos, al menos no eres demasiado dependiente de un proveedor y puedes ser similar a ser un punto de integración en una cadena de valor como ya sabes, soy, digamos, soy, ya sabes, Windows, soy este gran integrador y tengo un zillón de aplicaciones que me sirven. Así que en realidad tengo todo el poder, a pesar de que hay un montón de aplicaciones individuales que necesito de forma colectiva. Esa podría ser una buena estructura. El problema es que cuando literalmente creas un montón de cosas, le entregas a un solo país, el poder de hacer todas tus cosas físicas, quiero decir, eso le da a ese país un montón de poder sobre ti. Y eso es potencialmente suficiente poder para desafiar la suposición de que el sistema fue construido en primer lugar. Jeremie: [50:45] Edouard: [50:47] Hay una dimensión de esto que es un poco más de una dimensión de buenas noticias en el lado de la cadena de suministro que tiene que ver con los chips. TSMC, obviamente, es la Taiwan Semiconductor Manufacturing Company, que fabrica todos los chips. Así que cuando piensas en semiconductores, estás pensando en un montón de gente en una fábrica gigante que está afinando diales. Y hay como 500 diales. Y si te equivocas en uno de esos diales, toda la cosa es inútil, ¿verdad? Así que 500 diales, ve a hacerlo, envía a un montón de doctores a hacerlo. Empiezas haciendo, muy aproximadamente para abusar ligeramente de la terminología, empiezas haciendo chips con una resolución de siete nanómetros y trabajas en ello diligentemente durante años. Usted es como, oh Dios mío, llegamos allí. Bien, ahora pasas a los cinco nanómetros. Ahora se pasa a la resolución de cinco nanómetros, el nodo de proceso de cinco nanómetros, luego el nodo de proceso de tres nanómetros, luego el nodo de proceso de dos nanómetros. Y todo el negocio de los semiconductores es este doloroso, arduo, insoportable proceso escalonado de bajar por esa escalera. Y esa escalera, por cierto, comenzó en micrones, muchos micrones, ¿verdad? Así que hemos estado bajando. Eso es lo que es la Ley de Moore, ¿verdad? Bajar la escalera de la resolución. Así que, bueno, la pregunta es, ¿dónde estamos ahora? Taiwan Semiconductor Manufacturing Company, el único lugar en el mundo que está en camino de hacerlo, que tiene un proceso de dos nanómetros. Edouard: [52:05] Ahora, por lo general, el proceso de dos nanómetros, cualquiera que sea el nodo líder, el más avanzado, todo eso va al iPhone. Históricamente, así es como ha funcionado. Así que Apple viene, van a TSMC, dicen, estamos comprando toda su mierda en la resolución más alta. La razón por la que lo hacen es que los iPhones son pequeños, así que lo quieren pequeño, lo quieren rápido. Esa es la idea, ¿verdad? Eso deja el siguiente nodo para los chips de IA. Así es como suele funcionar. Así que Apple subvenciona de facto el desarrollo del último nodo de TSMC, que es una ventaja competitiva crítica. Por eso TSMC tiene la ventaja que tiene. Nadie más tiene un socio gigante que venga y diga, oye, vamos a gastar cientos de miles de millones de dólares o decenas de miles de millones de dólares cada año para ayudarte a desarrollar el siguiente proceso y garantizarte un comprador. Pero entonces el siguiente nodo suele ser como NVIDIA, AMD, y toda esa gente. Edouard: [52:53] Así que la pregunta es entonces, está bien, ¿qué podemos fabricar en tierra hoy? ¿Qué puede hacer Estados Unidos? Bueno, TSMC acaba de abrir algunas fábricas masivas en Arizona, Fab 21, y hay otros que vienen en línea, que están empujando ahora, tipo de posicionamiento para ser capaz de hacer en última instancia, el proceso de tres nanómetros, a partir del proceso de cinco nanómetros. Y ya están viendo rendimientos sorprendentemente buenos. Esto significa que el proceso de cinco nanómetros y su variante, el proceso de cuatro nanómetros, se pueden utilizar para fabricar GPUs H100, que hasta hace 20 minutos eran las más avanzadas. Eso está pasando a los pozos negros. Pero la conclusión es que estamos haciendo lo que muchos habrían considerado imposible hace tan solo 12 meses. Estos rendimientos son serios. Este es un proceso serio. El gobierno taiwanés tenía una ley que impedía a TSMC fabricar su nodo líder fuera de la isla. Y ahora eso ha sido anulado. Ya no es el caso. Así que eso es un cambio realmente grande. Las otras piezas que estás empezando a conseguir. Así que TSMC está muy por delante de su competidor chino SMIC, que, por cierto, fue fundada por un tipo que robó o un grupo de personas que robaron un montón de IP de TSMC. Famosas demandas a principios de la década de 2000 que son fascinantes sobre esto. Pero de todos modos, lo que está sucediendo ahora, sin embargo, es que NVIDIA se está abriendo paso en el mercado, en realidad son capaces de competir con Apple en el nodo principal, Edouard: [54:12] Una especie de desplazamiento, lo que significa que vamos a ver un interesante fenómeno de salto de nodo donde de repente, ya sabes, solíamos fabricar a cuatro nanómetros. Ahora es como, oh, nos estamos saltando tres. Vamos a ir directamente a la fabricación de dos nanómetros. Así que vamos a ver ese gran aumento. Mientras tanto, la fábrica china SMIC es una especie de atascado en el mismo. Ya están utilizando su nodo líder para la IA y lo han hecho por un tiempo. Así que va a haber un pequeño repunte y esta historia de fabricación nacional va a estar sucediendo. Eso va a ser muy útil para la seguridad de la cadena de suministro. Pero hay otras cosas que no son tan buenas, incluyendo, de todos modos, como, toda la historia de A-Speed, sí, BMC, que... Es tal vez en la maleza, pero en realidad es como bastante, bastante freaking preocupante independientemente. Josh: [54:53] Sí, bueno, estos son al menos signos alentadores de que estamos tomando medidas para traer cosas de vuelta a la costa. Sé que vi que NVIDIA, los chips Blackwell se están haciendo en Arizona ahora, creo que es, en algún lugar de los Estados Unidos. Y me pregunto, ¿cuánto tiempo nos llevará conseguir que la fabricación de chips funcione aquí a esa escala de dos nanómetros? Porque sé que, aunque están ensamblando las GPU aquí en Arizona, muchas de esas obleas se siguen fabricando en Taiwán. ¿Existe un mundo en el que podamos dejar de depender de esa tecnología antes de que alcancemos la masa crítica de la inteligencia artificial que se producirá en los próximos dos años? ¿Hay algún progreso significativo que podamos hacer antes de llegar a este punto de ruptura? Jeremie: [55:31] Sí, definitivamente ya estamos haciendo algunos progresos significativos, como has señalado. Jeremie: [55:36] El reto, por supuesto, es cuánto de esa cadena, ¿verdad? Así que estás tratando de traer todos los nodos en tierra a la vez. Así que la fabricación es, sí somos capaces de hacer que aquí cada vez más creo que también, además, tenemos porque el envasado el siguiente paso así que después de que realmente fabricar la matriz de la cosa que hace la lógica y en realidad los procesos de las cosas que usted necesita para empaquetar en con como con la memoria derecha que necesita para empaquetar en con otros con la entrada de salida que usted necesita para poner realmente en un sustrato para que pueda no es sólo como no es sólo como un cerebro y los látigos látigos y remolinos que tiene memoria que puede Y recordar, podría comunicarse con otras cosas fuera de sí mismo y tiene todos estos pequeños subcomponentes. Y por lo que la capacidad de envasado también está siendo en tierra. Pero hay un montón de componentes, ¿verdad? Así que la pieza de la oblea, creo, es una de las piezas difíciles. Pero hay absolutamente un esfuerzo serio que se está haciendo para traer todo eso en tierra. Y el gobierno taiwanés está cooperando en gran medida en ese esfuerzo, que es, quiero decir, que es muy bueno de ellos, dado el hecho de que su propiedad de esa tecnología es una ventaja geopolítica significativa que tienen. Edouard: [56:52] El tiempo que se tarda en llegar a ese siguiente nodo de proceso en Arizona es, por lo que yo sé, todavía una incógnita, ¿verdad? Al igual que tienen sus 500 diales y los diales para la fábrica de Arizona son diferentes de los diales para la fábrica de Taiwán. De hecho, hacer una nueva fábrica es esta cosa notoriamente, como, legendariamente difícil hasta el punto de que Intel, cuando eran realmente relevantes para los chips, lo siento, Intel, tenían esta famosa política llamada copiar exactamente. Y cuando hicieron una nueva fábrica, que, literalmente, copiar todos los detalles hasta el color de la pintura en las paredes en el cuarto de baño porque no sabían lo que estaba funcionando en la fábrica preciosa, prístina que, gracias a Dios, fue realmente bombeando cosas. Así que es algo similar aquí. Es una incógnita. Estoy seguro de que TSMC tiene una idea mucho mejor, pero desde luego no es, que yo sepa, pública en este momento. Patrocinadores: [57:43] Imagina que tu cuenta corriente y tu monedero DeFi hablaran por fin el mismo idioma. Eso es Mantle Banking, una cuenta fiat y cripto todo en uno. Te permite ahorrar, gastar e invertir desde un único panel de control. Pásate por un café, apuesta por el rendimiento de ME3, o incluso utiliza tarjetas virtuales para pagos a través de Apple Pay. Así que parece una Web 2 sencilla, pero sigue siendo una Web 3 soberana. Para los asignadores, conozca Mantle Index 4, el S&P 500 de las criptomonedas, un fondo tokenizado de grado institucional sembrado con 400 millones de dólares de la tesorería de Mantle y equilibrado entre Bitcoin, Ether, Sol y establos de rendimiento mejorado. Un activo, amplia exposición, pura componibilidad DeFi. El impulso es real. Los fallos de ME, los puentes FBTC y una tesorería comunitaria de 2.400 millones de dólares están impulsando la siguiente fase de las finanzas en la cadena. Mantle aporta acceso al mundo real, rendimiento y utilidad a los activos digitales. Patrocinadores: [58:26] ¿Preparado para la próxima era de las finanzas en la cadena que realmente pertenece a 2025? Explora mantle en mantle.xyz or follow mantle underscore official mantle bridging tradfi and defi so you don't have to binance is the world's number one crypto exchange over 275 million users already trust their world-binance hace que empezar a operar con criptomonedas sea tan sencillo como debería ser, ya sea aprendiendo sobre criptomonedas en binance academy o navegando por cientos de activos y visualizando su cartera recién creada en un panel de control claro y fácil de seguir binance le ayuda a ir a su propio ritmo para los operadores más exigentes binance pro abre servicios líderes en el sector para los profesionales del trading con productos de trading totalmente personalizados junto con un conjunto de servicios de guante blanco para clientes vip e institucionales necesita una plataforma de negociación de primera clase para sus clientes vip e institucionales. servicios para clientes vip e institucionales necesita apoyo 24 7 servicio al cliente está a la mano siempre que lo necesite y con algunas de las tasas más bajas y la liquidez más profunda en el mercado no es de extrañar por qué más de 275 millones de usuarios confían en binance para todo cripto descarga binance hoy y empezar en cuestión de minutos binance no está disponible en algunos países, incluyendo los estados unidos consulte sus términos para obtener más información Ryan: [59:24] Bien, mientras estamos perdiendo en el tipo de la cadena de suministro cuando se trata de la fabricación de cosas como el iPhone, ¿verdad? Debido a que TSMC se basa en Taiwán, porque algunos de los conocimientos técnicos está llegando a los EE.UU.. Y sólo cuando nos fijamos en el tipo de los números, se siente como en esta dimensión, los EE.UU. está por delante con respecto a su suministro de chips. Tenemos acceso a más y mejores chips que China en este momento y, como ya han mencionado, el control de las exportaciones también contribuye a ello. Sólo por curiosidad, ¿cuán sostenible, cuán duradera crees que es la ventaja de los chips en este momento? Jeremie: [59:59] Probablemente con el tiempo se erosione, aunque no demasiado pronto. Yo diría que hay unos pocos años, pero también hay - siempre hay que mirar a todo el sistema, ¿verdad? Así que es un reto para mirar verticales individuales y ser como, que tipo de tiene que mirar lo que es todo el sistema. Y la clave es siempre, ¿cuál es la restricción dominante en el sistema en un momento dado en un régimen determinado? Así que usted piensa acerca de los chips en el lado chino. OK, ya sabes, podríamos estar ganando en chips. Digamos, ya sabes, que es 2027, 2028. Todavía estamos ganando en chips en que tenemos más, ya sabes, chips más eficientes y mayores volúmenes. Jeremie: [1:00:47] Tal vez son capaces de traer a pesar de que tenemos como ese proceso de dos nanómetros o lo que sea. Así que tenemos los Rubens, que son después de los Blackwell, y esos son chips super impresionantes. Así que tal vez sus chips son peores, ¿verdad? Pero tal vez son capaces de hacer más de ellos, y tal vez tienen tanta potencia disponible que son capaces de superar esa limitación de chips. Y tal vez también son capaces de pasar de contrabando y en tierra cantidades significativas de nuestros chips y desviar de esa manera. Así que cuando estás en este tipo de juego competitivo, se trata realmente de algo así como, ¿Quién es nada estático. Todo el mundo está tratando de encontrar un ángulo. Todo el mundo está tratando de como, ya sabes, borde, borde frente a la otra. Y por lo que, ya sabes, pueden encontrar una estrategia que acaba de obtener alrededor de una restricción que pensamos que era esto como, OK, no es esta es la categoría. Así que todo lo que tengo que decir, creo que es probable que permanezcamos a la cabeza en ese frente durante al menos dos o tres años, si tuviera que adivinar. Pero entonces, por supuesto, todo es discutible porque la elusión final es que todavía están robando toda nuestra mierda. Asi que hasta que no tengamos una buena o adecuada seguridad en todos los niveles para los modelos y en otros dominios, quiero decir, es todo un tipo de - ellos pueden hacer trampa en el ultimo paso. Edouard: [1:02:01] Ellos estan como muy diligentemente protegiendo las bolsas de lona llenas de dinero mientras son arrojadas al coche de un ladron. Como, sí, quiero decir, eso es parte de ella. Pero también, quiero decir, creo que también es interesante, si vas a predecir el futuro, también tienes que ir por cada vertical y pensar en, ya sabes, está bien, bueno, lo que realmente podría suceder aquí y aquí porque entonces hay interacciones. Y en ese sentido, si nos fijamos en la historia de los chips y en cómo vamos a posicionarnos, ¿qué determina eso? ¿Qué lo determina? Ya sabes, ¿cómo vamos a estar posicionados allí en unos tres, cinco años? Uno de los insumos clave aquí son las máquinas de fotolitografía. Al igual que no hay escapatoria que. Esta es la cosa. Es curioso en toda esta cadena de suministro, siempre hay como un monopolio en cada nivel de la pila. Así que por ejemplo para la fabricación de los chips, es TSMC. Ellos simplemente dominan. Pero entonces, si usted realmente va a hacer uno de estos chips, a la derecha, se toma un pedazo de vidrio. Voy a hacer un bosquejo de esto, pero se toma un pedazo de vidrio y luego se hace brillar un láser sobre ese vidrio para hacer brillar el patrón de los circuitos que se desea imprimir en él. El láser que se utiliza para brillar esos circuitos es exquisito. Exquisito ni siquiera empieza a describirlo Edouard: [1:03:11] En los viejos tiempos, Edouard: [1:03:12] La gente usaba DUV, litografía ultravioleta profunda. Se trataba de una luz de 170 nanómetros que brillaba sobre la oblea y se hacía... en fin, era un sistema muy caro con un montón de espejos y cosas así, lo cual está bien. Estas cosas cuestan cientos de millones de dólares. Y esa es la frontera de lo que China puede utilizar hoy en día. Tenemos en una empresa holandesa llamada asml este es el otro tipo de monopolio ahora en la capa de fotolitografía el nivel de láser por lo que esencialmente tienen esta cosa llamada litografía ultravioleta extrema y para pensar en una máquina de litografía ultravioleta extrema sólo como poner esta idea en tu cabeza tienes que imaginar que hay un tipo de metal como el tungsteno de metal fundido que está siendo disparado fuera de una cosa. Así que disparas un rayo láser, un pulso láser que está programado mientras esta cosa de tungsteno está volando. El láser pre-pulsado lo aplana y sigue volando. Ahora es plano como un espejo. ¿Por qué como un espejo? Eso es importante porque ahora un láser de CO2 va a golpearlo, excitar los átomos, y disparar básicamente un rayo X que luego vas a recoger a través de 11 espejos. Y por cierto, esos espejos no son lentes. así que es un dolor en el culo para la óptica, legendariamente un dolor en el culo porque normalmente usas lentes para enfocar la mierda en óptica Edouard: [1:04:35] Usando espejos esta vez, Edouard: [1:04:37] Porque esencialmente a 13 nanómetros, que es la longitud de onda de alta energía de la luz que usan, todos los ópticos son super absorbentes. Así que nunca obtendrías nada del sistema. Así que ahora tienes todos estos espejos. Por cierto, la otra cosa que es absorbente es el aire mismo. Así que ahora estás trabajando en un maldito vacío porque eso es lo único que no absorberá tu luz de 13 nanómetros. Así que tienes 11 espejos diferentes organizados sólo para que literalmente tengas espejos con agujeros en ellos para que los rayos puedan pasar a través de los espejos en el otro extremo y es un gran dolor en el culo. Y ahora incluso la maldita cosa que estás imaginando es en sí misma un espejo. El patrón del circuito que estás imaginando es un espejo. Así que esto es algo imposible de hacer, ¿verdad? Así que China no va a replicar que en casa. No va a suceder. Pero hay una cuestión de hasta dónde se puede llegar con la vieja generación de litografía ultravioleta profunda antes de verse obligado a ir EUV. Y esa va a ser una de las limitaciones clave, clave. Si podemos mantenerlos en el DUV, probablemente signifique que sólo les quedan un par de generaciones, porque lo que se ven obligados a hacer ahora con sus máquinas DUV de mierda es tomar el mismo chip, pasarlo a través de un montón de veces, hacer esta cosa llamada multi-patterning que ralentiza su producción, tienen que pasar como tres cuatro veces sólo para obtener el mismo nivel de resolución que hacemos con una sola pasada, con el tiempo eso se nota en sus rendimientos y en su economía unitaria y eso se vuelve insostenible, así que la cuestión de cuándo empieza realmente a entrar en acción, pero eso es de todos modos, lo siento, eso es como mi mi euv Ryan: [1:05:57] Es tan loco porque este es un ejemplo de lo poco que hemos estado pensando en esto durante las últimas tres décadas más o menos. Y al igual que la experiencia de que acaba de obtener su iPhone y está en un paquete bonito. Nadie piensa en ello. Edouard: [1:06:12] Toda la mierda que entró en como hacer que esa cosa suceda. Ryan: [1:06:15] Y cuando te sumerges en la cadena de suministro, es necesario. Hay todas estas piezas intrincadas que sólo una empresa hace con un puñado de especialistas. Y te das cuenta de lo frágil que es realmente y lo increíble que es que algo de esto funcione en primer lugar. Permítanme preguntarles acerca de otra dimensión que podría entrar en juego. Con China y su capacidad para fabricar dispositivos de consumo con chips a una escala sin precedentes, parece que podría ser útil cuando la IA se desplace al mundo físico en el mundo de los robots, ¿verdad? Ya estamos viendo esto con los drones. Pero con el tiempo, vas a tener la aplicación de la IA en una especie de espacio de la carne, ¿verdad? Ryan: [1:06:56] El poder físico, el monopolio de la violencia. Esto es lo que hacen los estados nación. Así que puedes imaginar ejércitos de robots, drones, enjambres de drones, flotas autónomas, todo este tipo de cosas. Parece que de todas las cosas que hemos discutido hasta ahora, tal vez aquí es donde los EE.UU. están peor posicionados. Y todavía no estamos en esta era. Pero se puede imaginar que las guerras del futuro se libran con robots, esencialmente. ¿Dónde vamos a producir esos robots? ¿Han considerado esta historia aquí y cómo se ve para los EE.UU. frente a China? Sí. Jeremie: [1:07:27] Así que, quiero decir, es probable que la escala de tiempo de esto esté potencialmente más allá o podría estar más allá de la escala de tiempo de AGI o software AGI. Pero es absolutamente relevante y cada vez lo es más. Así que la robótica se beneficia de la iteración como cualquier otro hardware, cualquier otra cosa. Y la iteración en el hardware se beneficia enormemente de poder ir por la calle y conseguir una pieza mecanizada a las 3 de la mañana por 12 céntimos. Y el único lugar donde se puede hacer eso de forma fiable es en Shenzhen. Y eso significa que usted tiene, sí, como Estados Unidos fue el primero en como inventar robots humanoides que realmente tipo de trabajo. ¿Vamos a ser los primeros en escalarlos y perfeccionarlos y hacer estos bucles de iteración? Bueno, muéstrame un lugar en Estados Unidos donde se puede obtener como un maldito servo motor mecanizado a las 3 a.m. por 12 centavos. Eso es lo que pasa por tener una base industrial gigantesca todos juntos en la misma ubicación geográfica. Es una gran ventaja para todas esas cosas. Y así, sí, como yo personalmente, tenemos grandes preocupaciones acerca de esto porque. Jeremie: [1:08:45] Como incluso, ya sabes, incluso los optimistas, los componentes son de origen chino. Y eso afecta la velocidad de iteración. Y, por supuesto, como Elon y sus empresas se esfuerzan por como fuente interna y construir la mayor cantidad de sus propias cosas como les sea posible. Pero en un cierto punto de la cadena de suministro, como y esto es una estrategia intencional, ya sabes, de nosotros, como hemos mencionado, básicamente entregamos nuestra base industrial. Pero también, para su crédito, estratégicamente, el PCCh y el Estado chino entiende la ventaja que estábamos dando a ellos y se duplicó en. Había una iniciativa hecha en China 2025, como parte de los planes quinquenales que Xi Jinping promulgó. Y eso ha funcionado como si miraras Jeremie: [1:09:29] las cosas de Amazon que te entregan en casa. Todo está hecho en China. Se están esforzando mucho para que eso ocurra. Así que es como que se necesita un tirón para revertir ese efecto. Y creo que, sí, nos fijamos en los robots humanoides, nos fijamos en los aviones no tripulados, nos fijamos cada vez más en cómo van a ser estas cosas, cómo se van a librar las guerras. Esto se vuelve muy, muy desafiante. Sí. Hablemos de... Ryan: [1:09:52] Cultura y talento como otra dimensión aquí. Vi este gráfico recientemente, y creo que es un gráfico de los diferentes países, y está trazado en el porcentaje que están nerviosos por la llegada de la inteligencia artificial y entusiasmados. Y se puede ver que la mayoría de la cultura occidental, la anglosfera, existe en esta área de entre el 60 y el 70% de la población no está muy entusiasmada y está muy nerviosa acerca de la IA y su efecto sobre, ya sabes, las instituciones y, ya sabes, como todo en la sociedad. Mientras que en Asia, en China, la gran mayoría de la población está más entusiasmada, entre el 70 y el 80%. Y hay un montón de análisis de por qué esto podría ser y como las diferencias entre el tipo de, ya sabes, las décadas de relativamente, ya sabes, uno a dos por ciento de crecimiento del PIB frente a lo que China y muchos de los países tigres asiáticos han tenido recientemente. Pero quiero hacer una pregunta en torno a una cultura como la cultura de EE.UU. frente a la cultura china con respecto al tipo de construcción, el espíritu empresarial, el dinamismo. Es algo de lo que Estados Unidos se enorgullece. Y sin embargo, tenemos un público que ahora es un poco más tecnófobo, un poco adverso a la construcción. Edouard: [1:11:09] Creo que Estados Unidos es realmente grande. En cuanto a lo que dice Ed sobre el gobierno, una vez que te centras en San Francisco, creo que las cifras empiezan a ser muy diferentes. Y en cuanto a lo que decía Ed sobre Shenzhen, San Francisco es donde se pueden ubicar las empresas, lo que suele impulsar los resultados o ser un factor importante. Y en la medida en que San Francisco es la ciudad de la gente tecno-optimista de la aceleración de la IA, que sería desproporcionadamente, yo asumiría que si hicieras una encuesta de esto mirando a la gente conocedora de la tecnología en el Área de la Bahía, se vería muy diferente. Así que hay una cuestión de qué Estados Unidos está compitiendo con qué China o qué parte de Estados Unidos está compitiendo con qué parte de China es una especie de sub-parte. Pero hay una cuestión más amplia de que Estados Unidos tiene una educación de mierda y en general, como hemos traído históricamente, muchos de los mejores fundadores del mundo. Usted sabe, muchos de los famosos, usted sabe, usted mira el Fortune 500, ¿cuántos de ellos son indios, ¿verdad? Cierto. Es bastante. De hecho, todos los laboratorios Frontier son propiedad indirecta o al menos tienen asociaciones muy profundas con entidades que son dirigidas por asiáticos del sur. Correcto. Ryan: [1:12:18] Ustedes son canadienses, también. Cierto. Así que importados a EE.UU. Sí. Sí. Yo también podría decir esto, porque también soy canadiense y vivo en EE.UU., ¿verdad? Edouard: [1:12:27] Sí. Sí, exacto. Correcto. Es y es la opción obvia. Así es. Esta es la decisión que tuvimos que tomar: ¿dónde construyes tu vida profesional? Y es como, esta es la fuente de capital, sino también de talento y tecno-optimismo. Quiero decir, eso es lo que los EE.UU. es en relación con Canadá, sin duda, en el Valle. No es que estemos pensando en, oh, bueno, vamos a trasladarnos a la zona rural de Ohio. Era como, vamos a centrarnos en el cultivo del ecosistema de San Francisco. Vamos a ir y hacer Y Combinator. Vamos a hacer esas cosas. Y ahí es donde ves el tipo de gente que buscas. Pero el reclutamiento es un tema aparte, ¿verdad? Como, ¿dónde vas a encontrar el talento fresco si en general todo el país se inclina de cierta manera? Eso es un problema. Es una cuestión aparte en cuanto a, como, lo que refleja la realidad subyacente de hacia dónde podrían ir estas cosas. Sería una lástima, pero es posible que la realidad acabe influyendo Edouard: [1:13:22] en la actitud estadounidense en general más que en la china. Ryan: [1:13:26] Pero, ¿diría usted que los EE.UU. tienen ahora mismo una ventaja en talento con respecto a China? Edouard: [1:13:32] En general, yo diría que los EE.UU. tienen una ligera ventaja en talento en ciertas áreas, como la arquitectura de modelos.En general, yo diría que los EE.UU. tienen una ligera ventaja de talento en ciertas áreas, como la arquitectura de modelos, que son cada vez menos separables, pero en el nivel de computación, en el nivel de ingeniería, puede que China tenga una ventaja moderada. Uno de los grandes retos es que muchos investigadores estadounidenses se han trasladado a China recientemente, pero creo que una gran cantidad de colaboraciones muy ingenuas desde los primeros días entre las instituciones estadounidenses y las instituciones chinas en el clásico, vamos a llegar a liberalizar compartiendo los bienes tipo de filosofía. Ryan: [1:14:14] Tengo curiosidad por las diferencias estructurales entre nuestros gobiernos, ¿verdad? Así que tienes a China, que es una especie de capitalismo nacional centralizado, patrocinado por el estado, algo así, y Estados Unidos, que es una especie de democracia capitalista tradicional de EE.UU. ¿Tiene China una ventaja estructural como tal vez una ventaja de coordinación en este mundo o el dinamismo estadounidense es el que gana aquí? Jeremie: [1:14:39] Así que eso es realmente bueno, las dictaduras en los países autoritarios a menudo tienen ventajas en velocidad, al menos cuando, la situación no es obviamente crítica para todos en la democracia, en el contexto democrático. Así que los autoritarios pueden moverse rápido. Lo que deshace a los regímenes autoritarios a largo plazo, por supuesto, es que con el tiempo los líderes se convierten en una especie de guisar en sus propios jugos en términos de su entorno de información. Nadie quiere decirles que no. Y eventualmente llegan a un espacio donde los datos que reciben no son confiables y están tomando decisiones basadas en esos datos. Así que terminan moviéndose tal vez muy rápido, pero como en la dirección totalmente equivocada. Y un ejemplo de esto es una especie de mini ejemplo es Putin invadió Ucrania cuando todo su equipo era en realidad como super jodido y no se mantiene adecuadamente porque ninguno de sus chicos en realidad quería decirle lo jodido su situación era. Así que tuvieron que esperar a darse de bruces con la realidad para averiguarlo. Este es uno de los problemas de las dictaduras. Ahora, el riesgo para nosotros es. Jeremie: [1:15:52] Las dictaduras y los regímenes autoritarios, si apuntan en la dirección correcta, si saben, si realmente lo hacen, ya sabes. Jeremie: [1:16:01] Genuinamente buenos apuntándose a sí mismos, pueden en ráfagas cortas competir con democracias que no son conscientes de la amenaza a la que se enfrentan. Y nuestros adversarios conocen la historia, ¿verdad? Como los rusos y los chinos saben que Pearl Harbor ocurrió y lo que le pasó a Japón. Saben que el 9-11 sucedió y lo que pasó con eso. Saben que no deben dar a Estados Unidos un momento Pearl Harbor porque históricamente tienes un mal momento si le das a Estados Unidos un momento Pearl Harbor. Entonces, ¿por qué lo harían? ¿Por qué harían una gran cosa desencadenante que nos pone a todos alineados y remando en la misma dirección? En lugar de eso, es mucho más efectivo para ellos seguir erosionando nuestro entorno de información, seguir haciendo cosas como la financiación. Quiero decir, esto es en realidad esto es una cosa conocida. Muchos de los grupos que protestan contra los grandes proyectos de infraestructura, centrales eléctricas, cosas por el estilo. De hecho, la mayoría de ellos son a través de un canal u otro financiado por nuestros adversarios. Y este es un tema muy, muy espinoso. Es cierto. Va directo a la libertad de expresión y están apuntando directo a nuestro principal, principal valor. Jeremie: [1:17:18] Tenemos esta sociedad abierta. Tenemos una sociedad donde es saludable y es bueno para una persona poder decir, hey, como, no construyas esta planta nuclear en mi patio trasero. Eso me incomoda. Edouard: [1:17:29] Sí. Jeremie: [1:17:31] El problema es cuando esa voz se amplifica de forma no natural por el dinero de los adversarios con la intención de erosionar nuestra capacidad de construir estos proyectos de infraestructura a nivel nacional. Esa es en realidad una gran parte del problema, que esto esté ocurriendo, que los adversarios estén arrojando intencionadamente arena en nuestros engranajes de esta manera. Quiero decir, por cierto, la forma en que esto funciona no es que inventen una causa y traten de impulsar esa causa porque eso tiende a fracasar como estrategia de guerra de información. Parece falso. En realidad no hace que la gente se reúna. En cambio, toman causas genuinas que son pequeñas y ponen dinero y recursos contra esas causas, ofuscadas, por supuesto, y las amplifican. Y nunca es como Rusia me esta apoyando. Ryan: [1:18:17] Nadie lo haria Jeremie: [1:18:17] Ir con eso si lo supieran. Pero en lugar de eso, es como, oh, hay, ya sabes, hay un millonario que simpatiza con esta causa medioambiental de un pequeño pueblo que está dando dinero generosamente y bla, bla, bla. Pero detrás de ese millonario están los sospechosos habituales. Josh: [1:18:33] ¿Cómo se manifiesta eso? Esos el tipo de vector de ataque. Supongo que te refieres a la guerra de la información. Jeremie: [1:18:39] Supongo que me refiero específicamente a la guerra legal. Así que demandas para tratar de frenar los proyectos de infraestructura. Josh: [1:18:46] ¿Pero eso también significa, porque desplazándose por Twitter todos los días, veo un montón de bots que tienen opiniones muy extremas. ¿Es alguien como China con intenciones maliciosas que está tratando de influir en la opinión pública? Jeremie: [1:18:56] Los que notas que son bots son los que notas que son bots, ¿verdad? Los, los bots, son los bots que no notas como bots los que son más preocupantes. Y, por supuesto, hay miles de millones de ellos y probablemente ahora más de los que hay seres humanos reales, simplemente porque ¿cómo saber la diferencia? No se puede. Los bots son tan buenos como los humanos hablando en Twitter. Edouard: [1:19:19] Sí, Josh, tu punto, quiero decir, parte de esto es, leí tu punto como, ok, ¿cómo podemos, cómo podemos tener una idea de la escala de esto, ya sabes, en el universo bot? Josh: [1:19:30] Sí, ¿cómo se ve realmente? Edouard: [1:19:36] No es la respuesta corta, pero la mínima o una nota histórica interesante es hacer la pregunta. ¿Cuándo lo supimos? ¿Cuándo fue la última vez que tuvimos acceso a algún tipo de verdad sobre el terreno al respecto? Y una indicación es como, así que si nos remontamos a alrededor de 2021, por lo que en ese entonces, la Agencia Rusa de Investigación de Internet, que es famoso por ser acreditado con la interferencia en las elecciones presidenciales de 2016 y, ya sabes, contrató a miles de contratistas. Trabajaban todo el día, todo ese jazz. Así que la Agencia Rusa de Investigación de Internet utilizaría thispersondosnotexist.com. Así que esto es como el sitio web donde cada vez que se actualiza, se obtiene una nueva cara de una nueva persona, ¿verdad? Bueno, esta persona no existe.com una vez utilizado para producir imágenes que podrían ser detectados como tipo de ser imágenes falsas. Y hay, y me olvido de cómo son los números, pero hay estudios que se han hecho viendo el número de este tipo de perfiles que fueron revelados. Y esto era una cosa activa en ese entonces. Y así, usted sabe, usted puede imaginar que hay como la infraestructura. Y aquí realmente imaginar como infraestructura de software. Al igual, hay hermosas aplicaciones, derecho, con interfaz gráfica de usuario agradable, y están ahí para los operativos sólo, como, generar un montón de agentes. Y en ese universo, sí, quiero decir, como, no sé. El cielo es el limite. Jeremie: [1:20:56] Si. Hay maneras también de influir a través de no bots, ¿verdad? Porque una de las cosas que - ustedes tal vez han oído hablar de este fenómeno llamado captura de audiencia donde, ya sabes, tienes una gran figura importante en una plataforma de medios sociales y que inicialmente comienzan, ya sabes, publicando cosas interesantes y reflexivas y equilibradas y cuidadosamente pensadas. Pero con el tiempo, a medida que tu audiencia aumenta y tienes cientos de miles, millones de seguidores... ...te sientes atraído psicológicamente por el mínimo común denominador. Así que no es una cuestión de que están manipulando. Es más como, oh, cuando publico sobre esto, tengo más me gusta y sigue y como reposts y lo que sea. OK, genial. Jeremie: [1:21:44] Puedes imaginar ese proceso ahora con bots similares a humanos siendo cada vez más utilizados como armas. Y así, una figura importante en una plataforma de medios sociales, ya sabes, no es necesariamente que, como, estas cuentas están siendo tan abierta como para decir, oh, sí, como, usted no está publicando suficiente acerca de cómo China es impresionante. Pero, como, ya sabes, publicas algo sobre cómo, oh, sí, como, en este, ya sabes, Año Nuevo Chino, es genial, como, celebrar los logros de los chino-americanos, que es todo genial y legítimamente impresionante. Pero entonces eso sólo recibe muchos más likes que otro post equivalente sobre algún otro grupo demográfico. Y luego poco a poco durante meses y años te vas acercando a los tipos de puntos de vista que estás tratando de ser atraído. Ryan: [1:22:27] ¿Alguna vez leyeron los libros sobre los tres problemas del cuerpo? Sí. Los libros de los tres cuerpos. VALE. Os acordáis me parece que hace tiempo que los leí. Pero recuerdan a los Trisolarianos, ¿verdad? Es la raza alienígena que viene básicamente a destruir el mundo. Pero la cosa es que están en un sistema estelar que está relativamente cerca, pero aún así les lleva cientos de años, básicamente siglos, hacer todo el camino hasta la Tierra. Pero la información puede viajar más rápido. Y así, lo que estaban tratando de hacer esencialmente a la Tierra, porque tenían mucho miedo de que la Tierra, básicamente, el nivel de su tecnología. Y para cuando se encontraran con ellos en batalla, la Tierra sería tan sofisticada, que podría derrotar a la flota Trisolariana. Así que lo primero que hicieron fue empezar a financiar todos estos memes de decrecimiento, básicamente, ¿verdad? Y de alguna manera inyectar eso en la cultura de la Tierra para despistar a la Tierra de su juego y como, oh, realmente no necesitas la fusión. Como que la tecnología no es algo en lo que deberías invertir. Y así fue como trataron de despistar a la Tierra para que no pudiera progresar tecnológicamente. Parece que en teoría, eso es lo que estás diciendo que China podría jugar contra los EE.UU. Edouard: [1:23:38] Sí. Jeremie: [1:23:39] Y no sólo China. Tenemos una serie de adversarios a los que les encantaría que fuéramos totalmente decrecientes. Sí. Edouard: [1:23:47] Y hay como, esto es casi una especie de intersección divertida también, porque, ya sabes, ciertamente pensamos que hay un montón de pruebas que apuntan a la idea de que, sí, ya sabes, Eliezer lo dijo en tu programa famoso muy alto por primera vez que realmente lo escuché decirlo muy alto en forma de podcast que podemos perder el control sobre los sistemas de IA y que eso puede ser catastróficamente peligroso, ¿verdad? Correcto. Edouard: [1:24:10] Eso puede ser cierto. Y también puede ser amplificado por nuestros adversarios. Es una mierda realmente complicada. ¿Cómo se hace ese cálculo cuando las ondas están saturadas de verdades útiles para el adversario? Y realmente tienes que pensar cuando piensas en esa verdad, tienes que pensar en, no, no, no en la verdad, sino en tu verdad. Lo que crees está siendo convertido en un arma de esa manera. Y es realmente desafiante. Quiero decir, usted trata de mantener la cabeza en su lugar, no super obvio en un contexto en el que, al igual que, si usted piensa acerca de la historia de los ataques cibernéticos, Muchos de los ataques cibernéticos que vemos jugar durante años, ¿verdad? Nos enteramos de, ya sabes, como un gran nuking de como todos estos servidores de Ucrania durante la noche. Y nosotros como que decimos, está bien, sí, eso fue, ya sabes, eso fue un gran golpe y deben haber estado haciendo la investigación durante meses. Pero a menudo son años, incluyendo años de, y por lo general son años de tratar con la gente, ¿verdad? Ataques de ingeniería social. Y así, y me olvido de cuál era este con el GitHub. Básicamente, literalmente consiguieron que esta persona se apoderara del GitHub de Linux. Sí, esto fue reciente, Ryan: [1:25:20] ¿Cierto? Edouard: [1:25:20] Sí. Hay tantos ciberataques. Ryan: [1:25:23] Es difícil de mantener. De acuerdo, parece que el panorama general es que entre Ryan: [1:25:29] EE.UU. y China, en este momento cualquiera puede ganar. Y parte de tu llamada a la acción es que Estados Unidos despierte, que no sea tan ingenuo en el juego que está jugando. Y creo que tienes algunas recomendaciones específicas. Así que supongo que ahora que empezamos a cerrar esto, la pregunta para ustedes es ¿hacia dónde vamos a partir de aquí? ¿Y cuáles son sus recomendaciones para el Gobierno de EE.UU., para Frontier AI Labs, para el público en general? Jeremie: [1:25:58] Sí, yo diría que la pieza de seguridad de cara al futuro es la número uno. Porque, de nuevo, todo lo que hemos hablado, esto es super importante. Es crítico. y ustedes han hecho un gran trabajo de organización y estructuración para que sea comprensible y digerible. El problema es siempre... Edouard: [1:26:16] Ellos pueden simplemente Jeremie: [1:26:16] Como tomar la última pieza y como robarla. Y así todo el edificio hasta que tengamos esa seguridad en su lugar básicamente no importa porque pueden simplemente pueden simplemente tomar nuestras cosas. Y también pueden posteriormente, de alguna forma, desactivar nuestros entrenamientos o nuestra capacidad de utilizar el modelo que hemos desarrollado si realmente piensan que está en juego. Así que pueden hacernos stuxnet. Así es. Así que el número uno es que tenemos que levantar esas paredes y tenemos que poner esas cosas de seguridad en su lugar. Quiero decir, en realidad estamos trabajando en el desarrollo de un conjunto de normas para los centros de datos resistentes al Estado-nación y otro tipo de aspectos de seguridad para Frontier Labs. Así que si alguien está interesado en contribuir a ello, que se ponga en contacto con nosotros. Pero ese es el siguiente paso absolutamente crítico que se necesita para que podamos, ya sabes, tener la oportunidad de tener un verdadero liderazgo. Edouard: [1:27:15] Sí. El otro ingrediente allí, también, es como usted no puede construir la fortaleza perfecta. Ya sabes, esto es cualquiera que trabaje en ella no importa el tipo de seguridad, en realidad. Quiero decir, es sólo una verdad de Perogrullo, lo que significa que usted necesita pensar en la teoría del juego detrás de la escalada a ASI de manera diferente. No estás simplemente haciendo una fortaleza perfecta. En realidad tiene que haber actividad ofensiva. En este momento, simplemente no tenemos la infraestructura china en riesgo de la misma manera que ellos tienen la nuestra en riesgo. Edouard: [1:27:43] Y eso significa que desde su punto de vista, pueden seguir lanzando golpes y golpearnos en la mandíbula. Y nosotros simplemente nos sentamos y lo aceptamos. Y no hay ninguna consecuencia. Así que el desafío aquí está en la parte uno de la voluntad. Históricamente, el gobierno estadounidense se ha mostrado reacio a autorizar ciertas actividades dirigidas contra China y otros adversarios por diversas razones. El miedo a la escalada es una de las principales. El problema es que, si en tu mente, todos los caminos van directos a la guerra nuclear, entonces pierdes toda influencia en lo que en última instancia es una negociación en torno al uso y desarrollo de esta tecnología. Quiero decir, no es una negociación bonita porque implica recibir puñetazos en la mandíbula y lanzar puñetazos a la mandíbula. Pero si quitas eso de la mesa y te cuentas la historia de que, oh, bueno, no podemos hacer X porque esto podría aumentar marginalmente la probabilidad de lo que sea. La realidad es que la inestabilidad aumenta cuando retrasas tu interdicción más tarde, cuando lo que está en juego es más importante. Cuando se establece una norma de, OK, ustedes van a hacer ustedes van a ir a cortar un cable transatlántico. Genial. Ahora estamos ahora esto esta pasando. Edouard: [1:28:51] Como entonces se mantiene en sub-umbral. Edouard: [1:28:53] Entonces se mantiene por debajo del nivel de, ya sabes, intercambios escalatorios. Mientras que si esperas a que un país invada a otro, si esperas a que, ya sabes, se conquisten tierras y muera gente, entonces la respuesta, la única respuesta apropiada, es una respuesta más escalatoria en esa fase. Así que es algo así como criar a un niño. Como, ya sabes, muy delicado, muy suave al principio. Ya sabes, sí, no pongas eso en tu boca, por favor. Gracias, gracias. En lugar de esperar a que pasen por una vida en la que son adictos a la cocaína y tienen todo tipo de enfermedades y todo es un desastre y estás como, bueno, tengo que meterte en la cárcel. Es el mismo principio. Estas relaciones nación-estado son dinámicas y responden a causa y efecto y responden a la interacción. Y cuando sólo estamos tomando en la mandíbula, todo lo que estamos haciendo es enseñar a nuestro adversario a seguir lanzando golpes. Y en un juego de superinteligencia, hay muchas razones, no todas las cuales podemos discutir necesariamente, pero que eso es una muy, muy mala idea. Ryan: [1:29:50] En los juegos de superinteligencia, creo que todo el mundo está preocupado por un conflicto caliente también. Y por supuesto, si estamos compitiendo económicamente, ese es un gran espacio para competir. Si estamos compitiendo por el talento, por la tecnología, ese es un gran espacio para competir. Creo que todos los que están escuchando probablemente se dan cuenta de que cualquier tipo de escalada de conflicto caliente, básicamente todo el mundo pierde en ese juego. Y me pregunto si usted ve una manera optimista de que todo esto se desarrolle. Porque, ya sabes, tenemos que terminar estos episodios con un poco de optimismo. ¿Hay alguna manera de que, quiero decir, la tecnología que estamos desarrollando ahora es increíble. Y siempre y cuando superemos la superinteligencia y no creemos una IA desalineada que nos destruya a todos, ver otros podcasts para algo de material sobre eso. Podríamos marcar el comienzo de un futuro increíble para las generaciones venideras. Y también podemos cooperar con nuestros adversarios, competir con ellos, pero también cooperar de alguna manera y construir un futuro más brillante para la humanidad. Supongo que mi pregunta para ustedes es, ¿hay un final feliz en su mente? Y si llegamos al otro lado y es feliz, ¿qué habrá pasado? Edouard: [1:30:59] Bueno, un ingrediente es que necesitamos entrar en un régimen de confianza pero verificación con nuestros adversarios, ¿verdad? Como que no va a haber un régimen estable hasta que todo el mundo pueda verificar que todos estamos usando nuestras IAs de la manera correcta. Y eso va a significar cosas a nivel de hardware como FlexHeg. Así que se trata de toda una cartera de tecnologías o una agenda de investigación que la gente está impulsando. ¿Cómo hacer protocolos de gobernanza flexibles, básicamente como protocolos de monitorización en chip, que sean fiables y a prueba de manipulaciones y todas esas cosas buenas? Es lo mismo que pasó con las armas nucleares, ¿verdad? Llegas a este régimen en el que yo te inspecciono, tú me inspeccionas, y no confiamos, sino que lo verificamos. Ese es un ingrediente. Otro es que la IA puede, bueno, número uno, puede ayudarnos a acelerar el desarrollo de tecnologías que apoyen exactamente eso. Otra es, como has dicho, que puede ayudarnos a través de la versión virtual del juego de la diplomacia a averiguar, bueno, ¿dónde hay alfa para que ambos cooperemos en esto y nos encontremos en el medio y mediemos incluso en algunos de estos desacuerdos? Creo que hay un gran potencial para ello. Ese es el resultado más optimista, el que esperamos. Pero tenemos que, como usted dice, gestionar esa transición. Edouard: [1:32:04] Sí. Jeremie: [1:32:04] Y sólo en general, quiero decir, hay básicamente tres capas de desafíos que tenemos que superar. Y no son imposibles de superar, pero son muy difíciles de superar. Uno es la seguridad, ¿verdad? Si podemos establecer una buena seguridad y conseguir una ventaja suficiente sobre los adversarios, tenemos margen potencial para abordar el siguiente reto, que es el control y garantizar que podemos controlar realmente los sistemas a estos niveles una vez construidos. Y luego, el último reto es, bueno, ya sabes, has construido potencialmente este sistema de IA increíblemente poderoso y lo tienes bajo control. ¿Quién está al timón, verdad? ¿Quién está en el teclado? ¿Quién es el que da las órdenes a esta locura? Edouard: [1:32:48] Creo que Dan Fagella lo llamó como un dios de arena, Jeremie: [1:32:51] Ya sabes, quién da las órdenes a esta cosa. Y esta es un área donde creo que Estados Unidos tiene una ventaja cultural. Hablamos de cultura, ¿verdad? La ventaja cultural de los Estados Unidos es que tenemos esto, no sólo, ya sabes, constitucionalmente, sino culturalmente, esta mentalidad de pesos y contrapesos donde ninguna parte debe reunir demasiado poder para sí misma. Y así tenemos esta ética cultural donde es como, ¿cómo establecer controles en torno a los usos del poder? Y eso es algo que China realmente no tiene. Es este tipo de enfoque centralizado. Así que creo que resolvemos todos estos desafíos. Estamos en la mejor posición para crear algo de lo que toda la humanidad pueda obtener beneficios. Ryan: [1:33:34] Me encanta. Chicos, esto ha sido super informativo, muy útil. Por supuesto, podríamos encontrar más información sobre todo esto en Gladstone.ai, creo. Y hay un informe al que hemos aludido varias veces, America's Super Intelligence Project. Incluiremos un enlace en las notas del programa. ¿Hay alguien más que quieras escuchar de nuestra audiencia? Como has mencionado, gente que se dedique a la seguridad de los centros de datos, ¿alguien más a quien quieras escuchar? Jeremie: [1:33:56] Gente, sí, gente que se dedique a la seguridad de los laboratorios. Ciertamente estamos interesados en escuchar a gente como esa mientras trabajamos en estos estándares. Edouard: [1:34:06] También a nivel de hardware. Así que sí, si estás pensando en la estrategia de computación, trabajando en el plan de juego de computación en cualquiera de estos laboratorios o hiperescaladores, siempre estamos interesados en hablar con gente así. Ryan: [1:34:18] Increíble. Están interesados en hablar con todo el mundo excepto con el CCP, ¿verdad? Esperemos que aquí no haya infiltrados. Chicos, muchas gracias por acompañarnos hoy. Ha sido un Edouard: [1:34:27] montón de diversión. Jeremie: [1:34:27] Gracias. Muchas gracias, chicos. Ha sido fantástico. Música: [1:34:31] Música