El estado de la tecnología autoritaria | Steven Feldstein

David:
[0:03] Steve Feldstein es miembro sénior del programa Democracia, Conflicto y Gobernanza de Carnegie, donde se centra en la intersección de la tecnología,

David:
[0:09] los derechos humanos y la política mundial. También es autor de dos libros, The Rise of Digital Repression, How Technology is Reshaping Power Politics and Resistance, que salió en 2021. Y otro libro, Bites and Bullets, Global Rivalry, Private Tech, and the New Shape of Modern Warfare, que saldrá el año que viene. Queríamos que Stephen viniera hoy al programa para informarnos sobre un tema que creemos que es importante tener en cuenta, que llamaré el estado de la tecnología autoritaria o tecnología de la represión,

David:
[0:39] tecnología que ayuda a los estados autoritarios en la represión de su ciudadanía. Stephen, para empezar esta entrevista, ¿cómo es el panorama de la tecnología de la represión? Admito que cuando me levanto por la mañana no pienso en lo maduro o sofisticado que es este sector tecnológico en NET. ¿Cuál es la capacidad actual de este sector tecnológico? ¿A qué velocidad progresa?

Steven:
[1:00] Está progresando rápidamente. En primer lugar, gracias por invitarme. Se lo agradezco mucho. El sector progresa rápidamente. Es algo que creo, es un arco interesante que hemos visto. Yo diría que si nos remontamos unos 15 años atrás, hubo un momento en el que se hizo mucho hincapié, creo, en la tecnología de la liberación y en la idea de que las diferentes herramientas digitales podían realmente liberar y empoderar a la gente para luchar contra el control del Estado y demás. Y creo que ha habido un cambio real desde entonces, que los gobiernos se han dado cuenta del poder de estas tecnologías. Estas tecnologías siguen siendo más eficaces y más baratas. Y cosas como la vigilancia, la biometría, etc. se han convertido en omnipresentes en todo el mundo, no importa dónde te encuentres. Así que creo que lo interesante es que cada vez son más comunes y más baratas de usar. Y, ya sabes, hay, hay alguien que es, está a nuestro alrededor en un grado mucho mayor.

Ryan:
[1:52] Steve, ¿hay como una taxonomía que se piensa cuando se piensa en, ya sabes, la represión, la tecnología de la represión digital? ¿Cuáles son las diferentes categorías en tu mente?

Steven:
[2:02] Sí, hay algunos. Yo empezaría por las tecnologías de vigilancia. Y dentro de eso, hay algunos, incluso algunos tipos diferentes. Tienes tecnologías de vigilancia masiva. Cosas como las cámaras públicas de reconocimiento facial se utilizan para ver quién se reúne dónde. También tenemos las tecnologías de vigilancia de las redes sociales, que realmente tratan de rastrear millones de mensajes diferentes para ver qué tipo de sentimientos o desafíos políticos se están produciendo. Y luego tenemos la vigilancia selectiva, cosas como el software espía, donde los gobiernos son capaces de utilizar software para espiar conversaciones, correos electrónicos, etcétera. Esa sería una categoría. Y luego otra está relacionada con la censura, la idea de que estás tratando de detener y controlar la información que se difunde o se produce. Por ejemplo, China y su Gran Cortafuegos impiden la entrada de plataformas o medios de comunicación occidentales. O también podría ser algo donde internamente estás tratando de vigilar lo que la gente puede decir y tomas las palabras clave que la gente está usando y esencialmente bajas el ranking o eliminas esos mensajes de forma automatizada. Creo que la tercera cosa es en realidad la desinformación. Así que es la idea, sobre todo ves un montón de diferentes estados donde tratan de manipular la información con fines políticos. Escribí un capítulo en mi libro sobre Filipinas como un buen ejemplo de ello, donde el ex presidente, Duterte, realmente utilizó y creó toda una red de desinformación que pretendía empañar a los políticos de la oposición.

Steven:
[3:29] Empañar a la sociedad civil, periodistas, cualquiera que desafiara la narrativa del gobierno sobre lo que estaba haciendo.

Steven:
[3:36] Y luego los cierres de Internet es otro que también pondría en este tipo de categoría. Es esencialmente, la idea de tratar de interrumpir o cortar la conectividad, sobre todo cuando se ven casos de grandes protestas o ganando impulso contra los desafiantes. Y hasta cierto punto, la prohibición que acaba de ocurrir en Nepal la semana pasada de las plataformas de medios sociales que luego galvanizó protestas masivas y la caída del gobierno allí es un ejemplo de un intento de uso de los cierres.

Steven:
[4:06] Eso fue contraproducente y en realidad condujo a un cambio político significativo. Así que eso es en pocas palabras, el universo.

Ryan:
[4:13] Steve, ¿puedes hablar de eso, el caso de Nepal? Pero Dave y yo estábamos siguiendo esto y entendiendo algunas de las tecnologías anti-autoritarias que fueron utilizadas por algunos de los manifestantes y supongo, ya sabes, revolucionarios, deberíamos llamarlos porque básicamente lideraron una revuelta contra el gobierno en funciones. Así que estaban usando, ya sabes, tecnología de comunicación encriptada, cosas como Signal, cosas como Telegram. Hay informes de que utilizan criptomoneda porque parte de esta censura y represión, obviamente, no sólo cierra las redes de comunicación. También desbanca a la gente y la deja fuera del sistema financiero. Pero, ¿puedes hablar de eso? Porque ha sido noticia recientemente. Aunque no creo que los principales medios de comunicación, hay mucho que hacer en el mundo occidental en este momento para informar. Así que creo que Nepal, la locura que está ocurriendo en Nepal ha sido quizás poco reportada. Pero, ¿cuáles son los hechos allí y cómo es la situación?

Steven:
[5:10] Sí, ha sido muy interesante. Y de hecho he encargado un par de artículos a través de una red que dirijo en Carnegie para escribir más sobre ello. Así que saldrá en los próximos días. Pero esencialmente lo que viste es que durante varias semanas viste un nivel creciente. Y esto es realmente orientado Gen Z. Una de las cosas más importantes es que el grueso de la gente que protestaba, difundía mensajes, etc., pertenecía a una generación más joven que por fin se estaba haciendo cargo de su situación y estaba muy enfadada por un par de cosas. En primer lugar, estaban enfadados por la corrupción y, en particular, por el hashtag "Nepo babies". Observaban a los hijos de los políticos y toda la riqueza de la que hacían alarde. En un país que es extremadamente pobre, donde la gente se ve obligada a irse y convertirse en trabajadores migrantes, en otros países, tenías, ya sabes, a estos niños, la pequeña élite de políticos ricos que salían en coches de lujo, exhibiendo estilos de vida lujosos y así sucesivamente. Así que eso comienza.

Ryan:
[6:07] Crónica de todo esto en las redes sociales, me imagino, ¿verdad? Al igual que el tipo de cultura influenciador. Pero te puedes imaginar esto para el tipo de la élite del bebé Nepo, ya sabes, los hijos de los políticos.

Steven:
[6:17] Y así comenzó a ganar impulso. Y, ya sabes, lo que pasó fue que ya había un intento por parte del gobierno. Habían aprobado una especie de ley que esencialmente obligaría a las plataformas, todo tipo de plataformas externas de Meta a Instagram a X y así sucesivamente a registrarse. Y entonces decidieron aplicar esta ley e inmediatamente suspendieron 26 o más plataformas de operar en Nepal. En aquel momento, el gobierno afirmó que lo hacía estrictamente para hacer cumplir la ley. Lo que todo el mundo en el país más o menos vio fue que estaban tratando de silenciar este creciente movimiento contra la corrupción que estaba empezando a parecer muy peligroso para el gobierno. Así que suspendieron totalmente estas plataformas. Lo que ocurrió inmediatamente fue que la gente se enfadó aún más. Y empezaron a salir a las calles. Y entonces se empezó a ver violencia. Y así, el primer día, creo que 19 personas fueron asesinadas.

Steven:
[7:13] Inmediatamente, el gobierno dio marcha atrás. Dijeron, está bien, no vamos a suspender estas plataformas. Pero en ese momento, ya era demasiado tarde. Ya sabes, la gente estaba tan enojada. Más y más personas se unieron. El segundo día, más gente murió. Se empezaron a quemar edificios. Inmediatamente, el primer ministro dimitió. Y de repente, hubo una especie de cambio. Y lo que era interesante es que una de las plataformas que se utilizó, creo que esta es la primera vez que he visto esta plataforma utilizada como una forma de organizar una gran cantidad de personas en línea fue Discord. Y así Discord estaba siendo tipo de apalancamiento y, ya sabes, era una especie de abierto. Usted sabe, no era como si hubiera una gran cantidad de uso de aplicaciones cifradas, señal, telegrama, así sucesivamente para diferentes personas para comunicarse entre sí. Pero cuando se trataba de realmente tratar de tomar decisiones políticas entre todos, miles de diferentes activistas y sus partidarios, que, por lo que tengo entendido, el uso de Discord como una forma de hacer una especie de decisiones políticas clave y para averiguar quién sería una especie de paso para dirigir el país en este vacío que se había producido. Y yo asumiría que en este punto, todavía están usando Discord para tomar decisiones en el día a día.

Steven:
[8:13] Lo cual es salvaje.

David:
[8:14] Sé que estamos en el comienzo de este episodio, y es todo acerca de la tecnología de la represión autoritaria, pero me podría imaginar en un universo alternativo, o tal vez Steve, acabamos de tenerte de vuelta, hablamos de la inversa, que es, ¿cómo se llamaría esto, la tecnología de la libertad?

Steven:
[8:26] Liberacion.

Steven:
[8:27] Tecnología de la liberación.

David:
[8:27] Tecnología de liberación, sí. Y como resulta que, Discordia en realidad podría ser sólo en el kit de herramientas para la preservación de las libertades de uno. Usando este ejemplo de Nepal, nos acabas de dar una taxonomía de cuatro categorías diferentes de tecnología de represión, vigilancia y software espía, censura y cortafuegos, desinformación y cierres de Internet. ¿Puedes hablarnos de cómo Nepal, el gobierno de Nepal antes de ser derrocado, las acciones que tomó y a qué categorías corresponden?

Steven:
[8:53] Sí. Y ya sabes, lo que es interesante acerca de Nepal. Yo diría que Nepal utilizó principalmente la vigilancia, porque la vigilancia tiende a ser algo que se utiliza, se puede utilizar de maneras más sofisticadas. Nepal no es un país con tantos recursos, por lo que no suele tener acceso a las herramientas avanzadas más sofisticadas. No estamos ante una Rusia. No estamos ante una China. Estamos viendo un lugar que es muy pobre, incluso entre su gobierno. Y así la censura, creo que en primer lugar, y el uso de tipo de lawfare en combinación con más medios de censura tecnológica era un clásico, fue utilizado clásicamente en el caso de Nepal, ¿verdad? Así que esencialmente, ya sabes, dijeron, mira, tenemos un problema en términos de gente diciendo cosas que están desafiando al gobierno en línea. A, vamos a utilizar una ley que claramente no es muy democrática. Y vamos a usarla como arma para tratar de detener la comunicación. Y luego vamos a cortar la capacidad de la gente para acceder a estas aplicaciones por completo con el uso de este tipo de cierre de Internet. En la medida en que han sido capaces de utilizar técnicas de desinformación, no parece que eso ha sido particularmente eficaz. Quiero decir, eso es algo que realmente requiere mucha inversión y tiempo. No es algo que se puede simplemente lanzar en la mezcla con cero seguidores o tal vez un influenciador al que le estás pagando y de repente puedes, ya sabes, tener un impacto. Así que principalmente fue en este caso, yo diría que la censura en primer lugar con los cierres de Internet como su modus operandi.

David:
[10:18] Así que entre estas cuatro categorías, de nuevo, vigilancia, censura, desinformación, cierres de Internet, ¿hay alguna categoría que te asuste más? ¿O se trata más bien de la coordinación efectiva de aprovechar todas ellas en concierto con los demás? Si hablamos del arquetipo de Estado autoritario, en realidad nunca será uno solo. Se trata más bien de utilizarlos hábilmente de forma coordinada para llevar a cabo una represión eficaz. ¿Es esa la idea?

Steven:
[10:50] Sí, claro. Es un sistema de represión, ¿verdad? Es como una estructura que pones en su lugar y usas y equilibras diferentes herramientas porque cada una puede servir como un propósito diferente, pero por sí solas, no necesariamente producen el efecto que deseas. En combinación, pueden ser muy potentes. Así que, si lo pensamos, la vigilancia puede ser útil para entender lo que dicen personas concretas, por un lado, o para entender de forma más general si hay problemas que surgen de una población, como, por ejemplo, ¿hay un gran descontento en lo que respecta a los problemas de corrupción? De acuerdo, eso puede ser muy útil para que un régimen entienda que existe una vulnerabilidad y que debemos abordarla. Por otro lado, si dicen, oh, estos cuatro o cinco cabecillas están realmente a la cabeza en línea o fuera de línea cuando se trata de organizar protestas, vamos a cogerlos. Vamos a encarcelarlos, ¿verdad? Así que hay una combinación de tipo de.

Steven:
[11:42] Vigilancia junto con, ya sabes, francamente, sólo las medidas básicas de represión como el encarcelamiento. La censura también es útil una vez que tienes la sensación de que, bueno, tenemos este descontento burbujeante. Bueno, ¿qué hacer al respecto? Quiero decir, una forma de tratar con él es tratar de evitar que se produzca en absoluto. Y eso es, ya sabes, en China, es una estrategia muy típica. Tenemos la disidencia burbujeando. Podría ser sobre cuestiones ambientales. Podría ser sobre la corrupción. Vamos a tratar de detenerla, sofocarla, ya sea simplemente desconectando esas cuentas o utilizando otro tipo de medios. Otra opción es utilizar la desinformación. Distorsionar el mensaje. Tratar de volverlo en contra de la gente que está impulsando esto para empezar. Afirmar que las personas que dicen que el gobierno es corrupto en realidad están siendo pagadas por gobiernos extranjeros y que ellos mismos son corruptos. Pero utilizar diferentes medios para distorsionar el mensaje y hacer que la gente tenga dificultades para discernir lo que es verdad y lo que no lo es. Así es como funciona la combinación de efectos. No es una cosa en sí, sino una especie de adaptación. Es una especie de uso de técnicas físicas de represión digital. Está tratando de tipo

Steven:
[12:49] de trabajar a través de ellos de una manera dinámica.

Ryan:
[12:51] Sí. Así que casi parece que es el caso, Steve, que lo más aterrador es el nivel de sofisticación a la que una empresa podría aplicar esta pila de represión digital, ¿verdad? Y hay varios niveles de sofisticación. Así que parecía que Nepal estaba utilizando más el instrumento contundente de como, oh, sólo la censura. Hey, ya sabes, como, no nos gusta la disidencia. Vamos a apagar Internet. Pero esto es increíblemente obvio para los manifestantes lo que está pasando. Si cortas Internet, todos en el país se enojan. Y está muy claro lo que el gobierno está tratando de hacer.

David:
[13:25] Exactamente. Si el gobierno hace eso, es como, oh, sí, sabemos que estamos haciendo cosas malas.

Ryan:
[13:29] Correcto, exactamente.

Steven:
[13:30] Es una omisión de la derrota. Exacto.

Ryan:
[13:32] Son las cosas más sutiles que parecen un poco de miedo, donde si sólo puede tipo de doblar la conversación que ya está sucediendo en línea en una dirección determinada, o si se puede poner un tinte de miedo por ahí para que los ciudadanos individuales auto-censura, o si se puede plantar algún tipo de mensaje por ahí que parece distraer a la gente de lo que realmente está pasando. Y me parece, que eso es lo que un estado nación autoritario más sofisticado haría en realidad. No van a prohibir directamente Internet o prohibir aplicaciones particulares. Van a dar forma a la dirección de maneras muy sutiles de la población hacia su fin coordinado. Y así es como un país como China podría utilizar este tipo de tecnología. Eso es correcto.

Steven:
[14:19] Sí. No, quiero decir, creo que, ya sabes, lo primero y más importante se reduce a que, yo diría, mira el sistema subyacente y mira lo bien que está dotado de recursos y mira lo coercitivo que es. Y China realmente, ya sabes, encaja en todos los aspectos. Es sofisticada, está bien dotada de recursos, está muy motivada para reprimir. También tiene una tradición de ello, siendo un país autoritario. Así que puede reunir todos estos elementos de una manera bastante significativa. Y lo que hace es, ya sabes, hace un poco de ambas cosas. Así que ya no se ven cierres de Internet en China. No creo que haya habido uno solo en los últimos años que se produjo, que es una especie de interesante teniendo en cuenta la cantidad de censura que hay. Pero lo que han hecho es que, en primer lugar, tomaron la decisión hace 20 años más o menos de no permitir la entrada de plataformas occidentales, al menos sin usar una VPN, ¿verdad? Así que el ciudadano de a pie, sin ningún tipo de esfuerzos adicionales.

Steven:
[15:07] No se puede acceder a la información exterior. Así que eso fue como una especie de primer paso. Y entonces lo que les permitió hacer es que, bueno, usted tiene este vacío porque la gente todavía quiere comunicarse y quieren hacer cosas. Así que crear nuestros sustitutos de cosecha propia, crear un ecosistema alternativo de aplicaciones chinas que podemos controlar. Y podemos controlar a través de medios coercitivos muy discretamente. Ya sabes, presionamos a las empresas o incluso medios contundentes. Esencialmente, ponemos en marcha algoritmos de filtrado que dicen que este tipo de discurso no está permitido y este sí. Y si empezamos a recibir demasiados mensajes de corrupción de hashtags, nos aseguramos de eliminarlos o bajarles el rango. Así es. Y luego se encuentran otras maneras, como usted ha mencionado, ya sabes, en términos de uso de la desinformación sutil, técnicas de distorsión, tipo de empuje hacia fuera pro CCP mensajes y así sucesivamente. Y la combinación de todo eso ha hecho que el ecosistema de China casi imposible cuando se trata de ser realmente algo que es abierto o democrático o pluralista o así sucesivamente. Y usted ve que de manera similar, ya sabes, jugar en lugares como Rusia. Irán está tratando de hacer lo mismo también.

Steven:
[16:06] Usted sabe, algunos de

Steven:
[16:06] Los estados del Golfo han tenido bastante éxito en la creación de entornos cerrados. Pero, ya sabes, estos son todos los lugares que están muy motivados, tienen una gran cantidad de recursos y están dispuestos a desplegar diferentes tipos de técnicas

Steven:
[16:17] y la combinación para hacer retroceder en contra de una especie de entorno digital más abierto.

David:
[16:22] ¿Hay como un eje central de esta industria, como en la misma forma que Silicon Valley es el punto central de las plataformas de medios sociales y más recientemente AI, o tienes como Virginia, Maryland, Washington, D.C. Para como el complejo industrial, complejo industrial militar. ¿Dónde está el centro de esta tecnología o es sólo una especie de difusión en todo el mundo?

Steven:
[16:45] Sí. Esa es una pregunta interesante. Quiero decir, creo que por un lado, usted puede hacer un argumento justo en dos aspectos. Por un lado, se puede argumentar que hay mucho aprendizaje autoritario. Así que la gente mira a los modelos y China ha sido el modelo preeminente. Y dicen, ¿cómo lo han hecho? ¿Queremos tener un gran cortafuegos? ¿Qué otras técnicas ha utilizado China para controlar su entorno? Y así se pueden tomar prestados diferentes aspectos de eso. Además, China es conocida por exportar gran parte de su tecnología autoritaria a otros países. Así que nos encontramos con una situación en la que los sistemas de reconocimiento facial se utilizan en lugares en los que tal vez no sea muy conveniente tener un sistema de este tipo. En lugares como Uganda o Kenia se utilizan sistemas de reconocimiento facial chinos o serbios.

Steven:
[17:30] Y así, y eso es que usted tiene un tipo de estrategia de exportación. Y así se puede hacer un argumento justo que, ya sabes, la propia China y algunas de las diferentes ciudades dentro de ella, Hangzhou, Beijing, y así sucesivamente, son una especie de lugares donde vive esta tecnología de la represión. Pero el otro punto que he tratado de hacer y que, ya sabes, creo que la gente se ha dado cuenta es que no es sólo la tecnología china la que se utiliza. Muchas empresas occidentales también han sido responsables no sólo de alimentar la propia represión de China, sino de exportar diferentes partes de la pila que luego se utilizan para medios represivos. Y, ya sabes, sin duda cuando estamos hablando de algo así como la desinformación o la propaganda como herramienta de represión, como en Filipinas, que era todo meta.

Steven:
[18:08] Esa es una empresa de EE.UU.. Ya sabes, no tenía nada que ver con China. De hecho, en mi estudio de caso, todo lo que realmente se centró en torno a un par de plataformas de medios sociales. Quiero decir, francamente, en gran parte meta para empezar. Así que, ya sabes, la idea de que es estrictamente algo que emana de un país autoritario y que como democracias liberales o cuasi-democracias, somos vulnerables a eso. En realidad no es así como funciona. En realidad, emana de diferentes maneras de distintas fuentes, tanto occidentales o estadounidenses, democráticas, como autoritarias.

Ryan:
[18:38] En el caso de algo como Meta en Filipinas, la forma en que experimentamos Facebook en los EE.UU. es básicamente una plataforma razonablemente abierta. Por supuesto, tienen cierta selección algorítmica en cuanto a las noticias que son empujadas a nuestra línea de tiempo, ese tipo de cosas. Pero por lo que sabemos, no está censurada de ninguna manera. Cuando exportan Meta o Facebook a algo como Filipinas, ¿le dan al gobierno básicamente un conjunto de herramientas, algunos interruptores para activar, ya sabes, el modo autoritario o algo así? Y, ya sabes, ¿es eso básicamente lo que están haciendo? Están tomando la estructura, pero luego la están personalizando. Le están dando al gobierno la capacidad de personalizarlo. Y supongo que en defensa de eso, en el lado de meta Facebook, dirían, bueno, cada nación tiene sus propias leyes específicas y no podemos tomar nuestros valores occidentales americanos y hacerlos cumplir en otro país. Así que, por supuesto, tenemos que adaptar nuestra plataforma a las leyes de cada país. Y alguien podría escuchar ese argumento y razonablemente podría estar de acuerdo y podría decir, sí, esto es sólo Facebook, supongo, dando a los estados nación la capacidad de personalizar las cosas para sus tradiciones locales o cultura o leyes o lo que sea. Pero por otro lado, ¿qué pasa si las leyes son autoritarias? Entonces están básicamente armando a los gobiernos con un conjunto de herramientas para censurar, para ajustar los algoritmos. ¿Es así como funciona básicamente?

Steven:
[20:06] Sí, ya sabes, es un tema complicado porque es realmente una especie de gato y el ratón. Y creo que, ya sabes, es probablemente demasiado simplista para mí decir o para otros decir, bueno, ya sabes, la razón por la que había propaganda que se extendió en las Filipinas es, debido a META. META fue el medio por el cual sucedió. META fue el intermediario, pero la fuente y la motivación vinieron del gobierno. Quiero decir, creo que la primera y más interesante cosa que la gente señala cuando se trata de la experiencia de META en Filipinas y con Duterte, el anterior presidente, en particular, fue que fueron a su campaña cuando era una especie de candidato presidencial a largo plazo. Y dijeron, y ofrecieron esto a todos los candidatos presidenciales, y él fue el único que aceptó la oferta y dijo, mira, podemos ser realmente útiles para usted. Usted puede hacer publicidad política aquí. Puedes usar nuestra plataforma, estas diferentes herramientas para promover tu mensaje. Y luego, ya sabes, si ganaras, podemos seguir trabajando contigo para mostrarte cómo Meta puede ser útil para tu propia agenda política. Y así dijo, sí, esto suena muy bien. Se reunió con los representantes de Meta. Incorporó sus ideas. Fue capaz de manejar Facebook con mucho éxito. De hecho, algunas personas argumentan que fue debido a esa colaboración y debido a su hábil uso en el aprovechamiento de Meta que ganó la campaña presidencial, y punto.

Steven:
[21:21] Y luego, a partir de ahí, obviamente dijo, bueno, esta es una herramienta potente. Déjame seguir usándola. Así que, ya sabes, la primera parte fue el hecho de que fueron a él y fueron a otros candidatos políticos. Fue lo suficientemente inteligente como para usarlo. Y Meta estaba bien con él manipulando o enviando malos mensajes porque decían, mira, eso es más globos oculares. Eso es más ingresos para nosotros. Así que vamos a tomar las manos fuera y, ya sabes, vamos a ver qué pasa ahí fuera. Esa fue una cuestión. Y luego creo que la segunda cosa es que una vez que comenzó a ver un ecosistema que se convirtió en bastante envenenado por la retórica realmente violenta, por el acoso y así sucesivamente, en particular orientado de una manera política para empañar y desprestigiar a los enemigos de una manera antidemocrática, significaba muy poco, ¿verdad? Así que, ya sabes, la idea, y en todo caso, yo diría, ya sabes, el hecho de que él era capaz de manipular tan hábilmente los algoritmos, atraer a personas influyentes y orientar, ver, hacia sus mensajes era algo que tal vez Meta habría querido pensar, o al menos pensar en esos grandes usuarios influyentes que están difundiendo los mensajes de eso, si eso es algo que quieren permitir que permanezca en la plataforma. Así que en cualquier caso, eso sucedió. Podemos debatir hasta qué punto fueron culpables, hasta qué punto se debe permitir un entorno abierto y dejar que las cosas pasen. De cualquier manera, sin Meta allí, que habría quitado una herramienta, esa persona utiliza con el fin de difundir su marca de la política.

Ryan:
[22:43] Supongo que la pregunta sin embargo, Steve, es como, ¿qué deberían haber hecho? ¿Qué debería haber hecho Meta, verdad? ¿Deberían no haber jugado a nada y haber retirado la plataforma Meta por completo y Facebook por completo de Filipinas? Esto me recuerda a la discusión con, no sé, hace más de una década, de Google retirándose de China. Y básicamente lo que ocurrió fue que Baidu se convirtió en el motor de búsqueda por defecto en China porque Google se retiró porque no quería personalizar sus resultados de búsqueda para el PCCh. ¿Es eso lo que estás defendiendo? ¿Es eso lo que deberían hacer las empresas tecnológicas occidentales, mantenerse firmes en los valores liberales occidentales de una Internet abierta y no permitir la personalización de estas plataformas y retirarse si es necesario?

Steven:
[23:29] Sí, lo haría. Yo haría eso. Quiero decir, creo que tienes que hacerlo.

Steven:
[23:32] Trazar una linea.

Steven:
[23:32] Quiero decir, creo que, quiero decir, en primer lugar, el argumento de que, Y recuerdo esto, he oído este argumento bastante cuando serví en el gobierno como la democracia y los derechos humanos oficial de África. Viajaba por todo el continente, dondequiera que iba, me decían cosas como, miren, ustedes no respetan nuestras leyes y tradiciones locales, que son autoritarias y que sus valores liberales no encajan bien en nuestros países. Y es curioso, porque yo hablaba con muchos estudiantes universitarios, jóvenes, ciudadanos de a pie, grupos de la sociedad civil de esos mismos países. Ellos decían, ¿de qué están hablando estos tipos? Por supuesto, queremos poder expresarnos como queramos. Así que, esta idea de que las leyes locales, de alguna manera, como si tuviéramos diferentes culturas que son como, ya sabes, que son pro-censura y pro-autoritarias, quiero decir, creo que es una hoja de parra. Eso se hace para poner a la gente en su pie trasero. Lo que siempre he dicho es que se trata de valores universales, no de valores impuestos por EE.UU..

Steven:
[24:21] En general, universalmente, ya sabes,

Steven:
[24:23] Cree en la libertad de expresión, libertad de asociación, y así sucesivamente. Y eso es lo que estamos tratando de defender. Y creo que como, si vas a un lugar y eres una especie de, y hay una pistola en la cabeza de Meta, o de otra plataforma, y dicen, conformarse o salir, yo diría, seguir los principios universales, decir, vamos a seguir estos principios. Si no nos quieren allí, encontraremos la manera de evitar sus restricciones. Pero al final del día, no podemos hacerlo. Yo preferiría no ser cómplice del PCCh y salirme como hizo Google, dejar que Baidu entrara allí de todos modos, porque en última instancia, creo que Baidu, China acabaría sustituyendo a Google de todos modos, en lugar de tratar de jugar con una empresa claramente autoritaria y represiva que con el tiempo te echaría una vez que tuviera la oportunidad de hacerlo.

David:
[25:08] Una de las razones por las que siento que este problema es tan generalizado o tan difícil de enfrentar es que los clientes de la tecnología de la represión son las entidades más grandes y más ricas del mundo, el Estado-nación. No sólo son las entidades más ricas de todos los tiempos, todos ellos pueden imprimir dinero, que si ese es tu cliente, si tu cliente puede imprimir dinero de la nada, es un muy buen cliente a tener. Así que supongo que existe esta noción de la misma manera que existe el complejo industrial militar, como el gobierno quiere un ejército muy poderoso. Contrata al mercado libre para dar servicio y proporcionar las armas más mortíferas del mundo. Supongo que existe este complejo industrial muy similar entre la tecnología de la represión y los estados-nación. Pero Steven, aparte de las empresas de Estados Unidos que pueden fabricar armas, Northrop Grumman, Lockheed Martin, todas estas, realmente no podría saberlo. Y luego Meta también, como usted sabe la represión adyacente por lo menos yo realmente no podía nombrar a usted una otra como la empresa que se dedica a vender a ser como un proveedor de un país de la tecnología de la represión? ¿Están ahí fuera? ¿Soy un ingenuo? ¿No son tan conocidas como otras empresas? ¿Qué hay por ahí?

Steven:
[26:29] Sí, hay un montón. Parte de ello es que es un mercado bastante difuso. Depende del tipo de tecnología que estés buscando. Te daré un ejemplo clásico de spyware, NSO Group, el fabricante israelí. Quiero decir, han sido implicados. Y si estás en este mundo, NSO Group es conocido por todos. Son malos. Han estado implicados en todo, desde el espionaje a la esposa del periodista asesinado del Washington Post, Jamal Khashoggi, a muchos otros tipos de escándalos como ese, espiando a todo tipo de políticos, jefes de Estado, etc. de forma ilegal. Así que son un ejemplo. Para mí, son el ejemplo por excelencia del uso de programas espía de vigilancia selectiva y de la necesidad de establecer normas para restringir sus productos. HitVision es otro ejemplo, una empresa china. Fabrican cámaras de reconocimiento facial. Son una pieza clave de las ciudades seguras. Huawei, a menudo trabajan muy estrechamente con Huawei, que es quien instala las ciudades seguras por completo. Así que si nos fijamos en todo el mundo y en diferentes lugares donde hay represión y se tienen objetivos de vigilancia pública, esas empresas están ahí fuera en términos de venta de tecnología de represión.

David:
[27:36] ¿Son como vendedores dedicados a la tecnología de la represión como en eso es su única cosa? ¿O también tienen otras como Apple que tiene una fantástica tecnología de reconocimiento facial. Así es como desbloqueo mi iPhone. Eso es un servicio para mí. Lo valoro. Eso es bueno. Me gusta. Pero como que hay una espada de doble filo allí. También son pioneros en la tecnología de reconocimiento facial. No sé si Apple vende esta tecnología a los estados nacionales, pero se puede ver cómo hay como un lado bueno y un lado malo del mismo producto, lo que hace que sea un poco más difícil de como señalar con el dedo a una empresa y decir como, bueno, eres malo. Debido a que sólo venden productos, la tecnología de la represión a los estados-nación, que acaba de nombrar tres, que son como, está bien, tal vez estos son, sus únicos proveedores son los lados autoritarios de los estados-nación. Pero como, yo supongo que también es un poco más difusa en el sentido de que como, sólo hay, es sólo tecnología. Y al igual que, a veces un comprador como China sólo podría utilizarlo para fines nocivos. Esto hace que sea un poco más difícil de precisar la nefastidad real.

Steven:
[28:34] Sí, no, un par de puntos sobre eso. Es un punto realmente interesante el que planteas. Y así, en NSO Group, es sólo un fabricante de software espía. Así que no hay otro tipo de doble uso de aspecto a la misma.

David:
[28:43] Ese es su eslogan. Fabricamos software espía.

Steven:
[28:45] Hacemos software espía muy bien. Y puedes hacer cosas malas con él. Así que no hay mucho.

Ryan:
[28:50] O puedes hacer cosas buenas. Quiero decir, ¿es tan malo que una agencia de inteligencia de un país despliegue spyware para desbaratar una organización terrorista e infiltrarse en su grupo?

Steven:
[29:01] Bueno, ese es el argumento que hacen. Quiero decir, hay estas excepciones estrechas. Quiero decir, son muy estrechas. Son muy pequeñas. Si nos fijamos en una especie de, hay como todo un marco jurídico. Al igual que tiene que ser una necesidad legal, tiene que ser proporcional a la amenaza que hay, tiene que ser, ya sabes, una especie de sintonía fina hacia, a la medida de esa amenaza.

Steven:
[29:19] Y en general, si nos fijamos empíricamente en cómo se utiliza, la respuesta es que no es así como se utiliza. Así que todo el mundo utiliza la excepción de seguridad nacional, pero luego no se ajustan a la excepción de seguridad nacional. Así que para mí, eso es un poco, ya sabes, es un poco de propaganda del grupo NSO. Pero al otro punto, echemos un vistazo a Huawei o Hikvision y así sucesivamente. Usted tiene razón.

Steven:
[29:37] Es de doble uso. Hay un montón de, Huawei es una empresa enorme, ¿verdad? Quiero decir, hacen de todo, desde chips semiconductores en estos días a los teléfonos, sistemas operativos, así sucesivamente, todos arriba y abajo de la pila, los productos de Huawei están ahí. Y, francamente, una buena parte de ellos se utilizan por razones benignas, para la productividad económica y así sucesivamente. Así que decir que Huawei es una empresa de represión digital per se no es del todo exacto. Creo que lo que mucha gente argumentaría, y esto llega a la cuestión de TikTok que hemos visto surgir y otros tipos de empresas chinas, es que debido a que el poder político de China está tan estrechamente vinculado a sus empresas porque tienen una ley de seguridad nacional y controlan cómo se utilizan los productos y pueden construir puertas traseras y vigilancia como les gustaría porque eso ha sido demostrado en diferentes aspectos. Hay un elemento en el que la gente dice, bueno, si se trata de un producto digital avanzado chino, que no podemos confiar en un período en una democracia liberal, que a largo plazo, que representa una amenaza para nuestro ecosistema. Y usted está viendo ese debate jugar ahora mismo en los EE.UU., qué prohibir, cuánto prohibir, si desinvertir TikTok, entre otros tipos de plataformas, porque incluso si no hemos visto la amenaza manifiesta ahora.

Steven:
[30:50] Hay tal posibilidad de que debido a que su sistema es tan resueltamente opuesto al nuestro y tienen tal control sobre sus empresas, bien podríamos asumir eso, asumir lo peor, e ir en esa dirección. Ese es el argumento.

David:
[31:03] Es como si China tiene un asiento de control sobre cada empresa de tecnología que sale de China. Y así, si adoptamos esa empresa de tecnología, TikTok, en los Estados Unidos, tal vez no tienen una puerta trasera ahora, pero China está en el consejo de administración. Y así, si TikTok influye en los Estados Unidos, bueno, eso es en realidad sólo China influyendo en los Estados Unidos.

Steven:
[31:25] No sólo tienen asientos en la junta o asientos implícitos en la junta, quiero decir, pueden hablar con cualquier miembro de la junta allí y decir, hey, vota de esta manera. Pero ellos los subvencionan. Ellos dan miles de millones de dólares. Cuando Huawei se enfrentó a una especie de sentencia de muerte porque estaba en la lista negra, primero bajo Trump y luego bajo Biden, la razón por la que la compañía pudo mantenerse a flote fue porque el PCCh les dio miles de millones de dólares para que siguieran adelante. Y hay una serie de libros interesantes y la presentación de informes por ahí que tipo de muestra esto. Así que no es sólo que estén coaccionando, están entregando dinero y básicamente diciendo, bueno, somos tus dueños y podemos decidir lo que haces. Así que cuando llegue el momento, haz X, Y, o Z. Y eso es ciertamente lo que sucede.

Ryan:
[32:06] ¿Quiénes son algunos de los peores países infractores, Steve? Hemos hablado mucho de China. Tal vez pensamos en ellos cuando pensamos en tecnología autoritaria, pero esto es generalizado. No es sólo China. ¿Qué regiones del mundo son más autoritarias desde el punto de vista del despliegue de la tecnología digital?

Steven:
[32:25] Sí. Bueno, lo que yo diría, quiero decir, lo que es interesante también es que cuando empecé a mirar esto, la investigación, la represión digital. No había tanta coincidencia entonces entre ser autoritario y el uso de estas técnicas, en parte porque creo que era todavía bastante nuevo, y había un montón de países que no estaban al día o en términos de tener un montón de gente en línea o simplemente haber adquirido una gran cantidad de estas tecnologías. Pero las cosas avanzan rápidamente. Vivimos en un mundo digital. La gente está conectada por todas partes. Y una cosa que yo diría es que, en general, si cualquier país autoritario también será digitalmente represivo, los dos van de la mano. No puedo pensar en un país que no es, ya sabes, la restricción de los derechos políticos y cosas por el estilo, que de alguna manera tiene como un ambiente libre y abierto. Quiero decir, a veces se ve como un poco de discrepancia y Rusia es una especie de caso interesante, aunque también está cerrando las cosas por completo en su ecosistema digital. Pero en este punto, en general, yo diría que encontrar un país autocrático, encontrar un área que tiene un montón de autoritarios, y también verá digital

Steven:
[33:30] represión digital. Así que, ya sabes, podemos mirar a algunos lugares, ya sabes, que están ahí fuera. El Golfo es uno, ya sabes, muy autoritario en términos de represión de los derechos políticos civiles. También, grandes proveedores de todo, desde programas espía hasta vigilancia, tecnología autoritaria china, etcétera. Rusia, Corea del Norte, países como esos, son dictaduras clásicas.

Steven:
[33:52] Ruanda es otro buen lugar. Si nos fijamos en África, Oriente Medio en general, todos estos países que reprimen los derechos, que son autoritarios, que encarcelan a prisioneros, también confían en estas herramientas para tratar de controlar a sus poblaciones.

Ryan:
[34:06] ¿Y en las democracias? ¿Y en Occidente? ¿Y en los que...? No puede ser.

David:
[34:12] Nunca podría.

Steven:
[34:13] No sé de qué estás hablando. No está sucediendo aquí.

Ryan:
[34:15] ¿Lo es? ¿No? ¿Es sólo en los países autoritarios?

Steven:
[34:17] Sí. Mira, estas herramientas se utilizan,

Steven:
[34:20] ¿Cierto? Quiero decir, el argumento que darían las democracias es que, en general, se utilizan bajo la rúbrica del Estado de Derecho, de modo que cualquiera que sea, independientemente de cómo se desplieguen estas herramientas, hay controles y equilibrios, que tienes derecho a apelar, que tienes que pasar por un debido proceso cuando se trata de enjuiciamientos y así sucesivamente. Pero eso no significa que no se cometan abusos, que salen a la luz con bastante frecuencia. Y hay muchos casos extremos. Esa es la cuestión. Una de las grandes críticas es que la ley no se ha puesto al día con la tecnología. Así que cuando se trata de la vigilancia de las redes sociales, no importa cuál sea el tipo de investigación, podría ser la policía de Nueva York en busca de un determinado tipo de individuo. Podría ser algún otro tipo de aplicación de la ley. Y esto afecta especialmente a la frontera. No hay reglas claras en términos de lo que es invasivo, lo que es una violación de la privacidad, y lo que es aceptable, sobre todo cuando se trata de en línea. Y ahí es donde creo que nos hemos quedado rezagados en lo que respecta a la legislación sobre privacidad y ese tipo de cosas. Así que sin duda los Estados Unidos y muchas otras democracias también, sin duda hay mucha más responsabilidad en su lugar. Hay mucha más capacidad para oponerse y obtener reparación cuando se producen abusos. Pero la ley no está del todo ahí en términos de cómo se están desplegando estas técnicas avanzadas.

David:
[35:34] La tasa de aceleración en este sector de la tecnología de la represión, supongo que se está acelerando. Hay tecnología en todas partes se está acelerando. Como mi comprensión acerca de las democracias sólo va tan lento. Tiene que haber una brecha entre la tasa de crecimiento de la capacidad en la tecnología de la represión y la tasa de las democracias para poder hacer frente a estas cosas, ¿verdad?

Steven:
[35:54] Sí, sí, no, lo hay. Y creo que es una de esas cuestiones en las que, ya sabes, es difícil crear leyes cuando no hay consenso sobre cuáles deberían ser esas leyes. Quiero decir, generalmente una cosa sigue a la otra. Se llega a una especie de consenso social y se dice: esto es malo, sea lo que sea, y ahora vamos a crear una ley para codificarlo. Creo que la gente todavía está tratando de averiguar qué significan estas cosas. ¿Qué papel desempeña la inteligencia artificial en mi vida? ¿Qué barreras debemos establecer al respecto? Si las fuerzas del orden utilizan esta tecnología para determinadas actividades, ¿qué significa eso para mí? ¿Me gusta? ¿No me gusta?

Steven:
[36:29] ¿Cuál es el equilibrio entre hacer frente a las amenazas terroristas frente a la protección de la privacidad? La gente sigue debatiendo esto bastante. Y, francamente, en el entorno político que estamos en este momento, no vamos hacia el consenso. Vamos hacia una mayor división y, ya sabes, más señalamientos de unos a otros. Y esa es parte de la cuestión. ¿Cómo se crea una ley en una sociedad que se aleja del consenso y se inclina más por la división y el desacuerdo, especialmente cuando se trata de nuevas herramientas?

Ryan:
[36:57] Hay tal vez dos grandes explicaciones aquí cuando miro este tema, Steve, y me pregunto si esto, ya sabes, esto resuena para ti. La primera explicación de por qué estamos teniendo cada vez más represión digital en todo el mundo, incluso en nuestras democracias, es la economía de la misma. Es tan barato desplegar la represión digital a escala. Es tan barato, barato y eficaz en relación con las viejas formas analógicas de hacer esto a través de una especie de policía secreta que está espiando la conversación de todos en la mesa. Es como si pudiéramos tener máquinas y bases de datos, y ni siquiera hemos hablado de la IA, que vamos a hacer, pero todas estas cosas se pueden escuchar y desplegar a escala. Así que hay una narrativa económica, creo, con respecto a esta historia, y eso tiene que ser un gran motor. La otra parte es que creo que incluso en Occidente, nuestras libertades civiles se concibieron básicamente para un mundo analógico en el que nos fijamos en algo como la Primera Enmienda...

Ryan:
[38:00] Las plataformas de medios sociales, ¿dónde encajan en eso? ¿Dónde encaja el derecho a la privacidad? Quiero decir, tal vez los creadores y los padres fundadores no crearon enmiendas de privacidad en la Declaración de Derechos porque espiar a todo el mundo es poco práctico desde una perspectiva económica. Y no teníamos nada que pudiera hacerlo. No se contemplaba el mundo digital y el mundo en el que vivimos hoy. Así que incluso en nuestras democracias occidentales, esta transformación de lo analógico y lo físico a lo digital, simplemente no hemos adoptado el conjunto de herramientas realmente y el conjunto de herramientas legales. Y creo que los gobiernos, es decir, cuando se hacen grandes, ¿tienen siquiera un incentivo para hacerlo? ¿O hay más incentivos para introducirse en las áreas de nuestras vidas que penetrarán en ellas? ¿Hasta qué punto crees que son estas dos historias, la económica y la de la transformación de la era analógica a la digital, las que explican en gran medida la dirección en la que nos movemos?

Steven:
[39:03] Sí, creo que realmente lo has clavado bien. Así que está la cuestión de la economía política, ¿verdad? El hecho de que usted puede hacer algo barato a escala. ¿Y por qué no? Es como la idea de que si usted está tratando de buscar a un sospechoso, ya sabes, ¿por qué, ya sabes, tipo de llamar a las compañías telefónicas y buscar como registros de teléfonos celulares cuando se puede simplemente ir en línea y tipo de inmediato, ya sabes, tratar de buscar y ver a un individuo específico con las características en el lugar y el uso de un algoritmo de tipo de reducir rápidamente a un pequeño número de personas. Quiero decir, sólo tiene sentido hacer eso. Pero también hay que tener leyes en vigor para asegurarse de que no hay falsos positivos y de que se cumplen las protecciones básicas de las libertades civiles. Y ahí es donde las cosas se caen. Así que en realidad, que tipo de te lleva a dos de los, las dos cuestiones que usted ha mencionado, tanto que la ley no ha alcanzado y también que se trata de herramientas que son una especie de fricción, relativamente fricción de usar que son muy eficaces en términos de lo que logran. Quiero decir, la otra cosa que me gustaría decir también es que, ya sabes.

Steven:
[39:59] Usted sabe, parte de esto es que vivimos en sociedades digitales. Ya sabes, la forma en que los seres humanos interactuamos es muy diferente. Así que no puedes, quiero decir, no tiene sentido volver a las herramientas analógicas cuando francamente, ya no nos comunicamos de forma analógica, ¿verdad? Quiero decir, la idea de mirar a través de registros telefónicos, quiero decir, eso no es realmente. Quiero decir, ¿cuántas personas hablan por teléfono sin parar todos los días en comparación con los mensajes de texto y otro tipo de cosas? Así que lo que realmente quieres encontrar de todos modos, dada la forma en que nos comunicamos y cómo interactuamos unos con otros es diferente. Vives en un mundo digital, tienes que usar herramientas digitales. Hay que usar las herramientas digitales con más responsabilidad. Y ahí es donde no estamos.

David:
[40:34] Stephen, soy consciente de que hemos dejado un poco nebuloso el conjunto de herramientas que tienen los estados nación. Y creo que eso es parte del problema, ¿de dónde viene la tecnología de la represión? Bueno, puede venir de todas partes. Realmente no viene de un lugar en particular. No está en uno. Hay como categorías sueltas que hemos definido, pero las estrategias específicas reales.

Steven:
[40:57] Creo que lo que hemos dejado todavía un poco confuso para el oyente,

David:
[41:00] Tal vez para hacerlo más específico, podemos hablar de los arcos de ciertas tecnologías que van hacia el futuro. Así que cuando como la IA, ni siquiera hemos hablado de la IA todavía. Cuando la IA se combina con los drones, por ejemplo, creo que todos sabemos que hay algo ahí fuera que debería darnos miedo a todos. Aún no ha llegado, pero algo así está ahí fuera. ¿Cuáles son las tecnologías futuras que sabemos que están por llegar y que le dan escalofríos?

Steven:
[41:24] Sí, bueno, quiero decir, creo que esta idea de la policía predictiva es algo que ha estado en su lugar por un tiempo. En gran parte, se basa en acciones pasadas y se traza en un mapa y se dice, bueno, si hay un montón de delitos que han ocurrido aquí en este tipo de cuadrícula, entonces podemos suponer que más delitos ocurrirán aquí. Y en realidad se ha abusado bastante de eso en términos de perfiles. Pero, ya sabes, con algoritmos, realmente puedes hipercargar eso. Puedes tener muchos más puntos de datos. Usted puede comenzar a traer predicciones basadas en, ya sabes, cómo uno va a publicar en línea y el lenguaje, la lingüística, y luego empezar a tipo de ver a los individuos que están marcados. Y así, esta idea de la automatización en la que se elimina al ser humano y se confía cada vez más en la potencia de cálculo y los algoritmos, si no agentes, para hacer el trabajo pesado. Y mientras tanto, al externalizar o delegar ese tipo de responsabilidad, no se realizan los controles adecuados. Y así no sólo se cometen errores, sino que las libertades civiles se infringen a diestro y siniestro.

Steven:
[42:28] Tienes muy pocos recursos para oponerte como ciudadano. Eso me molesta. Eso me preocupa. Me preocupa que a medida que seguimos avanzando en este curso, donde abrazamos la automatización a toda costa, sacamos a los seres humanos de la matriz de toma de decisiones,

Steven:
[42:43] que terminas con un montón de situaciones que conducen al abuso. Te daré un ejemplo más concreto donde estamos viendo esto ahora mismo. Así que, ya sabes, he estado, he escrito un poco sobre los objetivos de la IA en la guerra. Y eso es algo que hemos visto mucho en el contexto israelí cuando se trata de confiar en algoritmos para generar muchos miles de sospechosos que luego se utilizarían para los ataques. Y así, en el pasado, lo que tendrías es que tipo de recoger esto a través de la inteligencia humana. Tenías que hacerlo a través de individuos y era laborioso. Y por lo que tendría mucho menor número de personas que fueron tipo de recogidos. Y así, en general, incluso cuando había un error, ya sabes, si usted está cometiendo un error para una tasa de error de, digamos, 1%. Así que uno de cada 100 golpes, sigue siendo sólo como una persona. Así que el número total es menor.

Steven:
[43:30] Ahora, digamos que estás golpeando a 10.000 personas o 15.000 personas. Incluso si usted tiene relativamente la misma tasa de error, sólo tiene muchas más personas que van a ser asesinadas porque usted está confiando en estos sistemas a tal escala. Y esa es parte de la razón por la que estamos viendo una tasa tan alta de víctimas civiles en Gaza, ya que dependes de sistemas automatizados para recomendar a quién apuntar. Y debido a que estás elevando ese número a un nivel tan alto, más personas están muriendo como resultado de eso. Y así extrapolar el mismo tipo de cosa a, ya sabes, las herramientas de aplicación de la ley de la policía, donde el número de sospechosos de diferentes delitos se amplía a un nivel mucho más alto. Y lo que también significa que el número de falsos positivos, el número de problemas potenciales, el número de violaciones de procedimiento también se amplifican. En mi opinión, se trata de un escenario muy preocupante, basado en la inteligencia artificial.

David:
[44:21] Así que tal vez para llevar esto a casa, permítanme pintar un ejemplo que es completamente hipotético. No está sucediendo. Pero estoy empezando a ver un poco de señales de advertencia, como luces intermitentes que aparecen en mis redes sociales dentro de los Estados Unidos, especialmente después, específicamente después del asesinato de Charlie Kirk, donde la derecha está muy molesta por la izquierda que celebra el asesinato de Charlie Kirk. Y ahora hay como, algo así como el Daily Podcast trajo este término, un susto azul, que como el inverso del susto rojo era como oh bien los los liberales están abogando por la violencia política y como usted podría hacer alguna combinación de ai consumir todos los mensajes de los medios sociales y si usted sabe el lado está en el poder si los conservadores están en el poder que dicen como bien esta cuenta de Twitter está diciendo un poco demasiadas cosas acerca de la violencia política Y hay un 95% de posibilidades de que sobre la base de nuestros modelos, que en realidad cometen algún delito. Así que vamos a arrestarlos hoy, porque son 95% culpables, pero en realidad no han cometido un delito. Eso es como un escenario futuro hipotético que acabo de fabricar totalmente usando mi imaginación. No hay evidencia para decir que eso va a suceder. Pero como, eso es parte de como, un arco potencial que podría preocuparte de como, oh, sí, el 95% de culpabilidad está por encima de nuestra línea. Y por lo tanto, vamos a ir a arrestar a esa persona. Eso es como la policía predictiva, como un modelo de policía predictiva que se pueda imaginar.

Steven:
[45:46] Sí. Así que, sí, y eso es realmente un buen ejemplo porque, ya sabes, en última instancia, lo que creo es que me centro, mira, la tecnología asusta, puede dar miedo, puede ser aterrador, pero en última instancia se reduce a la política por debajo de ella, creo. Y así que la pregunta es eso.

Steven:
[46:03] ¿Tenemos una Primera Enmienda que importa? Después de haber aprendido, quiero decir, tuvimos un susto rojo cuando no teníamos mucha alta tecnología. Ahora potencialmente tenemos un susto azul. Quiero decir, vamos a ver a dónde va en realidad o no. Esperemos que no vaya muy lejos. Pero de cualquier manera, eso es todavía un poco basado en el hecho de que usted ve la gente que está tratando de estirar los límites de una ley tal como la conocemos, que al menos en términos prácticos, si nos fijamos en la policía predictiva, si usted está tratando de entonces tomar la gente fuera de línea debido a la posible relación con la delincuencia. Bajo cualquier jurisprudencia que conozco, quiero decir, que no computa, ¿verdad? Esa no es una razón suficiente, el pensamiento de que algo podría suceder sobre la base de una especie de circunstancias imprecisas que por lo tanto significa que usted no puede decir eso y por lo tanto usted debe ser arrestado. Así no es como la constitución debería funcionar. Y francamente, aunque la constitución es antigua, quiero decir, que se ha actualizado lo suficiente a través de casos judiciales que todavía podemos aplicarla de esa manera. Así que lo que más me asusta de este tipo de cosas no son los algoritmos, es el mal uso de esos algoritmos para el beneficio político de los que están en el poder. Así que supongo que son herramientas poderosas que pueden ser explotadas de formas desagradables que van en contra de nuestros principios democráticos. Y, ya sabes, creo que es bastante alarmante.

Ryan:
[47:17] Sí, el ejemplo de la policía predictiva es alarmante para nuestras democracias. Pero al menos el objetivo final de la policía predictiva es algo que creo que queremos en las democracias sanas, que es como la seguridad, la seguridad pública, ¿verdad? Y puedes imaginar nuestras libertades civiles y las instituciones que protegen contra la usurpación gubernamental de esas libertades civiles, tienen que mantenerse. Realmente tienen que aguantar para que esta tecnología no sólo nos dé seguridad o alguna percepción de seguridad, sino que también nos quite esas libertades civiles. Supongo que este mismo concepto de policía predictiva, sin embargo, si lo aplicas a un estado nación autoritario, ¿verdad? Podríamos llamarlo disidencia política predictiva.

Ryan:
[48:01] Y se podría reunir todo tipo de información sobre los ciudadanos individuales para predecir cuáles podrían estar en contra del gobierno o cuáles podrían tener una trayectoria de liderazgo en contra del gobierno. Usted podría predecir las protestas antes de que ocurran, y usted podría desmantelar esas protestas. Se podría averiguar quiénes son los perturbadores de cualquier movimiento político y tomar medidas para censurarlos, limitarlos o lanzar una campaña de desinformación contra ellos. Quiero decir, la capacidad de predicción de la disidencia política cuando se empieza a rastrear toda la información a través de todas sus sociedades en manos de una autoridad gubernamental que tiene todo este poder y la IA a su disposición, casi parece que el régimen autoritario, los que están tratando de mantenerse en el poder, ¿cómo podrían ser interrumpidos en ese momento?

Ryan:
[48:55] ¿Sabes lo que quiero decir? Como, una vez que tienes esta pila de tecnología, y si la has desplegado a escala en toda tu sociedad, ¿no eres básicamente un dios? ¿No eres básicamente inmune a cualquier tipo de revolución o disidencia política? La cantidad de poder que esta pila de tecnología da a los gobiernos existentes es simplemente asombrosa, y no creo que el mundo lo haya visto nunca.

Steven:
[49:18] Es bastante, quiero decir, mira, estoy de acuerdo. Creo que es super alarmante. Y, ya sabes, quiero decir, creo, quiero decir, uno de los principales problemas, una de las principales cosas que hace es que en cierto modo rompe la capacidad de movilización para la acción colectiva, ¿verdad? Quiero decir, en última instancia, eso es lo que se necesita. Quiero decir, ya sea en Nepal, de lo que hemos hablado antes, ya sea en otros contextos, ya sabes, es la capacidad de la gente para encontrar una manera de conectarse unos con otros, para llegar a una decisión común acerca de tomar una acción, y luego hacer eso, incluso si se trata de un desafío a las calles. Y la razón por la que algunas protestas funcionan y otras no es la capacidad de un gran número de personas para salir a la calle. Creo que los científicos sociales dicen que algo así como el 3,5% de la población es un número mágico. Si consigues que el 3,5% de la población proteste o salga a la calle, tienes muchas posibilidades de derrocar el régimen. Así que en China o Rusia, que ya tienen estos sistemas de control, como has mencionado, que tienen una gran manera de vigilar y regular la capacidad de la gente para comunicar cosas que desafían la autoridad del Partido Comunista Chino o de Putin, ¿puedes conseguir el 3,5%? ¿Puedes conseguir el 1%? Quiero decir, mira, tuvimos un millón de personas mueren en Rusia por una guerra sin sentido, y sin embargo, apenas se puede convocar a un millar de personas porque inmediatamente se identifican.

Steven:
[50:36] Sus familias son llamadas a la puerta después, son arrestados, la gente lo sabe. Así que la capacidad de querer salir colectivamente a protestar está severamente limitada. Así que, aunque personalmente creo que hay muy poco amor perdido cuando se trata de mucha gente y el apoyo al régimen de Putin, creo que la capacidad de ese gobierno para romper la voluntad de la acción colectiva allí en el país, los mantiene en el poder por un período indeterminado de tiempo. Y creo que lo mismo probablemente es cierto en China.

David:
[51:05] Mi intuición es que si eres un estado autoritario y sabes que el número mágico es el 3,5%, entonces tu objetivo es, está bien, nunca permitir el 3,5%. Pero permitir el 0% también es malo porque quieres permitir cierta expresión. Entonces, no quieres ir demasiado lejos al otro extremo. Quieres que la gente sea como, sí, ¿sabes qué? Voy a protestar por el té.

Ryan:
[51:28] Algo inocuo.

David:
[51:29] Té en el Boston Tea Party, ¿sabes? Y voy a tirar el té por la borda. Y eso me va a hacer sentir bien. Y voy a ser como, sí, expresé mis deseos como ciudadano. Y voy a ir a casa y voy a ser feliz. Así que, si lo estuviera intentando, sería como, ¿sabes qué? 0,5%. Vamos a animar al 0,5% de la población a expresar sus necesidades, pero no más. Y yo usaría mi IA y mi propaganda y mis herramientas de desinformación para alentar, pero no más, permitir que el 0,5% de la población salga y tenga una protesta pacífica. Finalmente podrías ajustar esos parámetros. Sí, exactamente.

Ryan:
[52:05] David, serías un dictador muy malvado, amigo mío.

Steven:
[52:08] Ya estoy un poco enfriado por eso. Sí. No, pero creo que es cierto. Creo que la idea de que usted quiere tener un poco de una válvula, como una salida, de modo que, ya sabes, la gente tiene una manera. Y mira, quiero decir, cuanto más puedan canalizar su indignación o simplemente canalizar sus emociones hacia algo que es benigno. Quiero decir, podría ser, ya sabes, un día de compras. Podría ser hacia el consumismo. Podría ser hacia, ya sabes, la afición deportiva en un equipo. Pero mientras canalices. Podría ser.

Ryan:
[52:35] Incluso hacia un enemigo del estado, ¿verdad? Así que algún tipo de enemigo internacional, ¿verdad? Puedes canalizar en esas direcciones.

Steven:
[52:41] Sí. Quiero decir, esa es una tradición consagrada. Quiero decir, mira a Irán, ¿verdad? Quiero decir, desde hace décadas, en cualquier momento, ya sabes, la muerte a los Estados Unidos, en cualquier momento que desee tipo de distraer a la gente de su propia situación, encontrar un papel de aluminio fuera y usar eso. Quiero decir, aunque la cosa es que la gente no se deja engañar tampoco. Quiero decir, como que lo saben. La cuestión es si se puede tomar, quiero decir, francamente, incluso en China, no es como si la gente tiene el cerebro lavado. Quiero decir, son muy inteligentes. Están muy conectados. Entienden mucho más de lo que la gente cree. Pero la cuestión es, ¿se puede vincular eso a la acción? ¿Vale la pena para ellos arriesgarse individualmente a perderlo todo, el desafío del gobierno cuando saben que a su alrededor, hay otros

Steven:
[53:20] ciudadanos, no importa cuán represivas sean las cosas. Y esto, ya sabes, francamente, como, la vida puede estar bien para un montón de chinos. ¿Vale la pena arriesgar el cuello cuando saben que otros ciudadanos no lo harán? Quiero decir, eso es parte del problema es este tipo de parálisis colectiva. Cuando tienes una sociedad que se está enriqueciendo, que parece que va bien, y un Estado muy fuerte y coercitivo mientras tanto, ¿por qué no ir hacia la puerta A para obtener los beneficios y vivir tu vida y no hablar de política frente a la puerta B, donde puedes desafiar a los agentes del Estado y encontrarte en la cárcel de por vida? Y Dore suena mucho mejor para la mayoría de los ciudadanos chinos y, francamente, también para muchos ciudadanos de otros países. Quiero decir, eso es parte de la, ya sabes, una especie de juego de la estructura de incentivos, creo.

David:
[54:02] Sí, supongo que esto se remonta a donde Nepal fracasó y por qué China es buena en lo que hace. Nepal fracasó porque utilizó un instrumento contundente y detuvo a ciudadanos respetuosos con la ley junto a los manifestantes porque simplemente apagaron Internet para todos. Como, de acuerdo, ninguno de vosotros tiene internet, lo que anima a los moderados a unirse a los manifestantes. Como, bueno, ustedes me acaban de agrupar con los manifestantes, así que voy a ir a unirme a ellos. Mientras que creo que lo que China probablemente hace con bastante eficacia es identificar inteligentemente el mayor beneficio por el dinero, que es como, ¿esta acción coacciona al mayor número de personas de la manera más invisible posible? Y así, los ciudadanos respetuosos de la ley no son molestados, pero podríamos hacer desaparecer a este individuo ruidoso, a este disidente ruidoso. Y sí, nadie va a extrañarlos porque es sólo una persona. Y también que también hace toda la cosa efecto escalofriante, pero por lo demás la gente normal simplemente no les importa. Y en última instancia es invisible al final del día. Así que es una decisión inteligente. Voy a hacer la gran explosión para la cosa dólar. Y esa es probablemente la diferencia entre un estado autoritario eficaz como China y uno ineficaz como Nepal. ¿Es esa una línea?

Steven:
[55:19] Creo que es justo. Quiero decir, mira, Nepal no es francamente, quiero decir, Nepal es una especie de mezcla de todos modos. Tiene un presidente elegido democráticamente. Es un tipo de régimen cleptocrático, ¿verdad? Es un régimen poco representativo y pequeño, pero con elecciones relativamente libres y justas. Y así, en cierto sentido, incluso las herramientas que China tiene no estaban necesariamente disponibles para Nepal de todos modos. Así que utilizaron una herramienta contundente al final, y en ese momento la suerte ya estaba echada. Pero creo que lo que también es interesante acerca de Nepal que es diferente de China, es que creo que para muchos ciudadanos, especialmente los muchos que están en la pobreza, que están desposeídos, que se ven obligados a buscar trabajo fuera del país, es que ¿qué tengo que perder para salir a la calle?

Steven:
[56:00] ¿Cuál es el costo para mí?

Steven:
[56:01] La vida ya es difícil. La corrupción ya es endémica. Tengo muy pocas posibilidades de levantarme y ganarme bien la vida para mi familia, por no hablar de tener voz en el sistema. Así que, ¿por qué no salir a la calle? Es decir, vimos la misma dinámica en la Primavera Árabe con todas las protestas contra la corrupción, incluidos millones de egipcios reunidos en lugares como la plaza Tahrir diciendo: "Ya no quiero esto porque el sistema no me ofrece nada". No creo que el ciudadano chino de a pie diga lo mismo en Pekín. Creo que una de las cosas que el Partido Comunista Chino ha hecho muy bien es reducir la pobreza. Es un país floreciente. Hay mucha innovación. Hay muchas oportunidades y caminos para tener éxito. Por eso, para alguien que tiene mucho más que perder, es una decisión muy difícil de tomar. Creo que en Nepal, sin embargo, dado que la vida era mucho más difícil para la persona común, creo que salir a la calle y decir, ¿sabes qué? Que le den a este régimen. Y por cierto, son ineptos. Así que probablemente no son tan coercitivos de todos modos. Y no, ahora me quitaron lo único que tenía, ya sabes, mi acceso a comunicarme con otras personas. Bueno, ahora estoy doblemente enfadado. Así que definitivamente voy a salir. Y eso se ve en lugares como Indonesia. En Filipinas, también se ven protestas crecientes. Y eso es común. Ya sabes, la mayoría de los países no son China. Creo que eso es algo que también es importante, que China es bastante única en términos de lo que es capaz de hacer.

David:
[57:19] Sí, supongo que hay una gran diferencia entre los regímenes autoritarios represivos que son económicamente pobres frente a los regímenes autoritarios represivos que son económicamente ricos. Y supongo que si eres un régimen autoritario y controlas a tus ciudadanos, pero también los haces ricos, eso empieza a plantear una cuestión diferente sobre lo que es bueno o malo aquí. Steve, ¿qué piensas de Curtis Yarvin? ¿Le conoces?

Steven:
[57:46] Lo conozco. No conozco su trabajo lo suficiente como para comentarlo públicamente. Así que voy a...

Steven:
[57:53] Vamos a saltarnos eso.

David:
[57:55] Para el oyente, Curtis Yarvin es un tipo que piensa que básicamente una monarquía es el mejor estilo de gobierno. Y la pregunta que le hice a Stephen fue, bueno, ¿qué piensas de eso? Pero, de nuevo, vamos a seguir adelante.

Steven:
[58:08] Bueno, puedo decir, puedo comentar ampliamente sobre usted políticamente. No creo que, ya sabes, creo firmemente en el experimento democrático, tan defectuoso como es, creo que dar a la gente una voz y no investir a sí mismos en los caprichos de un individuo en particular, incluso si eso es alguien que se espera que sea benigno, ya sabes, si usted acaba de tipo de mirada en el lado agregado en términos de como los sistemas de entregar mejor en el largo plazo, siempre es democracias, no autocracias. Así que, ya sabes, lo dejaré ahí sin comentar específicamente sobre las opiniones de Curtis Yarvin, pero yo estaría muy a favor de la democracia.

David:
[58:38] Claro. ¿Qué podemos decir sobre el oleoducto entre China e Irán? Según tengo entendido, Irán es una especie de banco de pruebas para muchos productos chinos, porque Irán es el más autoritario de los dos. Tienen un control mucho más fuerte sobre su población. Por eso aplican la tecnología de la represión en mayor medida que China, pero obtienen gran parte de su tecnología de China. ¿Todo eso es correcto? ¿Y qué puede decir sobre la relación de Irán con China?

Steven:
[59:07] Sí, es interesante. En realidad, yo le daría la vuelta al revés. Creo que Irán es un seguidor de China. Creo que están tratando de hacer lo que China ha hecho. Una de las cosas, por ejemplo, que están tratando de establecer es una Internet nacional cerrada al mundo exterior. Y todavía están luchando para ponerlo en marcha. China lo ha hecho, ¿verdad? Así que la tecnología e Irán está utilizando algo de tecnología china. Pero no es exclusivo. Creo que hay otros tipos de, dispositivos y componentes que también están utilizando a partir de una serie de países, pero usted sabe sí seguro seguro que están lejos de China, pero creo que alrededor está tratando de hacer lo que China ha hecho creo que en algunos se puede hacer un argumento que alrededor es más represivo en el sentido de que han encerrado a más personas que están dispuestos a matar a más gente en las calles y eso es en parte porque tienen que recurrir a eso porque tienen un control mucho más flojo y el poder y la economía está en caída libre y usted sabe que es un estado teocrático en un país donde la mayoría de la gente ya no cree en la religión del estado, ¿verdad? Así que tienen un vínculo mucho más débil con la legitimidad que el Partido Comunista Chino en China. Por lo tanto, tienen que recurrir a tácticas físicas mucho más rudimentarias para conseguir que la gente haga lo que ellos quieren, porque esa es la única salida. Y también están siendo atacados a diestra y siniestra con bastante éxito por sus vecinos. Así que están perdiendo guerras, ya sabes, y están perdiendo su economía. Y, ya sabes, el precio del petróleo está cayendo y todo es una especie de lío. Pero creo que están siguiendo lo que China está haciendo. No creo que sea al revés.

David:
[1:00:34] Bueno, sí. Sí, eso me parece bien. La razón por la que pregunto es que quiero entender cómo va a proliferar la tecnología de la represión. Creo que si entiendo tu literatura y todo lo que escribiste, piensas que la tecnología de la represión va a proliferar más y más de lo que lo hace hoy en el futuro. En el futuro, habrá más tecnología represiva que hoy. ¿Crees eso?

Steven:
[1:00:55] Sí, bueno, mira, creo que en parte va a seguir donde creo que los patrones autocráticos van. Como, ¿hay más países que se están volviendo autoritarios? Si usted piensa que la respuesta es sí, y hasta ahora parece que es. Si nos fijamos en Freedom House y en el número de países que son democracias frente a autocracias, llevamos 15 o 19 años consecutivos de menor número de democracias y mayores niveles de autoritarismo. Por lo tanto, el punto uno es que si hay más países autoritarios, habrá una creciente demanda para conseguir estos sistemas. Y creo que eso es parte de ello. Creo que el punto dos es también que, ya sabes, algunas personas realmente se centran mucho en el lado de la exportación, el lado de la oferta. Yo tiendo a pensar un poco más en la mezcla entre la oferta y la demanda. Se trata tanto de que China saque o ponga a la venta ciertos tipos de tecnologías represivas o, francamente, de que otros países occidentales como Estados Unidos e Israel tengan ciertos tipos de tecnologías que la gente pueda comprar, como de quién las quiere realmente. ¿Tienen motivación para utilizarlas? ¿Disponen de los recursos necesarios para instituir un sistema de vigilancia que les ayude a controlar quién dice qué en el país? Algunos países quieren hacerlo. Otros lugares, aunque sean autocráticos, dicen, ya sabes, bueno, tenemos otras formas de manejar las cosas. Así que, ya sabes, ¿por qué molestarse con eso? Parece muy caro. Tal vez China nos hará un descuento, pero ¿cuál es el punto? Nosotros.

Steven:
[1:02:21] Pero encarcelar a la gente funciona muy bien. O fusilar a tres o cuatro personas y convertirlas en símbolos de los desafíos al estado, eso funciona bastante bien. Así que ya veremos. Quiero decir, hay muchas maneras diferentes. Pero creo que el lado de la demanda y su análisis son muy importantes.

David:
[1:02:38] ¿Tienes alguna opinión sobre la forma en que esta tecnología de represión prolifera en todo el mundo? ¿Crees que irá de abajo arriba y que empezará por los países más débiles que necesitan recurrir primero al autoritarismo? Y así, como los países más débiles que empiezan a perder el control. Y entonces empiezan a inclinarse por el autoritarismo para contener a su población antes de perder el control. Tal vez comienza de esa manera y va comienza en los países más débiles y se mueve hacia arriba y hacia arriba y hacia arriba a los países más grandes y más grandes y más grandes. ¿O empieza con las superpotencias? China, Rusia, Estados Unidos, ya sabes, China tiene esa relación con Irán de la que acabamos de hablar. Y luego como que se abre camino. Prolifera en estas esferas represivas alrededor de las superpotencias. ¿Tiene usted una, lo hace, es direccional en la forma en que esto se adopta?

Steven:
[1:03:26] Creo que es realmente específico del contexto. Creo que es difícil generalizar, pero yo, ya sabes, creo que podemos mirar a algunos patrones que probablemente se reproducirán. Así que creo que un patrón que veremos es que los países ricos que son muy autocráticos. Así que, ya sabes, los países que tienen una gran cantidad de recursos, Arabia Saudita, los Emiratos Árabes Unidos, tal vez Egipto, en cierta medida, los países así, que tienen una gran cantidad de recursos y también tienen una muy alta ...

Steven:
[1:03:48] El interés en la adquisición de estas tecnologías autoritarias los conseguirá y continuará tipo de multitud en la medida de lo posible. Ya sabes, es interesante cuando se trata de países que son más débiles, creo que tienes que reconocer tu debilidad con bastante antelación con el fin de hacer algo significativo con esto, porque no es como si traes un sistema de vigilancia y puedes instalarlo de la noche a la mañana, sabes cómo usarlo, y tu fuerza policial es capaz de desplegarlo. Una de las cosas que analicé fue la capacidad de las fuerzas de seguridad para ser altamente coercitivas y organizadas o no. Así que ya es necesario tener una especie de sistema que pueda aprovechar estas tecnologías con el fin de hacer algo con ellas. Así que si usted es como un país que ya está empezando como Nepal, como una especie de caída libre, cuasi-democrática, o Bangladesh es otro lugar que tenía un cambio de gobierno el año pasado debido a las protestas, como que es demasiado tarde en ese momento. Quiero decir, A, usted no tiene los recursos para hacer mucho con él. B, sus fuerzas han sido entrenados en términos de cómo usarlo. Y C, tienes problemas inmediatos.

Steven:
[1:04:42] Estas tecnologías son mejores para problemas a medio y largo plazo. Quiero decir, ya sabes, de nuevo, el ejemplo clásico es un lugar como Rusia que en el largo plazo es sólo poco a poco atrincherando mayores niveles de control en una sociedad. Poco a poco, está expulsando diferentes plataformas occidentales y tratando de controlar lo que se dice en las que quedan, ya sea YouTube o Telegraph. Poco a poco, está instaurando sistemas de reconocimiento facial en todas sus ciudades principales e incluso en las periféricas. Y luego es una especie de complemento que con el tipo de asesinatos de alto perfil de los disidentes como Navalny. Así es como se hace. Usted tipo de tener un horizonte de tiempo un poco más largo. Usted tiene el espacio de recursos necesarios y tiene la motivación en la que para conseguir estos. Y ese es tu tipo de tormenta perfecta. Así que yo diría, ya sabes, pensar en qué países tipo de golpe ese compuesto, que caen en ese marco. Y esos son los lugares donde verás más y más compras.

Steven:
[1:05:34] Supongo que el mejor despliegue,

Ryan:
[1:05:36] Ya sabes, el despliegue más eficaz de la tecnología de la represión es cuando la población no se da cuenta de que está sucediendo.

Steven:
[1:05:44] Claro. O eligen buscar en otra parte.

David:
[1:05:48] Correcto. El mejor momento para plantar un árbol era ayer.

Ryan:
[1:05:50] Sí. Es definitivamente un tipo de efecto de hervir la rana. Otra pieza aquí, Steve, quiero hablar porque, por supuesto, hablamos de, quiero decir, este es un podcast cryptocurrency también, es el elemento de la represión financiera que también ocurre. Creo que gran parte de su trabajo en el lado de la represión digital de las cosas se centra en el tipo de capa de comunicación. Así que es como cosas de la Primera Enmienda, ya sabes, la tecnología de represión que restringe el derecho de reunión o la libertad de expresión, ese tipo de cosas. También hay una desintegración que puede ocurrir una vez que se despliega plenamente la tecnología de represión digital en toda la sociedad. Esto llegó a los titulares esta semana sobre Vietnam. Vietnam instituyó una identificación gubernamental, identificación nacional, con una aplicación biométrica en todos los teléfonos inteligentes, ¿verdad? Así que tienen esa parte. Y ahora han desplegado la necesidad de que todas las cuentas bancarias requieren que los datos biométricos antes de que se abran o antes de poder enviar un pago o una transferencia de fondos por encima de $ 750, por ejemplo. Y así

Ryan:
[1:06:56] Y de esa manera pueden controlar y reprimir digitalmente todo el sistema financiero. Y, por supuesto, todo esto es cuando se trata de como, cuando hablamos de la comunicación o hablamos de, ya sabes, mover dinero, es todo tipo de tecnología de coordinación. Y si eres un régimen autoritario, quieres evitar que tus ciudadanos se coordinen. Puedes impedirlo censurando tus comunicaciones. También puedes impedirlo en el aspecto económico, ¿verdad? Si no pueden pagar por literatura diferente o no pueden realizar transacciones en la economía, tienes el control total.

David:
[1:07:27] No pueden donar a partidos políticos contrarios.

Ryan:
[1:07:30] Exactamente. Entonces, ¿hasta qué punto estáis viendo también una represión en el aspecto financiero?

Steven:
[1:07:35] Sí, no, creo que es un gran punto. Y, ya sabes, ya hemos visto como un gran número de casos de eso. Así que, ya sabes, uno de los ejemplos que la gente plantea bastante es el sistema de crédito social en China, ya sabes, donde esencialmente, ya sabes, tratando de vincular, ya sabes, diferentes tipos de registros y bases de datos todo en uno para obtener un compuesto de un individuo y luego asignarle una puntuación basada en otras cosas que haces. Y si esa persona, ya sabes, suspende algunas categorías diferentes, entonces eso puede significar potencialmente no permitirle abrir cuentas bancarias en ciertas áreas o hacer otro tipo de cosas. Y de hecho, en China.

David:
[1:08:08] Incluso has visto... ¿Pero no es también una forma de restringir el movimiento también? ¿Como impedirte subir al metro?

Steven:
[1:08:13] Usted puede hacer cualquiera de esos, ¿verdad? No sé hasta qué punto se ha aplicado. Quiero decir, un poco como una mezcla de tipo de hipérbole o perspectiva. Esto podría suceder frente a la aplicación real. Así que esa es una de esas cosas que creo que es un poco fluido, pero sin duda podría. Quiero decir, usted puede hacer cualquier tipo de apalancamiento financiero del Estado que le gustaría contra el individuo. Y así no tiene que ser sólo encerrarlos. Puede ser simplemente negarles el acceso a los beneficios o negarles el acceso a su dinero. La coerción económica es muy importante en el arsenal de lo que los gobiernos, los gobiernos represivos quieren hacer.

Ryan:
[1:08:47] ¿Puedes imaginar algo como esto, Steve? Alguien dice algo en las redes sociales que al gobierno no le gusta. Así que le das una lección y congelas su cuenta bancaria durante 30 días.

Steven:
[1:08:58] Quiero decir, en un país, ya sabes, sin el imperio de la ley y, ya sabes, donde como suponiendo que pudiera tipo de en los Estados Unidos, creo que sería difícil, ¿verdad? Claro. Pero en otros países, sin duda, donde o bien no tienen protecciones reglamentarias en el lugar o que tienen normas que tienen lagunas tan grandes, las lagunas de seguridad nacional, que cada país parece tener. Sí. Quiero decir, ¿por qué no? Quiero decir, de hecho, hay como un lado bastante floreciente de los derechos humanos que ha mirado a las criptomonedas como una forma de evitar eso. Uno de los ejemplos que creo que se ha citado bastante ha sido Myanmar, donde había una junta militar ilegal que llegó, depuso al gobierno elegido democráticamente, los arrojó a todos al exilio o a una insurgencia, y ahora hay una guerra civil. Y ese es un ejemplo en el que tratar de hacer llegar dinero a la gente a través de la frontera, especialmente no se puede enviar en las transacciones normales porque el gobierno puede detenerlo. El uso de criptomonedas es una gran manera de eludir esos controles. Así que supongo que cada vez habrá más casos en los que el gobierno intente aprovechar su capacidad para controlar las redes financieras normales y el cripto puede ser una opción para evitarlo, como una tecnología de liberación, francamente, para los disidentes.

Ryan:
[1:10:08] Esa fue la historia en Nepal, ¿verdad? Así que había manifestantes, cuentas bancarias congeladas, y en realidad estaban usando monedas estables como USDT para evitar esto, otras criptomonedas también.

David:
[1:10:18] Diré, Ryan, que todas las monedas estables centralizadas, USDT, USDC, pueden congelar tus cuentas bancarias si se lo ordena el debido proceso legal de los Estados Unidos, pero podrían hacerlo.

Ryan:
[1:10:31] Sí, podrían. Y esto no es cierto para algunos de nuestros cripto activos nativos, de los que definitivamente somos defensores. Así que el Bitcoin y los éteres del mundo. Así que Steve, al llegar al final de este episodio, esto ha sido una discusión fantástica, creo. Sí.

Steven:
[1:10:45] No lo sé.

Ryan:
[1:10:46] Me siento un poco deprimido, honestamente. Es una especie de, quiero decir, ¿cómo se ve en

Ryan: [1:10:51]
[1:10:51] todo esto y no ser pesimista, supongo? Esa sería una pregunta o tal vez una forma más optimista de hacer la misma pregunta es, ¿cómo evitamos todo esto?

David:
[1:11:02] ¿Qué pasa con nuestros hijos? Sí.

Ryan:
[1:11:03] ¿Qué vamos a hacer aquí?

Steven:
[1:11:05] Sí. Tengo un par de niños que son jóvenes, así que pienso en eso un poco. Mira, quiero decir, creo que hay algunas cosas. Una de ellas es que la tecnología, no creo en una especie de futuro tecnológico determinista. No creo que sólo porque tenemos tecnologías de gran alcance que van a ser mal utilizados y explotados por los gobiernos. Creo que, en última instancia, todo se reduce a la política y a cómo la gente decide votar y cómo decide organizarse y qué decisiones toma. Así que por cada situación como la de China, que es bastante sombría y pesimista, hay otras en las que se ve la posibilidad de cambio, como en Nepal, Indonesia o Bangladesh.

Steven:
[1:11:40] Incluso en nuestro propio país. Así que creo que, al menos en las democracias y en los lugares que se inclinan hacia la democracia, hay mucha apertura. No creo que el futuro esté escrito. Así que, en cierto modo, observar a los países autoritarios puede ser una especie de advertencia. Puede mostrarnos lo que se avecina. Puede decirnos cuáles son los posibles problemas que pueden surgir si no protegemos nuestras libertades con cuidado, si no pensamos en formas de oponernos, si no pensamos en añadir fricción al uso de estas tecnologías. En otras palabras, no creo que esté predestinado que los algoritmos poderosos se apoderen del mundo y afiancen los gobiernos. Al mismo tiempo, creo que tenemos que tener cuidado porque si nos dormimos en los laureles y miramos hacia otro lado, podríamos despertarnos un día y de repente decir, espera un segundo, vivimos en un estado de vigilancia. Supuestamente tenemos una Constitución. ¿Cómo he llegado a una situación en la que no sé cuáles son mis derechos? Parece que el gobierno puede hacer muchas cosas. Así que tenemos que oponernos constantemente. Y creo que utilizar la ley, la acción colectiva y los modelos y ejemplos de otros lugares del mundo para aprender lo que no hay que hacer puede ser muy instructivo e importante para las generaciones futuras. Steve.

David:
[1:12:43] Cualquier cosa que hagas o dejes de hacer a diario que se relacione con eso,

Steven:
[1:12:48] No lo sé.

David:
[1:12:48] Supongo que lo llamaremos higiene de la tecnología de represión. Como, ya sabes, por lo general puedo twittear todas mis opiniones en Twitter. Y también soy consciente de que en el futuro, la gente leerá esas opiniones. Así que a veces pienso en ello cuando tuiteo. ¿Hay algo que hagas a diario? Que pienses: "Oh, mejor no hacer eso". O tal vez debería hacer esto por si acaso, ya sabes, por si acaso.

Steven:
[1:13:09] Bastantes cosas. Así que me comunico más y más. Me comunico con amigos míos, especialmente grupos a través de la señal y no mensajes de texto. Y de hecho, ya sabes, como las cosas se han puesto un poco acaloradas políticamente, me di cuenta en varios de los grupos, la gente tiene, los moderadores han cambiado los mensajes que desaparecen a un día en lugar de más tiempo. No es que la gente esté dispuesta a decir nada, pero hay un poco de aprensión. Empecé a autocensurarme hace un tiempo, pero en términos de lo que digo públicamente en las redes sociales, así que es bastante anodino, es bastante aburrido. No es necesariamente lo que siento o pienso en una situación determinada, pero también he aprendido que, aunque pueda tener una reacción emocional muy específica ante algo, quizá sea mejor tomarme un respiro y, desde luego, no exponerla públicamente. Así que le digo cosas a la gente, a mis amigos, pero no las hago públicas. Quiero decir, en cierto modo, es una pena, ¿verdad? Porque, ya sabes, conozco muy bien la idea del efecto inhibidor de la autocensura y por qué es algo malo para una sociedad sana. Por otra parte, hay que tener cuidado.

David:
[1:14:11] Estás haciendo esto en realidad hace el trabajo del autoritario más fácil.

Steven:
[1:14:14] Correcto.

David:
[1:14:16] Si todo el mundo decide estar un poco más tranquilo.

Steven:
[1:14:18] Si. Así que, ya sabes, quiero decir, pienso mucho en el lado de las redes sociales. Sí, esas son, quiero decir, esas son algunas de las cosas más importantes. Pero el paso a las aplicaciones encriptadas, creo que es una cosa muy interesante. Y eso ha sido una especie de como a través de muchos de mis diferentes grupos de amigos, ya sabes, la gente tiene una especie de revertido a que más. Si.

David:
[1:14:36] Así que estás diciendo que si fuéramos a tomar una cerveza juntos fuera del aire, podría escuchar algunas opiniones diferentes.

Steven:
[1:14:42] Tal vez no hay micrófonos cerca o alguien discretamente usando tu iPhone para grabarte. Sí.

David:
[1:14:50] Creo que si Ryan y yo estuviéramos en su silla, nuestra respuesta sería, usted sabe, usted no necesita poner su cripto, sus ahorros en cripto. Así que, pero yo establecería una tubería de ir de su cuenta bancaria al mundo cripto para que si alguna vez lo necesita, está ahí para usted. No te des cuenta antes de que sea demasiado tarde. Creo que eso es lo que diríamos para añadir al arsenal de los individuos. Sí, no es una mala idea.

Ryan:
[1:15:14] Sí, creo que lo haríamos, ¿verdad? Cifrado en todos los ámbitos, incluso cifrado para

Ryan:
[1:15:18] tus comunicaciones, supongo que encriptación, criptomoneda para tu dinero también. Steve, ha sido un placer. Creo que has aclarado muchas cosas hoy y ha sido una conversación fascinante. Así que muchas gracias por estar con nosotros.

Steven:
[1:15:30] Sí, gracias por invitarme. Tus preguntas han sido geniales y he aprendido mucho simplemente hablando y escuchando tu perspectiva. En cierto modo me obliga a lanzar cosas. Oh, lo último, Steve. Steve.

Ryan:
[1:15:38] El nuevo libro. Así que va a salir en 2026. Así es. Se llama Mordiscos y balas, rivalidad global, tecnología privada y la nueva forma de la guerra moderna. Así que danos un adelanto. ¿De qué va a tratar el libro?

Steven:
[1:15:49] Sí, se trata de cómo los países y los diferentes ejércitos están utilizando la tecnología para la competencia geopolítica. Así que lo analiza todo, desde la guerra tecnológica entre Estados Unidos y China y cómo se desarrollará y determinará el poder hasta el uso de drones y los campos de batalla en Ucrania y otros lugares en términos de cómo se está reequilibrando, ya sabes, cómo ganan o pierden los ejércitos cuando se trata de la guerra. Así que se trata de adoptar una visión más externa en términos de pensar en el equilibrio entre la tecnología, el poder y la fuerza militar y lo que eso podría significar para el futuro.

Steven:
[1:16:23] Sí, es definitivamente una fuerza impulsora también.

Ryan:
[1:16:25] Así que cuando ese libro salga,

Steven:
[1:16:26] Tendremos que leerlo.

Ryan:
[1:16:26] Y tal vez te traiga de vuelta. Pero gracias por

Steven:
[1:16:28] Unirse a nosotros hoy. Eso sería genial.

Ryan:
[1:16:30] Bankless Station, tengo que decirte, crypto es arriesgado. Por supuesto, podrías perder lo que pusiste, pero vamos hacia el oeste. Y el cifrado es la defensa contra la pérdida de lo que pones. Esta es la frontera. No es para todos, pero estamos contentos de que estés con nosotros en el viaje sin bancos. Muchas gracias.