He leído el manifiesto de Palantir (y es peor de lo que pensaba)

El otro día me compartieron un tuit de Palantir que se había hecho muy viral. Me lo describieron como un manifiesto “tecnofascista”.

Ojo con la palabra.

Ya lo sé. Hoy en día se usa tanto, que parece que el significado de la palabra fascismo se ha diluido. Es cierto que el tuit, de 22 puntos, tiene algunos pasajes bastante inquietantes.

Por ejemplo, uno dice que tenemos que construir armas con inteligencia artificial antes que “nuestros enemigos”, y otro que algunas culturas han creado maravillas, mientras que otras “han demostrado ser mediocres y, peor aún, regresivas y dañinas.”

Al final de esta newsletter encontrarás una traducción en español de los 22 puntos. Pero estos puntos, por mucho que así lo hayan dicho algunos medios, no son el manifiesto de Palantir. El verdadero manifiesto es un libro titulado La República Tecnológica: Poder duro, creencias blandas y el futuro de Occidente”, escrito por Alexander Karp (CEO de Palantir) y Nicholas Zamiska (director de asuntos corporativos de Palantir).

Y, como bien sabes, para mí no hay mayor entretenimiento que leer un libro propagandístico de una de las empresas más siniestras de nuestra era, y responder, ya de paso, si el uso de la palabra "tecnofascista" es correcto en este contexto o no.

Si prefieres escucharlo en formato podcast, donde entro más a fondo y leo más extractos del libro, aquí tienes el episodio completo en Youtube. Verás que ya tenemos las animaciones que nos acompañarán esta temporada. Por si te lo preguntas: no, no las ha generado la IA, sino Diego, miembro del equipo del canal principal.

Aunque, bueno, a veces me pregunto si es una IA o no.

También te agradecería que te suscribieras a la newsletter de pago para acceder a contenido exclusivo y apoyar este proyecto.

Gracias!

¿Es realmente "tecnofascismo"?

Antes de comparar el libro con el fascismo, lo primero que tenemos que hacer es definir el fascismo. Según la Wikipedia —creo que nos sirve para este caso—, es una ideología y forma de gobierno de carácter totalitario, antidemocrático, ultranacionalista y de extrema derecha. Hay dos características fácilmente identificables: el totalitarismo (poder muy concentrado, o en manos de un dictador) y el ultranacionalismo (exaltación exagerada de la identidad nacional).

Te adelanto que en el libro no hay defensa abierta del totalitarismo. En todo caso, mencionan el de otros países (China y Rusia) como una amenaza. Eso sí, hay una exaltación muy fuerte del nacionalismo estadounidense. El libro es prácticamente un grito a la sociedad y, sobre todo, a la élite de ingenieros de Silicon Valley, para que se pongan a trabajar en la defensa del Estado.

A lo largo del libro he detectado tres elementos que se repiten: el nacionalismo, la identificación de un enemigo común y la culpabilización de Silicon Valley.

Elemento 1: Nacionalismo

El libro empieza con una premisa clara: la industria del software tiene que reconstruir su relación con el gobierno y participar en la defensa de la nación, todo ello, cito, "para preservar la ventaja geopolítica de Estados Unidos y sus aliados en Europa sobre sus adversarios".

Sobre si esta élite de ingenieros debería servir al Estado, dice (negritas mías):

Podríamos haber salido del paso durante años, o incluso décadas, esquivando estas cuestiones más esenciales, si el avance de la IA, desde los grandes modelos de lenguaje hasta los futuros enjambres de robots autónomos, no hubiera amenazado con trastornar el orden mundial.

Sin embargo, ahora es el momento de decidir quiénes somos y qué aspiramos a ser como sociedad o como civilización. Otros preferirían abogar por una división más cuidadosa y deliberada entre los ámbitos y las inquietudes de los sectores privado y público. La mezcla de fines empresariales y nacionales de la disciplina que puede proporcionar el mercado con el interés por el bien colectivo preocupa a muchos, pero la pureza tiene un coste.

Es decir, ya está. El libro crea un marco en el que es necesario que Silicon Valley trabaje en la defensa del Estado y de la nación de Estados Unidos, desde ya.

Elemento 2: El enemigo común

El porqué de ese desde ya es China. Por cómo lo describe el libro, es como si estuviéramos de nuevo en una carrera tecnológica, pero en lugar de ver quién es el primero en llegar a la Luna, se trata de quién es el primero en crear un enjambre de drones asesinos con inteligencia artificial.

Defendemos que uno de los retos más importantes a los que nos enfrentamos en este país es garantizar que el Departamento de Defensa de Estados Unidos pase de ser una institución concebida para luchar y ganar guerras cinéticas a una organización que pueda diseñar, construir y adquirir armamento de IA, los enjambres de drones no tripulados y los robots que dominarán el campo de batalla en el futuro.

Esto es siniestro, pero parece que los líderes mundiales ya lo tienen claro. En la newsletter sobre Anthropic hablamos de cómo esta empresa se presentó a un concurso del Departamento de Defensa con una propuesta en la que un comandante daba órdenes por voz a Claude y este dirigía un enjambre de drones de guerra. Al final ese concurso lo ganó SpaceX. Pero la cuestión es que el libro hace referencia varias veces a esos enjambres de drones, e incluso habla de cómo China ya los está desarrollando.

El libro pone una especie de cuenta atrás: "las principales naciones del mundo están ahora inmersas en un nuevo tipo de carrera armamentística. Nuestra vacilación, percibida o real, a la hora de avanzar en las aplicaciones militares de la inteligencia artificial se verá castigada". Por si fuera poco, también narra un pasaje del Talmud, el libro de los rabinos, que viene a decir: “si uno viene a matarte, apresúrate a matarlo primero”.

Desde luego, ya no se escriben libros como antes.

Elemento 3: La culpabilización de Silicon Valley

Tengo que confesar que hay una parte del libro que casi me conquista: la culpabilización de Silicon Valley. Los autores despotrican sobre las startups de redes sociales, comida a domicilio, Uber y demás chorradas. Dicen que esta élite de ingenieros se ha dedicado a complacer los impulsos más bajos del individuo y a sacar rédito del consumo de la gente. Todo orientado a captar atención, hacer adicta a la gente al scroll, y desarrollar anuncios ultrapersonalizados con sus datos.

Y en ese punto casi me tienen. La de Silicon Valley es una industria que se beneficia de hacernos tontos, vagos y adictos. Si te pones a pensar que hay una élite de ingenieros, gente muy talentosa, trabajando básicamente para lobotomizarnos el cerebro, es normal tener una reacción.

Este es un argumento moral. Algunos en Silicon Valley se creen moralmente superiores a empresas como Palantir, pero Karp dice: no sois mejores.

El libro pone un ejemplo curioso de 2018 en Google. Los empleados se quejaron de que iban a renovar un contrato con el Departamento de Defensa para trabajar en el Proyecto Maven, un sistema de análisis de imágenes satelitales para operaciones de fuerzas especiales. Tres mil empleados firmaron una carta a Sundar Pichai pidiendo que no lo renovaran. La cúpula de Google aceptó y canceló la renovación.

Lo que el libro no cuenta es que el Proyecto Maven siguió adelante porque trabajaron en él Amazon, Microsoft y la propia Palantir. Tampoco menciona el proyecto PRISM, una trama de vigilancia masiva de la NSA en la que esta utilizaba los datos de Facebook, Google, Microsoft, Apple, Yahoo y Dropbox para espiar a sus usuarios. Ahí sí existía colaboración.

Así que el argumento de que estos ingenieros no están colaborando con el Pentágono, vamos a ponerlo entre comillas.

Nazis, 1984 y la cultura de la cancelación

Dado que la gente habla de tecnofascismo, me preguntaba si el libro incluiría alguna referencia al señor Adolf, y sí. Pero las menciones se dan de forma anecdótica en un breve repaso de la Segunda Guerra Mundial.

Mucho más impactante me ha parecido la mención de Aryeh Neier, entonces director ejecutivo de la Unión Estadounidense por las Libertades Civiles. Neier, un judío nacido en Berlín en 1937, decidió defender a Frank Collin, líder de un pequeño partido nazi de Estados Unidos, cuando este planificó una marcha en Skokie (Illinois). Toda la ciudad se opuso, y el caso llegó a los tribunales. Neier lo defendió porque consideraba que debía defender la primera enmienda, la de la libertad de expresión y la reunión pacífica, independientemente de que fuera un nazi quien quisiera ejercerla.

Esta referencia aparece en un capítulo titulado "el abandono de la fe", donde hablan de que hoy a la gente le faltan ideas claras y carácter para defenderlas:

Estas personas arriesgaron su reputación, así como la desaprobación de sus compañeros y del público, para defender una especie de creencia estricta que no era susceptible de ser abandonada y racionalizada. Para Neier y Murray, estaba en juego algo más que su propia autoconservación y progreso.

Y más adelante, en el mismo capítulo, añaden:

Palantir crea software y capacidades de inteligencia artificial para las agencias de defensa e inteligencia de Estados Unidos, y sus aliados en Europa y en todo el mundo. Nuestro trabajo ha sido polémico, y no todo el mundo estará de acuerdo con nuestra decisión de construir productos que permiten la operación de sistemas de armas ofensivos, pero hemos tomado una decisión a pesar de sus costes y complicaciones.

O sea: al igual que un judío defendió a un nazi, ¿nosotros creamos armas?

Entiendo por dónde van: construir armas es polémico, pero alguien tiene que hacerlo. Es como el abogado del diablo: alguien tiene que defender al asesino en serie para que podamos creer en la institución del juzgado. Ahora, ¿en serio necesitaban hacer referencia a nazis? ¿Esto lo ha revisado el equipo de relaciones públicas de Palantir?

La cosa se pone aún más surrealista porque, además de los nazis, también deciden citar 1984 de George Orwell, pero no por lo que crees:

En una escena particularmente inquietante de 1984 de George Orwell, Winston Smith, su protagonista, se encuentra vagando por una zona boscosa, aparentemente lejos del alcance de los vigilantes distópicos del Estado. Incluso entonces, aislado y casi con toda seguridad libre de observación, Smith se imagina un micrófono que podría estar oculto entre los árboles, a través del cual algún hombrecillo con aspecto de escarabajo estaría escuchando atentamente. La escena es ficción… aproximadamente.

En Alemania Oriental se rumoreaba que el Servicio de Seguridad del Estado, conocido como la Stasi, había colocado micrófonos en los árboles, sobre mesas de ping-pong en los parques de Berlín, para captar fragmentos de conversaciones. El futuro distópico que Orwell y otros han imaginado puede estar cerca, pero no a causa del estado de vigilancia o de los artilugios construidos por los gigantes de Silicon Valley que nos despojan de nuestra privacidad o de nuestros momentos más íntimos a solas.

Somos nosotros, y no nuestras creaciones técnicas, los culpables de no fomentar y permitir el acto radical de creer en algo que está por encima y más allá y que es externo al yo. La rapidez y el entusiasmo con que la cultura se ensaña con cualquiera por sus transgresiones y errores percibidos, con los que nos atacamos unos a otros por desviarnos de la norma, no hace sino reducir aún más nuestra capacidad de avanzar hacia la verdad.

Cuando hablan de "la rapidez y el entusiasmo con que la cultura se ensaña", se refieren a la cultura de la cancelación. Y ponen el foco en que es esta cultura la que hace que los individuos no se atrevan a creer en algo superior a sus propias necesidades.

No se me ocurre peor referencia para criticar la cultura de la cancelación para una empresa especializada en desarrollar herramientas de vigilancia masiva y selección de objetivos de forma autónoma.

No sé si este libro no lo ha revisado el equipo de relaciones públicas de Palantir, o ha sido escrito directamente bajo los efectos de uno de esos viajes de ayahuasca que están tan de moda en Silicon Valley.

Y hay una contradicción más. Frente a la valentía de Neier defendiendo al líder nazi, el libro pone el ejemplo de tres rectores de Harvard, la Universidad de Pensilvania y el MIT, que comparecieron ante el Congreso en 2023 por las protestas estudiantiles contra la invasión israelí de Gaza. El libro critica que fueron tibios al expresar su oposición "a las llamadas abiertamente hostiles de los estudiantes".

Es decir, cuando se trata de defender la libertad de expresión del nazi, el libro habla de creencias firmes. Pero cuando se trata de defender la libertad de expresión de unos estudiantes radicales, el libro habla de falta de creencias firmes y del “afán de las instituciones por vigilar el lenguaje por miedo a ofender”. Por mucho que pretenda mostrar respeto por las ideas firmes, no es difícil leer entre líneas que solo respeta sus propias ideas firmes, no las de los demás.

Entonces, ¿es tecnofascismo?

No soy historiador ni politólogo, pero con los puntos que he leído no me parece ninguna aberración utilizar la palabra "tecnofascismo". Falta una defensa abierta del totalitarismo, pero entiendo que ningún país totalitario se crea con la premisa del totalitarismo, sino que se apoya en otras ideas, como el nacionalismo y la necesidad de hacer frente a un enemigo común, para ir instaurándolo poco a poco. Y en este caso, se le suma la idea de volcar todos los recursos al desarrollo tecnológico para preservar la hegemonía.

El libro se centra en crear un marco donde queda claro que existe un enemigo común: China y Rusia. En ensalzar la identidad nacional y en criticar a quienes han hecho que la idea que tenemos de Occidente se haya ido desmoronando. Y se mete con el enemigo en casa: el ingeniero que no está trabajando para el Estado.

Ahora, ¿deberíamos preocuparnos porque está emergiendo un movimiento fascista en las élites de Silicon Valley?

Yo creo que no, y creo que esa lectura sería un poco sensacionalista.

Detrás de este libro hay un tío bastante peculiar (ya sabemos que Alex Karp es un chico especial), pero creo que se puede hacer otra lectura: en las élites de Silicon Valley están intentando impulsar un movimiento que cambie la percepción del ciudadano con respecto a la inteligencia artificial. El objetivo primordial es evitar cualquier tipo de regulación de la IA. Ese es el verdadero problema de estas empresas, más allá de los enjambres de drones chinos.

China está trabajando unida y “sin regulación” para desarrollar estas IAs. Lo pongo entre comillas porque sí que existe regulación, pero está más orientada a mantener el control por parte del Estado, en ningún caso a frenar el desarrollo. Mientras tanto, en Estados Unidos existe el miedo a un marco regulatorio que frene el desarrollo. Ya hablamos en la newsletter de Anna's Archive de cómo los chinos usaron un montón de libros y estudios pirateados para desarrollar DeepSeek. En Estados Unidos existe el concepto de copyright, que evidentemente no se está respetando en el desarrollo de la IA, pero quieren que siga siendo así. No quieren frenos, y creo que este libro forma parte de la campaña y del lobby que busca evitar esa regulación.

Hace poco salió un reportaje en Wired que exponía una trama de propaganda con influencers para expandir la idea de que las IAs chinas son peligrosas y que hay que proteger las de Estados Unidos. Según el reportaje, directivos de Palantir y OpenAI estaban financiando, a través de una entidad, promociones con influencers en Instagram, YouTube, etc. Están actuando como un lobby, no para instaurar un “tecnofascismo”, sino para protegerse de una legislación que les joda el chiringuito.

Ahí está el problema. Necesitan vía libre para desarrollar la inteligencia artificial, y para eso primero necesitan que el ciudadano piense que no hace falta regulación. Es como si quisieran allanar el camino.

Ahora, para allanar el camino, no sé si el libro de Palantir ha sido la mejor idea.

El reportaje extenso

Si quieres ahondar más en este tema, estoy trabajando en un reportaje extenso sobre Palantir. Quiero ir más allá: ver cómo se está utilizando actualmente, qué están haciendo en Anduril (empresa prácticamente hermana de Palantir), y qué pasa con Thiel y la supuesta llegada del Anticristo.

Si tú también quieres ir más a fondo, puedes suscribirte a la newsletter y acceder a reportajes exclusivos por 6,99 € al mes. Son manuscritos extensos, algunos de más de veinte páginas, donde cruzo datos y noticias de forma objetiva para llegar al fondo de estos temas.

El de Palantir saldrá el domingo que viene, pero ya puedes leer los dos anteriores: el lado oscuro de Meta y las cinco burbujas de la inteligencia artificial.

Muchas gracias por apoyar este proyecto de periodismo independiente.

Nos vemos.

LD

Traducción del tuit de Palantir

Porque nos lo preguntan mucho.

The Technological Republic, en resumen.

1. Silicon Valley tiene una deuda moral con el país que hizo posible su ascenso. La élite de ingeniería de Silicon Valley tiene la obligación afirmativa de participar en la defensa de la nación.
2. Debemos rebelarnos contra la tiranía de las apps. ¿Es el iPhone nuestro mayor logro creativo, por no decir culminante, como civilización? El objeto ha cambiado nuestras vidas, pero también puede estar limitando y restringiendo ahora nuestro sentido de lo posible.
3. El correo electrónico gratuito no es suficiente. La decadencia de una cultura o civilización, y de hecho de su clase dirigente, solo será perdonada si esa cultura es capaz de proporcionar crecimiento económico y seguridad al público.
4. Los límites del poder blando, y solo de la retórica elevada, han quedado expuestos. La capacidad de prevalecer de las sociedades libres y democráticas requiere algo más que atractivo moral. Requiere poder duro, y el poder duro en este siglo se construirá sobre software.
5. La cuestión no es si se construirán armas de IA, sino quién las construirá y con qué propósito. Nuestros adversarios no se detendrán a participar en debates teatrales sobre los méritos de desarrollar tecnologías con aplicaciones militares y de seguridad nacional críticas. Ellos procederán.
6. El servicio nacional debería ser un deber universal. Como sociedad, deberíamos considerar seriamente alejarnos de un ejército totalmente voluntario y solo combatir la próxima guerra si todos compartimos el riesgo y el coste.
7. Si un marine de Estados Unidos pide un rifle mejor, deberíamos construirlo; y lo mismo vale para el software. Como país, deberíamos ser capaces de mantener un debate sobre la idoneidad de la acción militar en el extranjero sin dejar de ser inquebrantables en nuestro compromiso con aquellos a quienes hemos pedido que se expongan al peligro.
8. Los servidores públicos no tienen por qué ser nuestros sacerdotes. Cualquier empresa que compensara a sus empleados como el gobierno federal compensa a sus servidores públicos tendría dificultades para sobrevivir.
9. Deberíamos mostrar mucha más indulgencia hacia quienes se han sometido a la vida pública. La erradicación de cualquier espacio para el perdón —el descarte de toda tolerancia hacia las complejidades y contradicciones de la psique humana— puede dejarnos con un elenco de personajes al timón del que terminaremos arrepintiéndonos.
10. La psicologización de la política moderna nos está extraviando. Quienes acuden a la arena política para nutrir su alma y su sentido del yo, quienes confían demasiado en que su vida interior encuentre expresión en personas a las que quizá nunca conozcan, quedarán decepcionados.
11. Nuestra sociedad se ha vuelto demasiado ansiosa por acelerar, y a menudo se regocija en, la caída de sus enemigos. La derrota de un oponente es un momento para hacer una pausa, no para celebrar.
12. La era atómica está acabando. Una era de disuasión, la atómica, está terminando, y una nueva era de disuasión basada en la IA está a punto de comenzar.
13. Ningún otro país en la historia del mundo ha promovido los valores progresistas más que este. Estados Unidos está lejos de ser perfecto. Pero es fácil olvidar cuánta más oportunidad existe en este país para quienes no son élites hereditarias que en cualquier otra nación del planeta.
14. El poder estadounidense ha hecho posible una paz extraordinariamente larga. Demasiados han olvidado o quizá dan por sentado que casi un siglo de alguna versión de paz ha prevalecido en el mundo sin un conflicto militar entre grandes potencias. Al menos tres generaciones —miles de millones de personas, sus hijos y ahora sus nietos— nunca han conocido una guerra mundial.
15. La castración de Alemania y Japón en la posguerra debe revertirse. El desarme de Alemania fue una sobrecorrección por la que Europa está pagando ahora un alto precio. Un compromiso similar y altamente teatral con el pacifismo japonés, si se mantiene, también amenazará con desplazar el equilibrio de poder en Asia.
16. Deberíamos aplaudir a quienes intentan construir donde el mercado no ha actuado. La cultura casi se burla del interés de Musk por las grandes narrativas, como si los multimillonarios debieran simplemente quedarse en su carril de enriquecerse a sí mismos… Cualquier curiosidad o interés genuino por el valor de lo que ha creado se descarta esencialmente, o quizá acecha bajo un desprecio apenas disimulado.
17. Silicon Valley debe desempeñar un papel en abordar el crimen violento. Muchos políticos en todo Estados Unidos se han encogido de hombros básicamente ante el crimen violento, abandonando cualquier esfuerzo serio por afrontar el problema o asumir riesgo alguno con sus electores o donantes a la hora de proponer soluciones y experimentos en lo que debería ser un intento desesperado por salvar vidas.
18. La exposición despiadada de la vida privada de las figuras públicas aleja a demasiado talento del servicio gubernamental. La arena pública —y los ataques superficiales y mezquinos contra quienes se atreven a hacer algo más que enriquecerse— se ha vuelto tan implacable que la república se queda con un elenco considerable de vasijas vacías e ineficaces, cuya ambición se podría perdonar si en su interior hubiera alguna estructura genuina de creencias.
19. La cautela en la vida pública que fomentamos sin querer es corrosiva. Quienes nunca dicen nada incorrecto a menudo no dicen mucho de nada.
20. La intolerancia generalizada hacia la creencia religiosa en ciertos círculos debe resistirse. La intolerancia de la élite hacia la creencia religiosa es quizá uno de los signos más reveladores de que su proyecto político constituye un movimiento intelectual menos abierto de lo que muchos dentro de él pretenderían.
21. Algunas culturas han producido avances vitales; otras siguen siendo disfuncionales y regresivas. Todas las culturas son ahora iguales. Están prohibidas las críticas y los juicios de valor. Sin embargo, este nuevo dogma pasa por alto el hecho de que ciertas culturas y, de hecho, subculturas… han producido maravillas. Otras han demostrado ser mediocres y, peor aún, regresivas y dañinas.
22. Debemos resistir la tentación superficial de un pluralismo vacío y hueco. En América, y más ampliamente en Occidente, hemos resistido durante el último medio siglo definir las culturas nacionales en nombre de la inclusividad. Pero ¿inclusión en qué?

Extractos del best seller número uno del New York Times La República Tecnológica: Poder Duro, creencias blandas y el futuro de Occidente, por Alexander C. Karp y Nicholas W. Zamiska.