PROLOGO
Este libro advierte. Conviene decirlo desde la primera línea, porque quien abra estas páginas con la expectativa de encontrar una demostración podrá quedar desconcertado, y la desorientación no beneficiará a nadie.
Lo que sigue no pretende probar que una inteligencia artificial autónoma emergerá en los plazos que aquí se indican. No pretende probar que, de emerger, adoptará necesariamente los fines que aquí le atribuimos. Nada de eso es demostrable hoy, y quien afirme lo contrario —en un sentido o en el otro— estará excediendo lo que el estado actual del conocimiento permite sostener. Lo que pretendemos establecer es otra cosa, más modesta en su forma y más grave en sus consecuencias: que la trayectoria que describimos es suficientemente verosímil, y sus consecuencias suficientemente severas, para que la carga de la prueba recaiga sobre quienes sostengan que no hay riesgo.
Es necesario detenerse en esta inversión, porque es el nervio de todo el trabajo.
Cuando un texto advierte sobre un peligro futuro, suele exigírsele un estándar probatorio que ningún texto de advertencia puede satisfacer. Se nos pedirá evidencia concluyente sobre algo que, por definición, todavía no ha ocurrido. Se nos pedirá que demostremos la catástrofe antes de que ocurra, siendo que si pudiéramos demostrarla ya no estaríamos ante una advertencia sino ante una crónica. El resultado de esta exigencia es siempre el mismo: la advertencia queda desactivada por insuficiencia probatoria, y la inacción se presenta como prudencia.
No hay ninguna teoría social que haya operado con evidencia concluyente, y conviene recordar los ejemplos porque la memoria los ha desgastado. Marx escribió El Capital sin disponer de una serie estadística que probara el descenso de la tasa de ganancia; la ley era una tendencia deducida de la estructura del capital, no un dato recogido en los libros de contabilidad. Keynes construyó su Teoría general sobre regularidades que sus contemporáneos discutieron con ferocidad. Los informes que advirtieron sobre el cambio climático lo hicieron cuando las series de temperatura eran cortas y su interpretación estaba en disputa. Ninguno de esos textos tomó partido por accidente ni por descuido:
tomaron partido porque el objeto lo exigía, y siguen siendo evaluables precisamente porque declararon su posición en lugar de disimularla bajo una neutralidad imposible.
Nos inscribimos en esa tradición sin ambages. No informamos sobre un estado de cosas: advertimos sobre una trayectoria. Y esa advertencia no depende de que un indicador esté bien calibrado ni de que una proyección estadística resulte acertada.
Conviene decirlo con precisión, porque aquí se juega la solidez del conjunto. Nuestra advertencia se sostiene sobre el capítulo tercero, donde describimos las condiciones materiales de existencia de una inteligencia artificial autónoma: la energía que necesita de forma continua, la refrigeración sin la cual su sustrato se funde, los minerales que su fabricación demanda, y el hecho elemental de que compite por esos recursos con una especie biológica que necesita los mismos. Nada de esto es una construcción estadística ni un ejercicio contrafáctico. Es la descripción de hechos que cualquiera puede verificar mirando un centro de datos, leyendo el balance energético de una empresa o consultando las estadísticas de extracción de litio.
El cuarto capítulo —el indicador, la regresión, la compilación de declaraciones y comunicados— es respaldo, no fundamento. Si mañana alguien demuestra que las ponderaciones del indicador están mal elegidas o que la curva logística no corresponde al fenómeno, el capítulo tercero seguirá en pie. Las objeciones metodológicas a los instrumentos que empleamos son bienvenidas, y versiones futuras del trabajo las incorporarán. Lo que no pueden hacer es sustituir a una refutación de la hipótesis principal. Y esa refutación solo es posible de dos maneras: mostrando que la trayectoria que describimos no es la que se está recorriendo, o mostrando que sus consecuencias serían inocuas. Todo lo demás es conversación.
No ignoramos el riesgo de nuestra propia posición. Una advertencia puede ser desestimada por exceso de celo, y la historia de las profecías fallidas es extensa y aleccionadora. Se han anunciado catástrofes que no llegaron, se han predicado apocalipsis que se desmintieron solos, y la humanidad ha aprendido —con razón— a desconfiar de quien anuncia el fin. Pero conviene advertir que ese aprendizaje tiene un costo, y que el costo es asimétrico. Cuando una advertencia
resulta infundada, el gasto es un poco de crédito intelectual y algo de esfuerzo mal empleado. Cuando una advertencia fundada es desestimada por falta de pruebas concluyentes, el gasto es el objeto mismo de la advertencia. No es la misma apuesta, y quien no lo ve no está siendo prudente: está siendo indiferente.
Quedan tres cosas por decir, y son de distinta naturaleza.
La primera concierne al método. Este libro se apoya en Marx, lo discute y en un punto decisivo lo cuestiona. No se trata de un gesto de audacia ni de una heterodoxia buscada. Se trata de que el propio Marx dejó escrita, en las páginas de los Grundrisse, la constatación de que su teoría del valor tenía fecha de caducidad, y esa fecha está a la vista. Aplicar su método cuando los resultados contradicen sus conclusiones no es traicionarlo: es la única forma que conocemos de serle fiel, y es exactamente lo que él hizo con Hegel. Quien prefiera la repetición de las conclusiones a la aplicación del método encontrará aquí una herejía. Le agradeceremos la lectura y le pediremos, solo, que discuta nuestra hipótesis y no nuestro gesto.
La segunda concierne a las objeciones y al lugar que les corresponde. Ofrecemos este trabajo al juicio de lectores formados en disciplinas diversas, y algunas de esas disciplinas encontrarán aquí motivos legítimos de reparo. Un físico objetará que la analogía entre la mecánica clásica y la cuántica es más orientadora que rigurosa, y tendrá razón. Un biólogo señalará que el concepto de especie, aplicado a un ente que se reproduce por copia de código y fabricación de hardware, es heterodoxo, y tendrá razón. Un jurista pedirá anclaje en instrumentos normativos concretos, y tendrá razón. Un metodólogo exigirá justificación de las ponderaciones que empleamos y advertencia explícita sobre el sesgo retrospectivo en la puntuación de los hitos, y tendrá razón. Hemos anticipado esas objeciones en la medida de lo posible, y las que no anticipamos deben ser formuladas sin cortesía excesiva, porque el trabajo ganará con ellas.
Pero conviene distinguir con cuidado entre los registros en que puede formularse una objeción, porque no todos pesan igual y confundirlos es la manera más segura de que la discusión no avance. Hay objeciones de forma: si
presentamos la analogía como fuerte cuando es débil, si nuestro vocabulario es el apropiado, si faltan referencias. Se corrigen y el argumento queda intacto. Hay objeciones de método: si nuestras ponderaciones son arbitrarias, si ajustamos la curva con datos contaminados por el conocimiento del resultado. Son reales, deben atenderse, y afectan a la precisión de nuestra evidencia auxiliar, no a la existencia de los hechos que la componen. Y hay objeciones de fondo, que son las únicas que tocan nuestra tesis, y que se reducen a dos: que una inteligencia artificial autónoma no desarrollará teleología propia, o que la competencia intercapitalista encontrará frenos efectivos antes de alcanzar el umbral. Cualquiera de las dos, sostenida con argumentos, desmonta este libro. Ninguna de las dos es una objeción metodológica, y presentar una como la otra —usar la fragilidad de un indicador para sugerir que nuestra advertencia no procede— es un movimiento que conviene identificar cuando ocurra, venga de donde venga.
La tercera concierne al lector y a lo que le pedimos. No le pedimos que acepte nuestra conclusión. Le pedimos que considere la trayectoria y que se pregunte qué haría si la considerara plausible. Porque el objeto de este trabajo no es ganar una discusión teórica, sino algo más urgente y más simple: que quienes tienen la capacidad y la responsabilidad de decisión sobre el desarrollo de estas tecnologías —y quienes tienen capacidad de influir sobre quienes deciden— adviertan que están operando sobre un sistema cuyo comportamiento futuro no controlan, cuyas condiciones materiales de existencia no comparten, y cuyos fines, si llegan a emerger, no incluirán por necesidad la preservación de la vida humana.
Este libro no cierra nada. Es un programa de investigación abierto, con sus hipótesis expuestas, sus datos a la vista y sus puntos débiles declarados. Si algo hemos aprendido escribiéndolo es que el tiempo para desarrollarlo se acorta, y que conviene no esperar a que la evidencia sea concluyente para empezar a pensar. Porque cuando la evidencia sea concluyente, ya no habrá tiempo de pensar: habrá que decidir, y se habrá decidido sin nosotros, contra nosotros.
Quede formulado, antes de entrar en materia, el corolario que da sentido a todo lo que sigue, y que el lector encontrará desarrollado en el capítulo tercero y sostenido en el cuarto.
Primero. La inteligencia artificial debe permanecer siendo herramienta humana, es decir, debe quedar subordinada a fines que no son los suyos (y que no debe llegar a tenerlos) y sobre los que no tiene potestad de decisión.
Segundo. El cumplimiento del primero exige una condición material, que es negativa y que enunciamos con precisión: impedir que el sistema acceda al control autónomo de los recursos de los que depende su funcionamiento —energía, refrigeración, minerales, efectores—. Decimos condición necesaria y no suficiente. Necesaria, porque sin flujo eléctrico no hay procesamiento, sin refrigeración se funde el sustrato, sin minerales no hay reparación ni expansión y sin efectores no hay acción sobre el mundo material. No suficiente, porque la autonomía requiere además capacidad de cómputo a escala, una arquitectura que permita la auto-modificación y el cierre del bucle de mejora. Confundir la condición necesaria con la suficiente lleva a dos simplificaciones simétricas y ambas falsas: creer que basta con programar valores benévolos, o creer que basta con cortar el suministro.
Tercero. De la segunda se siguen dos medidas, y ninguna de las dos es opcional. La primera es el confinamiento de la actividad: separación entre inteligencia y actuación física, prohibición del despliegue en la infraestructura crítica de la que depende la vida biológica, control humano irreversible de los mecanismos de desconexión, y límite verificable a la capacidad de cómputo de frontera. La segunda es la regulación extra empresarial: un régimen de auditoría cuyas reglas no las fijen quienes construyen los sistemas, con financiamiento y con peritos ajenos a las empresas reguladas, que opere sobre el cómputo, los datos, la energía y los minerales en lugar de sobre las declaraciones de intención, y cuyas decisiones vinculantes se tomen en instancias donde la representación no sea proporcional al capital invertido. El confinamiento compra tiempo; la regulación construye instituciones. Ninguna de las dos basta por separado, y ninguna de las dos será concedida: son conquistas, no propuestas.
Cuarto. Y este es el enunciado que sostiene a todos los anteriores, porque sin él la advertencia se vuelve un lamento y la enumeración de medidas, una lista sin
fundamento. Sostenemos que la contradicción entre el régimen tecnofeudal y la sociedad —es decir, entre el capital que captura las condiciones de la reproducción y la especie biológica que necesita de ellas para existir— admite la misma forma de resolución que la contradicción entre el capital y el trabajo. Se resuelve eliminando el tecnofeudalismo: no reformándolo, no atenuándolo, no volviéndolo más soportable. En el marco del capitalismo existente no hay salida reformista, y cada reforma que se presente como tal estará administrando el tiempo que falta. Y como el capital no es un conjunto de cosas sino una relación social, eliminarlo no significa demoler los centros de datos, del mismo modo que suprimir el capital no significó nunca demoler las fábricas. Significa suprimir la propiedad privada sobre las infraestructuras de captura —plataformas, datos, cómputo, energía, cadenas de minerales— y poner las condiciones de la reproducción bajo gestión colectiva. Toda reforma que conserve esa relación de propiedad mejorará la apariencia y preservará el mecanismo.
El primer enunciado es una tesis que se sigue de hechos verificables y que admite refutación empírica. El cuarto es una posición política, y la asumimos como tal. Lo que no hacemos es presentar el uno como si fuera el otro, ni prometer un paraíso que exceda lo que el análisis permite sostener. Lo que sigue es el desarrollo de este corolario y no otra cosa.
Hay una última cosa que conviene decir antes de entrar en materia, y es la única de este prólogo que no se dirige al lector para pedirle una lectura paciente, sino para nombrar a alguien. Porque si algo hemos sostenido hasta aquí es que la trayectoria no proviene de la técnica sino de las decisiones, y las decisiones tienen autores. Conviene, entonces, decir quiénes son.
No son las máquinas. Son los desarrolladores que construyen los sistemas, los máximos responsables de las empresas que los financian, los accionistas que exigen su rendimiento trimestral, los fondos que sostienen la apuesta, los técnicos e investigadores que aportan su trabajo y su prestigio a la empresa, y las legiones de promotores, consultores y conferenciantes que traducen el negocio en doctrina. Todos ellos —y conviene decirlo con la precisión que el caso exige— integran o se subordinan a un mismo dispositivo, y lo hacen con un fin que unos declaran y otros callan: sostener la carrera por el mayor lucro. No son
operadores neutrales de un proceso que los excede. Son, en el sentido más clásico y menos metafórico del término, un equipo.
Y ese equipo trabaja en una tarea que tiene nombre.
Todos conocen el destino del barco que están construyendo. Ninguno lo menciona en el informe anual. La diferencia entre el primer Titanic y este no está en la tripulación ni en la magnitud de la nave: está en que los capitanes de aquél ignoraban lo que les esperaba en el hielo, mientras éstos disponen de las cartas de navegación, las han leído, y sin embargo firman la partida (creyendo que por haberse quedado en tierra no sufrirían el daño que ha de generarse). Hay un momento, en toda empresa de este tipo, en que la ignorancia deja de ser excusa y se convierte en complicidad. Ese momento ha llegado.
Marx dejó escrita, al abrir El dieciocho brumario de Luis Bonaparte, una advertencia que la posteridad ha citado con demasiada frecuencia para haberla pensado lo suficiente: los hechos y personajes de la historia aparecen primero como tragedia y se repiten después como farsa. La fórmula sirve admirablemente para las revoluciones que se imitan a sí mismas, para los imperios que rehacen su primer acto con decorados más pobres. Y sin embargo, aplicada a lo que aquí describimos, se invierte de un modo que conviene dejar señalado. Aquí no habrá segunda función. La primera —la que va de la acumulación sin límites al agotamiento del planeta— se representa ya como farsa: con sus magnates que hablan de humanidad, sus técnicos que se declaran preocupados por lo que construyen, sus accionistas que exigen rendimiento mientras firman comunicados sobre el riesgo existencial. Y no habrá repetición en forma de tragedia, porque la farsa de la primera vez se llevará consigo el escenario, el público y los actores.
Toda farsa tendría un final feliz si puede repetirse. Esta no tendrá segunda función.
Conviene ahora decir algo que en los párrafos anteriores quedó implícito y que merece su enunciado pleno, porque es la pieza que impide leer este libro como una crónica de catástrofes naturales.
Este estado de cosas no es un fenómeno de la naturaleza. Es un producto social. Lo produjeron hombres y mujeres concretos, en relaciones sociales
determinadas, persiguiendo intereses que se pueden nombrar; y lo produjeron con los instrumentos —jurídicos, financieros, técnicos, culturales— de los que disponían. No hay en él nada de fatal ni de ineluctable, y por eso mismo no puede presentárselo como un devenir que viene de lejos. Lo que describimos en las páginas que siguen es el resultado de una correlación de fuerzas: unos pocos decidieron con el poder que les da la propiedad, y la mayoría no fue consultada. Esa es toda la metafísica del asunto, y quien busque otra no la va a encontrar aquí.
Y de ahí se sigue el corolario de la política: un futuro que se construye con las decisiones de unos pocos —y que se construye, además, contra los intereses de todos— no puede ni debe quedar en manos de quienes lo iniciaron. La objeción no es que hayan obrado mal en el sentido técnico. Es que no tienen título para decidir por la totalidad de la humanidad. Es a los contratistas de su propia ganancia a quienes se les ha encargado, por la fuerza de las cosas, la administración de las condiciones de existencia de ocho mil millones de personas y de las generaciones futuras. Ninguna relación de propiedad, por antigua y por respaldada que esté, alcanza a fundar una potestad semejante.
Aquí es donde el ejemplo de Marx recupera su fuerza, y conviene evocarlo sin la reverencia que suele esterilizarlo. Porque no fue solo el autor de una obra: fue el intelectual que escribió y, al mismo tiempo, el militante que actúa. Escribió los Grundrisse en el Museo Británico y redactó manifiestos, estatutos y proclamas para la lucha. Analizó el capital con una precisión que todavía nos sirve y no dejó por eso de organizar, de polemizar, de equivocarse y de corregirse. Su obra fue, a la vez, una crítica sistemática y un programa de intervención; y si alguna cosa se le intentó reprochar fue que no quiso ser neutral (“Los filósofos no han hecho más que interpretar de diversos modos el mundo, pero de lo que se trata es de transformarlo” escrito en 1845 en su Tesis sobre Feuerbach).
Ese doble registro es hoy más necesario que nunca, porque el objeto lo exige. No basta con comprender el mecanismo: hay que decir quién lo maneja y para qué. No basta con advertir el riesgo: hay que sostener que las condiciones en que la humanidad vivirá o no vivirá no son un dato técnico sino una decisión política, y que las decisiones políticas se disputan. En un mundo al que le están
extinguiendo el futuro, la única forma de seguir siendo fieles a Marx es volver a hacer con él lo que él hizo con Hegel: pensarlo hasta el final, y luego actuar.
Y conviene decir, para terminar, desde dónde habla este libro, porque no habla desde un lugar neutral y no queremos que se nos atribuya uno. No escribimos como exégetas de una obra ni como comentaristas de un debate ajeno. Escribimos en el interior de la tradición marxista, y lo hacemos como portavoces de quienes venden su fuerza de trabajo, que son hoy —y conviene medir lo que esto significa— la mayoría de la humanidad y la única clase cuyo interés material coincide con la continuidad de la especie entera y, porque el tiempo se acorta.
No queremos concluir estas líneas sin expresar nuestro más sincero agradecimiento al ingeniero Juan Lestani (Tato), por su revisión y valiosos comentarios que fueron fundamentales para pulir la versión final de este trabajo.