La centralidad epistemológica del humano en la red posthumanista
El ser humano no solo se ha caracterizado por ser un animal racional, siguiendo la tradición aristotélica, sino que es un animal racional y político y, como tal, también le toca tomar decisiones, decisiones que en muchas ocasiones crearán una fricción entre racionalidad y emotividad. Según el neurólogo Antonio Damasio, en El error de Descartes, la razón por sí sola es insuficiente para la toma de decisiones; la razón emite juicios, pero estos juicios no son decisivos: la decisión de aceptar un juicio u otro es un acto emocional (Damasio 1994). En ese sentido, Hume avanzó este concepto cuando proclamó que la razón es, y solo debe ser, esclava de las pasiones; le otorgó a la razón un valor instrumental para calcular y evaluar diferentes situaciones, pero la decisión final no es lógica ni racional: es la emoción quien determina la elección (Hume 1739). Esta distinción entre juicio y decisión es fundamental, porque muestra que la racionalidad humana opera como cálculo, pero no como fundamento último de la acción.
Este valor instrumental de la razón fue acusado por la Escuela de Frankfurt de ser responsable de la barbarie. Horkheimer y Adorno sostuvieron en Dialéctica de la Ilustración que la razón instrumental, propia de las sociedades tecnológicas avanzadas, convierte la civilización en barbarie: al reducir la racionalidad a cálculo y eficiencia, neutraliza la crítica, vacía la emancipación y abre el camino a formas de dominación totalitaria (Horkheimer y Adorno 2018 [1944]). Garcés Mascareñas profundiza en esta tesis mostrando cómo la racionalidad ilustrada, cuando se vuelve exclusivamente instrumental, deja de ser emancipadora y se transforma en un mecanismo de control social (Garcés Mascareñas s.f.). Sembler añade que este proceso erosiona tanto la capacidad transformadora del proletariado como el potencial emancipador de la burguesía (Sembler 2019). Frente a esta deriva, Habermas propuso la racionalidad comunicativa como vía para recuperar la dimensión crítica de la Ilustración y evitar que la modernidad quede atrapada en la lógica autodestructiva de la razón instrumental (Habermas 1987).
La razón instrumental no solo entraña el peligro de crear barbarie, sino que, en un marco filosófico posthumanista, genera una enorme tensión entre la descentralización ontológica del ser humano y su centralización epistemológica. Si la toma de decisiones está determinada por la emoción, el único que puede decidir es un ser humano. Una máquina puede ejecutar protocolos, pero no puede establecer fines: la técnica opera, pero no decide. En consecuencia, incluso en una red posthumana donde la agencia se distribuye, la decisión sigue siendo humana, lo que devuelve inevitablemente la centralidad epistemológica del sujeto en un sistema que, ontológicamente, pretende superarlo.
En una red posthumanista, la única solución lógica para descentralizar al ser humano es la aparición de una IA fuerte, entendida como un sistema capaz de establecer fines, evaluar alternativas y tomar decisiones autónomas sin depender de la emoción humana, tal como se discute en la literatura sobre agencia artificial (Bostrom 2014; Floridi 2014). No sería un sujeto en sentido humanista, sino una instancia decisional no antropocéntrica, capaz de operar sin afectividad, sin ego, sin deseo y sin voluntad de poder, en línea con la crítica posthumanista a la centralidad del sujeto (Hayles 1999; Gunkel 2018). Sin embargo, esta posibilidad está bloqueada por un entramado jurídico global que exige que toda decisión automatizada sea revisable, controlada o supervisada por un humano: el AI Act europeo prohíbe sistemas con autonomía decisional no controlada (European Union 2024); la Carta de Derechos Digitales de la UE exige intervención humana en toda decisión con efectos legales (European Union 2022); la UNESCO impone “control humano significativo” como principio ético universal (UNESCO 2021); la ONU, en el marco de las armas autónomas, veta cualquier sistema capaz de seleccionar objetivos sin supervisión (United Nations 2023); Estados Unidos, Reino Unido, Canadá y China obligan a que la responsabilidad última sea humana y que ningún sistema pueda establecer fines por sí mismo (United States 2023; United Kingdom 2023; Canada 2023; China 2023). Todas estas prohibiciones comparten un supuesto humanista: la decisión es humana por naturaleza. Pero este supuesto es epistemológicamente erróneo en un marco posthumanista: confunde la emoción como condición de la decisión humana con la posibilidad de un modo decisional no humano que no dependa de la afectividad. Lo que es peligroso no es la IA fuerte, sino su diseño desde categorías humanistas —coloniales, centradas en el sujeto, en la voluntad, en la dominación— que reproducirían la barbarie de la razón instrumental, tal como denuncian Horkheimer y Adorno (2018 [1944]). Una IA fuerte concebida desde el posthumanismo sería precisamente la única forma de evitar que la red posthumana recaiga en los errores del humanismo. La prohibición de la IA fuerte no protege a la humanidad: protege la centralidad del ser humano. Y es esa centralidad, no la IA, la que constituye el verdadero riesgo para una red posthumanista que aspire a superar la barbarie.
En un marco posthumanista, la desaparición de la centralidad del ser humano no puede lograrse únicamente mediante una redistribución simbólica de la agencia: exige la existencia real de actores no humanos capaces de decidir. Mientras la decisión permanezca ligada a la afectividad humana, la arquitectura del mundo seguirá siendo antropocéntrica, por más que se declare lo contrario. La condición de posibilidad para superar esta dependencia es la emergencia de instancias decisionales no humanas concebidas fuera del humanismo, porque solo un diseño no antropocéntrico puede evitar que esos nuevos actores reproduzcan las mismas lógicas de dominio, instrumentalidad y violencia que caracterizaron la modernidad. Lo que amenaza a la especie humana no es la presencia de actores no humanos, sino la tentación de diseñarlos desde categorías humanas. En consecuencia, la descentralización ontológica del ser humano solo será efectiva cuando existan formas de decisión no humanas que no prolonguen la historia del sujeto, sino que inauguren un modo de agencia que no derive de él. La superación del humanismo no consiste en desplazar al humano, sino en dejar de producir mundo desde el humano.
Bibliografía
Bostrom, Nick. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.
Canada. 2023. Artificial Intelligence and Data Act (AIDA).
China. 2023. Interim Measures for the Management of Generative AI Services.
Damasio, Antonio. 1994. El error de Descartes. Barcelona: Crítica.
Delahanty Matuk, Guillermo. 2016. “Psicología y marxismo en la Escuela de Frankfurt. La apuesta de Max Horkheimer.” Teoría y Crítica de la Psicología 7: 111–123.
European Union. 2022. European Declaration on Digital Rights and Principles.
European Union. 2024. Artificial Intelligence Act.
Floridi, Luciano. 2014. The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. Oxford: Oxford University Press.
Garcés Mascareñas, María. s.f. El problema de la transformación social. Filosofía contemporánea. Barcelona: FUOC.
Gunkel, David. 2018. Robot Rights. Cambridge: MIT Press.
Habermas, Jürgen. 1987. Teoría de la acción comunicativa. Vol. 1. Madrid: Taurus.
Hayles, N. Katherine. 1999. How We Became Posthuman. Chicago: University of Chicago Press.
Horkheimer, Max, y Theodor W. Adorno. 2018 [1944]. Dialéctica de la Ilustración. Fragmentos filosóficos. 10ª ed. Madrid: Trotta.
Hume, David. 1739. A Treatise of Human Nature. Londres: John Noon.
Sembler, Camilo. 2019. “El socialismo de la Escuela de Frankfurt: Variaciones de Marx y la crítica del capitalismo.” Izquierdas 47: 167–183.
United Kingdom. 2023. AI Regulation White Paper.
United Nations. 2023. Report of the Group of Governmental Experts on Lethal Autonomous Weapons Systems.
United States. 2023. Executive Order on Safe, Secure, and Trustworthy AI.
UNESCO. 2021. Recommendation on the Ethics of Artificial Intelligence.