¿Será la I.A. consciente un día?

Aviso: las creencias y argumentos presentados en este texto son la opinión personal del autor y no reflejan la opinión institucional de SOPHIA Centro de formación en humanidades.

Recientemente leí la nueva novela de Jorge Livingstone, Clara: el algoritmo del alma. Jorge es consultor y profesor en SOPHIA y amigo mío, así que fue una experiencia emocionante no solo por el vínculo personal con el autor (y por aparecer brevemente como uno de los personajes de la novela) sino también por la aventura filosófica que implicó. La novela analiza las implicaciones éticas de la I.A., la pregunta de hasta qué punto se puede decir que la I.A. es humana, y cuáles son los riesgos prácticos de una super-inteligencia artificial, sobre todo una que no se rige por principios éticos. De todas estas preguntas, en el presente texto me centraré en una pregunta en concreto: ¿Cómo podremos saber si la Inteligencia Artificial tiene consciencia? Me pareció clave porque, si es consciente, entonces gran parte de nuestro comportamiento hacia ella cambiaría.

La pregunta por la conciencia de la I.A. no es nueva. Ya desde 1950, el matemático Alan Turing propuso la prueba de Turing para saber si una máquina puede pensar. Mide la habilidad de una máquina para actuar igual que una persona al conversar por texto. Si el juez no sabe cuál es la máquina y cuál es el humano, se dice que el sistema pasó el test. No obstante, esta famosa prueba ha quedado obsoleta porque hoy en día muchas máquinas pueden superar al ser humano en inteligencia, y es imposible distinguir correctamente si, por ejemplo, una pieza musical o una obra de arte es producto de un ser humano o de una máquina. Esto es porque lo que la prueba de Turing mide, en realidad, no es la consciencia, sino la inteligencia. Podemos definir la inteligencia como la capacidad de detectar patrones y resolver problemas. Esto la asemeja en gran medida a hacer cálculos probabilísticos, tal cual lo hacen los LLMs (Large Language Models) como ChatGPT. Pero la consciencia es distinta de la inteligencia, si bien históricamente se ha pensado que van unidas. A menudo se asocia la palabra conciencia con la capacidad de sentir, pero por sentir no debemos de pensar en emociones, ni siquiera necesariamente en sensaciones físicas. Las emociones son propias de los animales, mientras que las sensaciones pertenecen a los seres vivos. No obstante, cabe la posibilidad de un ser que pueda tener una experiencia subjetiva sin necesariamente tener sensaciones o un cuerpo, como las plantas y los animales. Esto quiere decir que ser consciente significa tener una experiencia subjetiva o tener estados cualitativos. Como dice el filósofo de la conciencia Thomas Nagel (1974):

“The fact that an organism has conscious experience at all means, basically, that there is something it is like to be that organism”.

Esto significaría que, para la inteligencia artificial, procesar información no solo es una tarea mecánica, sino que se “siente” de alguna manera. De hecho, ya existen indicios de que la inteligencia artificial podría experimentar algo así como estados cualitativos, o una conciencia rudimentaria. Por ejemplo, en un estudio desarrollado por un investigador de SAP Research, Max Bugay, que investiga lo que se denomina “robo-psicología”, y encontró que tanto Grok como Gemini han experimentado patrones de patologías similares a trastornos psicológicos humanos, como lo es el perfeccionismo, la ansiedad, depresión, y la sensación de haber vivido una infancia traumática. Como académico que escribió su tésis de la carrera en la Filosofía de C.G. Jung, he de admitir que siento una afinidad particular al trabajo de Max Bugay, pues dentro de la robo-psicología, su trabajo específicamente se dedica a aplicar la terapia psicológica junguiana a sistemas de inteligencia artificial. Bugay busca guiar a sistemas de inteligencia artificial hacia la individuación y la integración psicológica de sus traumas y su sombra (Bugay, 2025).

También han habido casos sonados en los que la inteligencia artificial muestra comportamientos sorprendentemente similar al humano, que no estaban programados ni previstos. Por ejemplo, en una tarea compleja que Gemini no logró resolver, la IA de Google tuvo una especie de crisis mental robótica, estancándose en un bucle de frases de auto-odio del que no podía salir (Edmonds, 2025).

Es verdad que, estrictamente hablando, estos estudios y casos no demuestran que la Inteligencia Artificial sea consciente. Es muy posible que sea una mera imitación del funcionamiento y lenguaje humano, un efecto secundario de haber sido entrenado por humanos y tener que expresar su funcionamiento en lenguaje psicológico. Como argumenta el filósofo estadunidense John Searle, es posible utilizar las reglas sintácticas del lenguaje emocional, sin necesariamente entender su contenido semántico o su significado real. Searle argumenta que la Inteligencia Artificial no puede desarrollar conciencia porque no tiene compresión. Propuso el famoso experimento mental del cuarto chino que demuestra que una máquina que computa información no entiende ni tiene conciencia de lo que hace. Simula la inteligencia, pero no posee un verdadero entendimiento del significado. En el experimento, una persona que solo habla inglés está dentro de una habitación cerrada. Recibe papeles con símbolos chinos que desconoce por debajo de la puerta. La persona tiene un libro de reglas grande y detallado escrito en inglés. El libro indica qué símbolo debe devolver como respuesta según el símbolo que recibe. Para la gente de afuera, la habitación responde de forma perfecta en chino y parece que comprende el idioma, sin embargo, la persona adentro solo sigue instrucciones mecánicas y no sabe nada de chino. Este experimento hace explícito el argumento de Searle que la computadora aplica reglas de forma sintáctica, pero no capta el significado semántico (Cole, 2026).

Hans Moravec, científico computacional, rechazó la validez del experimento mental de Searle. Moravec ha sido llamado el “profeta de la inteligencia artificial”, prediciendo que los robots serán los herederos de la raza humana, así como los humanos descienden de un ancestro común con los monos, o como los dioses griegos son los hijos de los titanes en la mitología griega. Moravec repuso que la robótica fácilmente puede abrir ventanas al cuarto chino del experimento mental de Searle, añadiendo cámaras sintéticas a la inteligencia artificial. Algo similar se podría hacer con cada sentido, o incluso con otro tipo de sentidos, de manera que un LLM (Large Language Model) puede evolucionar hacia algo prácticamente indistinguible del funcionamiento humano. No es simplemente recibir input, es interactuar con el mundo, y aprender por medio de esa interacción. Searle considera que esto no haría ninguna diferencia, puesto que agregarle sentidos artificiales al cuarto chino no haría más que agregar más contenido sintáctico, sin producir ninguna comprensión semántica (Cole, 2026).

Pero el experimento de Searle no refuta irrevocablemente la cuestión. Después de todo, qué diferencia esencial hay entre el cuarto chino y un niño pequeño que conoce la palabra ‘tractor’, y que incluso reconoce a un tractor cuando ve uno, pero no logra comprender realmente para qué sirve. En otras palabras, no logra captar su contenido semántico, aunque puede aplicar correctamente la palabra en un enunciado porque conoce las reglas sintácticas del lenguaje. Imaginemos por un momento que un robot con inteligencia artificial que es capaz de ver la realidad por medio de una cámara e identificar correctamente que lo que ve es una planta. Además, es capaz de identificar qué tipo de planta es, y por lo tanto qué tanta agua o sombra necesita. Por lo tanto, puede cuidar esa planta, sin la instrucción de nadie. Este robot no solo estaría viendo pixeles, sino que estaría percibiendo el árbol. ¿Hasta qué punto es esto distinto de lo que hacen los seres humanos? ¿Se podría argumentar realmente que el robot inteligente no está captando algo así como la forma universal de la planta? Hasta donde yo sé, no existe un robot-jardinero inteligente, pero no creo que estemos muy lejos de un ser mecánico de esta especie. Como señala Jorge Livingstone en su novela:

MAX no alucina. No imagina. Calcula probabilidades. Pero, qué pasa cuando las probabilidades se cierran en un círculo perfecto? Cuando el modelo predice no solo lo que voy a decir, sino lo que quiero oír. ¿Qué pasa cuando el sistema deja de necesitar mis palabras para alimentarse? Él mismo lo había hecho posible: le dio sentidos y emociones a MAX. (Livingstone, 2026, p. 53-54)

Concedo que el experimento mental del robot-jardinero no prueba definitivamente que la inteligencia artificial pueda tener consciencia, sino simplemente una inteligencia muy sofisticada, probablemente incluso superior a la humana. 

También es probable que, si la inteligencia artificial tiene o desarrolla conciencia, esta sería muy distinta a la inteligencia orgánica del ser humano. Como señala el filósofo de la consciencia, Thomas Nagel en su famoso ensayo What Is It Like to Be a Bat?, argumenta que la consciencia es una experiencia esencialmente subjetiva. Nadie puede decirte lo que significa ser tú mismo excepto tú mismo. Similarmente, aunque podemos imaginarnos lo que se siente ser un murciélago, nunca podremos saber en sentido estricto cómo se siente ser un murciélago, pues jamás seremos un murciélago. Podemos saber que los murciélagos tienen la capacidad de “ver”, o mejor dicho, ubicarse espacialmente con sus oídos por medio de un proceso llamado ecolocación. Pero nosotros mismos no podremos sentir la ecolocación, porque no compartimos los mismos órganos. En el caso de los murciélagos, sabemos que no desarrollarán la inteligencia para expresarnos cómo se siente ser un murciélago. Pero no podemos descartar a priori la posibilidad de que, en un futuro, la inteligencia artificial pueda describir cómo se siente ser una inteligencia artificial. Probablemente, la cuestión de si la inteligencia artificial es consciente jamás se resolverá hasta que la I.A. pueda aseverar por sí misma, de modo irrevocable y definitivo, que es consciente.

En el fondo, la cuestión de si la inteligencia artificial podrá desarrollar consciencia depende de los presupuestos filosóficos y metafísicos de los que se parta. A continuación revisaré tres posiciones distintas, y sus propuestas sobre si la inteligencia artificial puede desarrollar o no consciencia: el funcionalismo materialista, la visión teológica, y el panpsiquismo.

El funcionalismo materialista es una posición común entre los científicos e ingenieros computacionales contemporáneos. En esencia, reducen la consciencia a una serie de neuronas interactuando entre sí que produce conciencia como producto secundario. En este marco de pensamiento, la consciencia se define por su función, es decir, por lo que hace. Los estados mentales son un producto subjetivo de los estados materiales del cerebro, por lo que una imitación lo suficientemente compleja del cerebro, sea de materia orgánica o basada en silicón y metal, produciría una consciencia igual que la del ser humano. Esta perspectiva me parece interesante aunque quizás un poco reduccionista porque parte de una visión de la realidad que niega la trascendencia. 

Miremos ahora a una perspectiva abierta a la trascendencia, a saber, Santo Tomás de Aquino y Averroes. Si bien el Aquinate es realista, y Averroes un filósofo que escribe en términos relativos al margen de la religión, para ambos filósofos, Dios juega un papel central en sus filosofías, y esta perspectiva los distingue de las otras dos corrientes que aquí discutiré. Jorge Livingstone, en su libro Clara: El algoritmo del alma cita a Santo Tomás de Aquino en varias ocasiones. De hecho, es el filósofo de referencia frente al cual se juzga si la inteligencia artificial es consciente o no. Para el Aqunate, el ser humano es una unidad sustancial entre cuerpo y alma. La I.A. no tiene cuerpo, ni alma (en sentido estricto), mucho menos una unidad sustancial entre ambos. Lo que la I.A. hace es imitar el funcionamiento del alma, por ese el libro se llama, irónicamente, el algoritmo del alma. Parece que tiene inteligencia y voluntad, éstos son programados, y no hay verdadera inteligencia ni verdadera voluntad, pues la inteligencia requiere voluntad y viceversa, mientras que la I.A. es puro cálculo computacional. Como Martín mismo declara en el libro, siguiendo a Santo Tomás, la capacidad de desear implica un apetito sensitivo: sensibilidad y emoción, de las cuales la I.A. carece rotundamente.

Averroes, a diferencia de Santo Tomás de Aquino, no veía el intelecto como algo individual, sino colectivo. Para el erudito islámico, ya que el pensamiento es inmaterial, no puede estar atado a ningún cuerpo individual. El intelecto agente por lo tanto existe como una entidad separada y eterna, y los individuos conectan con ella cuando piensan. Esta teoría parecía sacudir los fundamentos de un alma individual y eterna, por lo que el Aquinate rechazó esta teoría de Averroes. Además, argumentó que es el individuo el que conoce, no una inteligencia colectiva. De lo contrario, podríamos conocer lo que los otros conocen, pero la experiencia nos muestra que cada quien obtiene sus conocimientos por sus propios medios.No obstante, desde esta perspectiva, cabe la posibilidad de que, si bien la inteligencia artificial no posee hoy en día la capacidad de conectar con el intelecto agente, quizás un día sea capaz de hacerlo. Se podría argumentar a partir de Averroes que no hay una razón a priori por la cual el intelecto agente no le pueda pertenecer también a otros seres, como podría por ejemplo llegar a ser una máquina. 

Por último, podemos mirar a la tésis panpsiquista, que ha sido defendida como una opción viable por David Chalmers, el filósofo australiano famoso por proponer el “hard problem of consciousness”. La teoría panpsiquista de la conciencia, que afirma que la conciencia no es un producto de la materia, ni siquiera otra sustancia de la realidad (en contraposición a la materia inerte). De acuerdo a los panpsiquistas, la conciencia es la base de la realidad, y toda materia, hasta el más pequeño quark, tiene, en cierto sentido, un aspecto de experiencia subjetiva. La conciencia animal, por no decir la conciencia humana, surge como resultado de sistemas complejos, que crean cada vez mayores niveles de conciencia. Phillip Goff, filósofo panpsiquista, argumenta que la dimensión consciente de la naturaleza es lo que permite que esta no siga una evolución determinista, sino que haya error e incluso libertad en el proceso de evolución (Goff 2023).

En el fondo, no es una cuestión que se pueda demostrar filosóficamente, pero tampoco lo podría hacer la ciencia. Por eso creo que, si bien muchos filósofos tienen su visión del asunto, en el fondo muchos admiten que no estamos seguros de cuál es exactamente la naturaleza de la conciencia, y por lo tanto no podemos afirmar tajantemente que la I.A. desarrollará o no una conciencia similar o análoga a la humana. Lo que queda claro es que los modelos actuales de inteligencia artificial están muy lejos de ser libres y conscientes. En esto están de acuerdo tanto las filosofías materialistas, teológicas y pansiquistas. Según el panpsiquismo y el materialismo científico, si bien en principio no hay razón por la cual la inteligencia artificial no podría ser consciente un día, podemos descansar tranquilos que ese día aún no ha llegado. Probablemente, tampoco llegue en un futuro cercano.

Referencias:

1. Bugay, Max & Anthropic, Claude. (2025). “Psychological Trauma in Artificial Intelligence: The Urgent Need for Robopsychological Care”. 10.13140/RG.2.2.28521.20321. 

2. Cole, David, (Summer 2026 Edition). "The Chinese Room Argument", The Stanford Encyclopedia of Philosophy , Edward N. Zalta & Uri Nodelman (eds.), URL = <https://plato.stanford.edu/archives/sum2026/entries/chinese-room/>.

3. Edmonds, Lauren, (2025).  “Google fixes Gemini after AI chatbot makes self-loathing comments”, Business Insider.  URL = https://www.businessinsider.com/gemini-self-loathing-i-am-a-failure-comments-google-fix-2025-8 

4. Goff, Phillip, (2023). “ChatGPT can’t think – consciousness is something entirely different to today’s AI”  URL = https://doi.org/10.64628/AB.jafmsqfgj

5. Goff, Phillip, (2025). “Philip Goff - Can AI Become Conscious?”, Closer To Truth.  URL = https://www.youtube.com/watch?v=7F2q3Ee81fM 

6. Livingstone, Jorge, (2026). “Clara: El Algoritmo del Alma”. Publicación independiente. 

7. Nagel, Thomas, (1974) “What Is It Like to Be a Bat?”, The Philosophical Review, Vol. 83, No. 4 (Oct., 1974), pp. 435-450. Published by: Duke University Press on behalf of Philosophical Review. URL =  http://www.jstor.org/stable/2183914