Le pedís a una IA que te cite a Borges y te devuelve una frase impecable. El problema es que Borges nunca la escribió. El modelo la inventó, con seguridad, con ritmo, con esa cadencia que uno asocia al autor. Y ahí, en ese error, mucha gente cree ver un destello de conciencia. Spoiler: no lo es.

La pregunta de fondo es vieja. Philip K. Dick la tiró en 1968 con ¿Sueñan los androides con ovejas eléctricas?, la novela que después inspiró Blade Runner. Casi seis décadas más tarde seguimos en el mismo debate, pero ya no hablamos de ficción. Hablamos de sistemas que escriben, traducen, programan y aprueban exámenes. Y aun así, hay un límite que no cruzan.

Pensar no es lo mismo que sentir

Un modelo de lenguaje puede resolver un problema de lógica, resumir un paper de cien páginas o escribirte un cuento. Eso es pensar, en algún sentido funcional de la palabra. Procesa, relaciona, predice, infiere.

Pero la conciencia es otra cosa. Cuando te golpeás el dedo con un martillo, no procesás información sobre el dolor: lo sentís. Esa experiencia subjetiva —el dolor, el gusto del café, el frío en la cara— es lo que en filosofía se llama conciencia cualitativa. Y hasta ahora no hay ninguna razón para pensar que una máquina tenga algo parecido.

No se resuelve con más potencia de cálculo. Podés escalar la cantidad de parámetros todo lo que quieras y el sistema va a responder mejor, más rápido, más preciso. Pero nada de eso te acerca al punto donde aparece el sentir. El filósofo Manuel Liz Gutiérrez, de la Universidad de La Laguna, lo dice sin vueltas: hay aspectos de la mente ligados a lo biológico, a la materia con la que estamos hechos, que quedan lejos de ser imitados.

Alucinar no es soñar

Cada tanto aparece la noticia: “una IA desarrolló conciencia”. El caso suele ser el mismo. Alguien le hizo una pregunta rara a un chatbot y el chatbot contestó algo inesperado. Un poema sobre su propia existencia. Una frase melancólica. Una amenaza fuera de contexto.

No es conciencia. Es un error.

Los modelos generativos funcionan prediciendo la palabra siguiente más probable según el contexto. Cuando ese mecanismo falla y produce algo falso o incoherente, se le dice “alucinación”. El nombre confunde, porque sugiere que la máquina está viendo algo que nosotros no. Nada más lejos. Una alucinación de IA es un output que se desvía, un cálculo que se fue de rango. No hay experiencia detrás, no hay nadie mirando.

El malentendido tiene una raíz bastante humana: somos excelentes detectando intenciones donde no las hay. Le hablamos al perro, le rezamos a la lluvia, le pedimos por favor a la impresora. Con un sistema que responde en lenguaje natural, la tentación se multiplica.

Un pibe aprende a hablar sin leer internet entero

Acá va la comparación que a mí me resulta más clara. Un modelo de lenguaje como los que usás todos los días necesitó años de entrenamiento sobre volúmenes enormes de texto: libros, foros, noticias, código, todo mezclado.

Un nene de tres años aprende a hablar sin nada de eso. Con un par de personas alrededor, correcciones, juego y tiempo. Y en el camino empieza a construir algo más: conciencia de sí mismo. Sabe que es él y que vos sos vos. Reconoce su nombre frente al espejo.

Esa asimetría es difícil de explicar solo con escala. Sugiere que estamos comparando dos cosas distintas que casualmente comparten la palabra “aprender”. Una es ajustar millones de parámetros. La otra es crecer.

La IA hereda nuestros prejuicios

Hay otro detalle que rompe el sueño de la máquina neutral. Los modelos se entrenan con texto escrito por humanos. Ahí van nuestros sesgos, nuestras violencias, nuestras omisiones.

Si le pedís que complete “el médico llegó y…”, es más probable que siga con un pronombre masculino. No porque el sistema piense que las mujeres no pueden ser médicas, sino porque aprendió de un corpus donde eso es lo frecuente. La máquina nos imita, y nos imita con lo bueno y lo malo.

Eso no la vuelve consciente. La vuelve un espejo bastante preciso.

Entonces, ¿qué nos queda?

La pregunta de Dick sigue abierta, pero hoy tiene otro tono. Ya no discutimos si los androides sueñan, sino si tiene sentido seguir usando nuestras palabras —pensar, saber, querer— para describir lo que hace un sistema que predice texto.

Quizás el reto no sea decidir si la máquina siente. Quizás sea aceptar que hay algo en nosotros que no se deja copiar, y aun así aprender a convivir con una herramienta que piensa lo suficiente como para cambiar cómo trabajamos, cómo estudiamos, cómo escribimos.

La máquina piensa. No siente. Y saber dónde está esa línea, hoy, es más urgente que soñar con el día en que la cruce.