LA IA POR DENTRO: NI MAGIA NI MENTE

⏱️ En 30 segundos: La IA de hoy no es ni magia ni mente: es una red neuronal —una función gigante hecha de pesos— que aprende ajustándolos para reducir su error, rodando cuesta abajo por un paisaje matemático. Sobre la arquitectura transformer, un LLM hace una sola cosa: predecir la siguiente palabra, una y otra vez. De ahí emerge algo que parece razonar, y de ahí mismo sale por qué «alucina»: genera lo plausible, no lo verificado, y no distingue una cosa de la otra.

El gancho: la herramienta que parece que piensa

De todas las herramientas que este taller ha visto salir, ninguna desconcierta tanto como esta. Un chip T1 es sorprendente pero honesto: hace lo que le mandas, ni más ni menos. La inteligencia artificial moderna, en cambio, escribe, resume, traduce, conversa y, sobre todo, parece entender. Y ahí está la trampa que esta pieza quiere desactivar, en las dos direcciones a la vez: ni es magia —no hay una chispa inexplicable dentro— ni es una mente —no hay nadie ahí comprendiendo lo que dice.

Lo que hay es matemática corriendo sobre esos miles de millones de interruptores del taller de al lado. Una máquina que ha visto una cantidad descomunal de texto y ha aprendido, con una precisión asombrosa, a acertar qué palabra viene después. Entender eso —sin encogerse ante el bombo ni caer en el «es solo un loro»— es la única forma de usar esta herramienta con la cabeza fría. Así que vamos por dentro.

Qué es una red neuronal: pesos y capas

Empecemos por la pieza básica. Una red neuronal artificial es, pese al nombre, algo mucho más humilde que un cerebro: es una función matemática gigante, organizada en capas de unidades llamadas neuronas. La inspiración biológica es real pero lejana; conviene tomarla como una metáfora, no como una copia.

Cada neurona hace una operación de una simplicidad casi decepcionante. Recibe varios números, multiplica cada uno por un peso —un número que dice cuánto importa esa entrada—, los suma todos, y pasa el resultado por una pequeña función que decide si «se activa» o no. Formalmente, la salida de una neurona es

$$y = f\!\left(\sum_{i} w_i\,x_i + b\right)$$

donde las $x_i$ son las entradas, los $w_i$ son los pesos, $b$ es un ajuste llamado sesgo, y $f$ es la función de activación. Nada más. Lo asombroso no es la neurona, sino el conjunto: se apilan capas y capas —la salida de una alimenta a la siguiente—, y con millones de estas operaciones encadenadas la red puede representar relaciones enormemente complejas entre lo que entra y lo que sale.

La palabra clave es pesos. Toda lo que la red «sabe» está guardado en los valores de esos pesos: son los únicos números que cambian cuando la red aprende. Un modelo grande tiene del orden de cientos de miles de millones —a veces más de un billón— de ellos. La red, en el fondo, es solo eso: una montaña de pesos y una receta fija para combinarlos.

Entrenar es ajustar pesos: el descenso de gradiente

¿Y cómo se fijan esos miles de millones de pesos? No a mano, evidentemente. Se aprenden, y el procedimiento es más terco que ingenioso. Al principio los pesos son aleatorios, así que la red responde cualquier disparate. Entrenar consiste en corregirla millones de veces con este bucle:

Se le da un ejemplo del que se conoce la respuesta correcta.
La red produce su respuesta (al principio, mala).
Se mide cuánto se ha equivocado con un número llamado función de pérdida (el error).
Se ajustan todos los pesos un poquito en la dirección que reduce ese error.
Se repite. Millones y millones de veces.

El paso 4 es el corazón, y tiene un nombre: descenso de gradiente. La imagen mental es limpia: piensa en el error como un paisaje de montañas y valles, donde cada punto es una combinación posible de pesos y la altura es lo mal que lo hace la red. Entrenar es bajar la ladera buscando el valle más hondo. El gradiente no es más que la brújula que, en cada punto, señala la dirección de máxima pendiente; el algoritmo da un pasito cuesta abajo, recalcula, y vuelve a bajar. Formalmente, cada peso se actualiza así:

$$w \leftarrow w – \eta\,\frac{\partial E}{\partial w}$$

donde $E$ es el error, $\partial E / \partial w$ dice cómo cambia el error si movemos ese peso, y $\eta$ (la tasa de aprendizaje) fija cómo de grande es el paso. Calcular ese ajuste para todos los pesos a la vez, de forma eficiente, se logra con un algoritmo llamado retropropagación (backpropagation), popularizado en 1986 por Rumelhart, Hinton y Williams: propaga el error hacia atrás por las capas, repartiendo entre cada peso su parte de culpa. No hay comprensión en ningún punto de este proceso; hay optimización. La red no «estudia»: rueda cuesta abajo por un paisaje de error hasta que acierta.

Los transformers: la arquitectura que lo cambió todo

Durante décadas las redes neuronales fueron útiles pero limitadas, sobre todo con el lenguaje, donde el orden y el contexto lo son todo (no es lo mismo «el banco del río» que «el banco del dinero»). El salto llegó en 2017, con un artículo de un equipo de Google de título hoy célebre: «Attention is All You Need» (Vaswani et al.). Presentaba una arquitectura nueva, el transformer, que es la que hay debajo de prácticamente toda la IA de lenguaje actual.

Su idea central es el mecanismo de atención. En lugar de leer el texto palabra a palabra y en orden, como hacían los modelos anteriores, un transformer mira todas las palabras a la vez y, para cada una, calcula a cuáles de las demás debe «prestar atención» para entender su papel. Al procesar «río» en «el banco del río», el mecanismo aprende a fijarse en «río» para desambiguar «banco». Multiplica eso por muchas capas y muchas «cabezas» de atención en paralelo, y obtienes una máquina que capta relaciones a larga distancia dentro del texto con una eficacia sin precedentes. Además, al procesar todo en paralelo en vez de en secuencia, encaja de maravilla con el hardware de los chips T1 y se puede entrenar a una escala gigantesca. Esa combinación —atención + paralelismo + datos masivos— es la que encendió la mecha de los últimos años.

Qué es un LLM: una máquina de predecir la siguiente palabra

Sobre esa arquitectura se construyen los LLM (large language models, grandes modelos de lenguaje), el tipo de sistema detrás de los asistentes conversacionales. Y su tarea, por debajo de toda la aparente inteligencia, es una sola y sorprendentemente simple: dado un fragmento de texto, predecir el siguiente fragmento (técnicamente, el siguiente token —una palabra o trozo de palabra).

Eso es literalmente todo lo que hace, una y otra vez. Le das «El cielo es de color…» y calcula la probabilidad de cada continuación posible: «azul» muy alta, «verde» baja, «jueves» casi nula. Elige una, la añade al texto, y repite el proceso con el texto ya alargado. Palabra a palabra, así redacta un correo, resuelve un problema o mantiene una conversación: encadenando predicciones de «qué viene después», cada una condicionada por todo lo dicho hasta ese punto. Que de una tarea tan mecánica emerja algo que parece razonamiento es genuinamente asombroso —y es, en buena parte, un fenómeno de escala: con suficientes datos, pesos y cómputo, «predecir bien la siguiente palabra» obliga al modelo a capturar gramática, hechos, estilos y patrones de argumentación, porque todo eso ayuda a acertar. Pero el mecanismo de fondo sigue siendo ese: una máquina estadística de continuar texto.

Por qué «alucina» (y por qué eso no es entender)

Aquí llegamos al punto más importante y peor entendido. Con frecuencia estos modelos «alucinan»: afirman con total aplomo cosas falsas —una fecha inventada, una cita que no existe, un dato erróneo—. Es tentador verlo como un fallo, un bug que se arreglará. Pero visto por dentro es exactamente lo que cabría esperar, y explicarlo desmonta de un plumazo el malentendido de que la máquina «sabe» cosas.

La clave es esta: un LLM no consulta una base de hechos. No tiene dentro una enciclopedia que abre para verificar. Lo único que hace es generar la continuación más plausible según los patrones estadísticos que absorbió del texto de entrenamiento. Cuando la respuesta correcta era frecuente y consistente en esos datos, lo plausible coincide con lo verdadero y acierta. Pero cuando le preguntas algo que no estaba, o mezcla fuentes, o simplemente no lo tiene bien fijado, genera igualmente la respuesta que suena como debería sonar una respuesta correcta: con el formato, el tono y la estructura de un dato real, pero sin serlo. No miente en el sentido humano, porque mentir exige saber la verdad y ocultarla. El modelo no distingue lo verdadero de lo verosímil: para él son la misma cosa, «texto que encaja bien aquí».

Y ahí está, precisamente, la frontera que da título a esta pieza. Producir texto plausible no es entender. Entender implicaría tener un modelo del mundo, saber a qué se refieren las palabras, distinguir lo que es cierto de lo que solo suena bien, darse cuenta de que no se sabe algo. El LLM no hace nada de eso: opera sobre relaciones entre símbolos, no sobre su significado. Es la vieja distinción entre manejar las palabras con soltura y comprender de qué hablan. Que a menudo acierte —y acierta muchísimo— no cambia la naturaleza de la operación; la hace más útil y, a la vez, más traicionera, porque su forma segura de hablar no varía ni cuando acierta ni cuando alucina. Por eso la regla práctica que se deduce de mirar dentro de la máquina es tan clara: es una herramienta extraordinaria para generar y transformar texto, y un verificador de hechos pésimo. Confía en ella para lo primero; comprueba siempre lo segundo.

Qué nos llevamos

La inteligencia artificial actual no es ni un truco ni una mente. Es una red neuronal —una función gigante hecha de pesos organizados en capas— que aprende ajustando esos pesos para reducir su error, a base de rodar cuesta abajo por un paisaje matemático mediante el descenso de gradiente y la retropropagación. La arquitectura transformer, con su mecanismo de atención, le permitió hacerlo a una escala colosal; y sobre ella, un LLM hace una sola cosa: predecir la siguiente palabra, una y otra vez. De esa mecánica sencilla emerge algo que parece razonar —y de la misma mecánica se sigue por qué a veces «alucina»: porque genera lo plausible, no lo verificado, y no distingue una cosa de la otra.

Ese es el regalo de mirar dentro: dejar de tratarla como un oráculo o como un fraude, y verla como lo que es —una herramienta poderosísima con un modo de fallo perfectamente comprensible—. Encaja con la lección de todo el taller el pilar de la sala: la tecnología que amplía lo posible obedece a reglas que se pueden entender, y entenderlas no le resta asombro; le quita la superstición. Ni magia ni mente: matemática a una escala que nos deja con la boca abierta, corriendo sobre los interruptores de silicio T1 que abrimos en la pieza anterior.

Fuentes

Vaswani, A. et al. (2017) — «Attention is All You Need», Advances in Neural Information Processing Systems (NeurIPS): introduce la arquitectura transformer y el mecanismo de atención.
Rumelhart, D. E., Hinton, G. E. & Williams, R. J. (1986) — «Learning representations by back-propagating errors», Nature 323: popularización de la retropropagación (descenso de gradiente en redes multicapa).
Rosenblatt, F. (1958) — el perceptrón: la neurona artificial como suma ponderada con umbral (raíz histórica de las redes).
Brown, T. et al. (2020) — «Language Models are Few-Shot Learners» (GPT-3): los LLM como predictores del siguiente token a gran escala; comportamientos emergentes con el tamaño.
Nota de rigor (alucinaciones): que un LLM genere lo plausible y no consulte hechos es consenso técnico; ver p. ej. Ji, Z. et al. (2023), «Survey of Hallucination in Natural Language Generation», ACM Computing Surveys.