"ChatGPT sabe más que cualquier persona que haya existido." Es una frase que se escucha seguido y que, dependiendo de cómo la leas, puede ser completamente verdad o completamente falsa al mismo tiempo.
Los modelos de lenguaje grandes (LLMs, por sus siglas en inglés) son sin duda las herramientas de software más impresionantes que se han construido hasta ahora. Pero también son profundamente malentendidos. Entender qué hacen realmente, y qué no hacen, marca la diferencia entre usarlos bien y frustrarse con ellos.
No "saben" cosas. Predicen palabras.
La explicación técnica honesta de un LLM es esta: es un sistema estadístico muy sofisticado que predice cuál es la siguiente palabra más probable dado un contexto.
Cuando le escribes a ChatGPT "La capital de Francia es..." el modelo no "recuerda" que la respuesta es París de la misma forma que tú recordarías algo. Lo que hace es calcular, basado en patrones aprendidos de enormes cantidades de texto, que la palabra "París" tiene una probabilidad altísima de seguir a esa frase. Y tiene razón.
La magia y el truco al mismo tiempo es que este proceso de predicción de palabras, cuando se hace con suficientes parámetros y suficientes datos, produce algo que desde afuera se parece mucho a comprensión, razonamiento y conocimiento.
El entrenamiento: aprender de todo lo que la humanidad escribió
Los LLMs se entrenan ingiriendo cantidades masivas de texto: páginas web, libros, artículos científicos, código fuente, foros, redes sociales. GPT-4, Claude, Gemini, todos pasaron por este proceso consumiendo, literalmente, una fracción significativa de todo lo que los humanos hemos escrito y publicado digitalmente.
Durante el entrenamiento, el modelo ajusta billones de parámetros numéricos (pesos) para volverse mejor en predecir la siguiente palabra. Cuando el proceso termina, esos pesos codifican, de alguna forma que los investigadores todavía no entienden completamente, el conocimiento destilado de todo lo que leyó.
Esto explica por qué los LLMs pueden hablar con autoridad sobre medicina, derecho, historia, cocina y programación. No porque tengan expertos dentro: porque procesaron los textos que esos expertos escribieron.
Por qué "alucina"
El término técnico es "alucinación" y es la mayor limitación práctica de los LLMs: a veces generan información falsa con total confianza. ¿Por qué?
Porque el modelo no "sabe" si algo es verdad. Solo sabe que esa secuencia de palabras es estadísticamente coherente y probable dado el contexto. Si le preguntas sobre un libro que no existe, puede inventar uno plausible porque ha visto miles de descripciones de libros y sabe cómo suena una.
Los modelos más recientes han mejorado enormemente en esto, pero no lo han eliminado. Por eso siempre es importante verificar datos críticos que un LLM te proporciona, especialmente en fechas, nombres específicos, estadísticas y citas.
El contexto: la memoria de corto plazo del modelo
Otra cosa que confunde a los usuarios nuevos es la "memoria" de los modelos. Un LLM solo puede ver lo que está en su ventana de contexto: el texto actual de la conversación. No recuerda conversaciones anteriores (a menos que el sistema lo implemente explícitamente), no aprende de las correcciones que le das a menos que estén en el mismo contexto, y no tiene experiencias propias.
La ventana de contexto ha crecido considerablemente: modelos recientes pueden mantener cientos de miles de tokens (aproximadamente palabras) en su contexto simultáneamente. Eso les permite trabajar con documentos largos, bases de código completas o conversaciones extensas.
¿Realmente razonan?
Esta es la pregunta filosófica del millón y los investigadores no tienen una respuesta definitiva. Lo que está claro es que los LLMs exhiben comportamientos que se parecen al razonamiento: pueden seguir instrucciones complejas, detectar contradicciones, aplicar lógica formal y resolver problemas paso a paso.
Si eso constituye "razonamiento real" o es solo una simulación muy convincente es un debate abierto. Para propósitos prácticos, la distinción importa menos que saber que el rendimiento mejora cuando les pides que piensen paso a paso (técnica conocida como chain-of-thought) en lugar de pedir una respuesta directa.
Cómo usarlos mejor
Saber cómo funcionan lleva directamente a saber cómo sacarles más provecho:
Dales contexto. Cuanto más contexto relevante incluyas en tu prompt, mejor predicción harán de lo que necesitas.
Pídeles que piensen en voz alta. "Piensa paso a paso" o "explica tu razonamiento" produce respuestas más precisas en problemas complejos.
No confíes ciegamente en datos específicos. Úsalos para razonar, estructurar y redactar. Verifica los hechos concretos que importan.
Itera. El primer resultado raramente es el mejor. Refina, corrige, pide variaciones.
Los LLMs son herramientas extraordinarias cuando se usan entendiendo qué son: motores de lenguaje increíblemente capaces, no oráculos infalibles.
En Espacio Rojo integramos modelos de lenguaje en productos reales, desde bots de atención al cliente hasta herramientas internas de procesamiento de información. Si tienes un caso de uso en mente, podemos ayudarte a evaluarlo.