Qué es RAG (Retrieval-Augmented Generation) y cuándo tu empresa realmente lo necesita

RAG en una frase

RAG (Retrieval-Augmented Generation, "generación aumentada por recuperación") es una técnica donde, antes de que un modelo de lenguaje responda algo, el sistema primero busca información relevante en una fuente propia (documentos, una base de datos, un catálogo) y se la entrega al modelo como contexto. El modelo no responde "de memoria": responde con lo que acaba de leer.

Es la diferencia entre preguntarle algo a alguien que estudió el tema hace tiempo y puede recordar mal, y preguntarle a alguien que tiene el documento correcto abierto enfrente mientras te contesta.

Por qué existe

Un modelo de lenguaje entrenado no sabe nada de tu empresa: no conoce tu catálogo de productos, tus políticas internas, ni lo que cambió la semana pasada. Tampoco es buena idea reentrenar un modelo completo cada vez que cambia un dato. RAG resuelve eso sin reentrenar nada: el conocimiento vive en tus propios documentos o base de datos, y se lo "presta" al modelo en el momento de cada pregunta.

Cuándo sí lo necesitas

• Cuando las respuestas dependen de información que cambia con frecuencia (precios, disponibilidad, inventario, políticas vigentes).
• Cuando la fuente de verdad es documentación extensa (manuales, contratos, bases de conocimiento internas) que sería imposible resumir a mano para cada pregunta posible.
• Cuando es crítico que el sistema pueda decir "no tengo esa información" en vez de inventar una respuesta que suena convincente pero es falsa.

Cuándo NO lo necesitas

RAG no es gratis: agrega piezas (una base de datos vectorial o de búsqueda, un proceso de actualización de esa información, latencia adicional por la búsqueda antes de responder). No tiene sentido si:

• La información que necesita el agente es poca y estable: a veces basta con ponerla directo en las instrucciones del sistema, sin necesidad de un componente de búsqueda aparte.
• El caso de uso no depende de datos propios en absoluto (por ejemplo, redactar o resumir texto genérico).
• Todavía no existe una fuente de datos limpia y confiable de donde recuperar información. RAG sobre datos desordenados solo produce respuestas desordenadas más rápido.

Un ejemplo real, no hipotético

El asistente de disponibilidad clínica que construimos es un buen ejemplo de este segundo punto llevado a un extremo simple: en vez de una base de datos vectorial compleja, el catálogo de medicamentos se actualiza vía un archivo CSV diario, y el modelo solo puede responder con lo que hay en ese catálogo actualizado. Nunca inventa disponibilidad. Es RAG en su forma más directa: la fuente de verdad está separada del modelo, y el modelo solo la consulta, no la memoriza.

La pregunta antes de decidir

Antes de armar cualquier arquitectura de RAG, la pregunta real es: ¿de dónde va a salir la respuesta correcta, y qué tan seguido cambia? Si esa respuesta es clara, la arquitectura correcta se vuelve obvia. Si no lo es, construir RAG primero y definir la fuente de datos después casi siempre termina en retrabajo.