Saltar al contenido principal
    Saltar al contenido principal

    RAG (generación aumentada por recuperación)

    RAG (del inglés retrieval-augmented generation, generación aumentada por recuperación) es una técnica que, antes de que un modelo de lenguaje responda, busca en tus documentos los fragmentos que vienen al caso y se los pasa junto con la pregunta. Así el modelo contesta con tu información y no solo con lo que aprendió al entrenarse.

    En la práctica

    Según el glosario de Anthropic, en RAG la información se recupera en el momento de cada consulta y llega al modelo de lenguaje dentro de su ventana de contexto, junto con la pregunta original. Sirve sobre todo cuando hace falta información actualizada, conocimiento propio de tu negocio o citar de dónde sale cada dato. El término aparece en el título de un artículo de investigación de 2020.

    Un montaje típico tiene tres pasos:

    1. Trocear. Los documentos se parten en fragmentos, normalmente de no más de unos cientos de tokens, según Anthropic. La API de recuperación de OpenAI indexa cada archivo en fragmentos de 800 tokens que se solapan 400 con el siguiente.
    2. Indexar. Un modelo de embeddings convierte cada fragmento en un vector que codifica su significado. Anthropic lo combina con BM25, una búsqueda por coincidencia de palabras que no pierde códigos ni referencias exactas.
    3. Recuperar y responder. Con cada pregunta se buscan los fragmentos más parecidos y se envían al modelo con la consulta.

    Usos en una pyme: un asistente que contesta a los propietarios con las actas y los contratos de su comunidad, un chatbot que responde con tus condiciones y tus preguntas frecuentes, o un buscador interno que encuentra una cláusula. Si los documentos son escaneos, antes hace falta OCR. Tienes ejemplos en IA para administradores de fincas y en cuánto cuesta un chatbot con IA.

    No siempre hace falta. En 2024, Anthropic explicaba que si la base de conocimiento ocupa menos de 200.000 tokens, unas 500 páginas, se puede meter entera en la petición y saltarse RAG, con la caché de instrucciones para que salga más rápido y barato.

    Límites

    • La respuesta depende de lo que se recupera. Anthropic advierte que la eficacia de RAG depende de la calidad y la pertinencia de la base de conocimiento. Documentos viejos o contradictorios dan respuestas viejas o contradictorias.
    • No elimina los errores. Pide al modelo que cite el documento del que saca cada dato y que diga "no lo encuentro" cuando no esté. Anthropic recomienda ambas técnicas y avisa de que reducen las respuestas inventadas sin eliminarlas.
    • Los documentos pueden traer órdenes. Un texto recuperado puede llevar inyección de instrucciones, y OWASP señala que RAG no la evita del todo.
    • Cada cliente, su espacio. La AEPD advierte de que usar el mismo agente para tratamientos distintos sin separar sus datos puede acabar comunicando datos de unos interesados a terceros.

    Fuentes

    Artículos que usan este término