/ RAG
← Todos los entrenamientos Entrenamiento 02 · C11

RAG de punta a punta

Un asistente que contesta con los documentos de una empresa y cita de dónde sacó cada respuesta, respetando los permisos de cada persona. Nada se entrena: el trabajo está en la ingestión, el índice, los permisos y medir con un golden set si la respuesta es fiel a sus fuentes. Corre completo en tu Mac, con un modelo chico local.

12 estaciones · el temario, mientras llegan sus kits
Datosestaciones 1 · 2 · 3 · 4Modeloestaciones 5 · 6 · 9APIestaciones 7 · 8Contenedorestación 10Orquestaciónestación 11Monitoreoestación 12

Qué es C11

el caso de referencia

RAG empresarial. Un asistente interno responde con los documentos de la empresa (Confluence, Drive, Jira y políticas) y cita sus fuentes, respetando los permisos de cada persona. El LLM ya existe: lo sirve la plataforma de modelos de la empresa, y el RAG es un cliente más.

≈ 1.5 Mdocumentos, cada uno con su ACL
≈ 25kpreguntas al día
≤ 2.5 sprimer token, p95
≤ 5 minpara aplicar una revocación
≈ 600preguntas en el golden set

Lo que cambia contra clasificación de imágenes

  • Nada se entrena: el trabajo es la ingestión (parsing, chunking y embeddings) y mantener el índice y los permisos al día.
  • El permiso es un filtro dentro del retrieval: un chunk que la persona no puede abrir nunca llega al prompt.
  • La respuesta pasa de milisegundos a segundos, con streaming de tokens y citas.
  • Lo que decide si un cambio sale es el golden set: cualquier cambio de chunker, embeddings, reranker, prompt o LLM pasa por el mismo gate.

En cada estación, las cuentas de servilleta van en dos escalas: «En C11» y «En el dojo».

El mapa de RAG

12 estaciones · 3 tramos

12 estaciones en 3 tramos: «Ingestión e índice», «Respuesta» y «Release y operación». La línea lleva los colores de las seis etapas de la T, y cada tramo dice a qué ritmo cambia. El lazo no es un reentrenamiento: se cierra con cambios de chunking, prompt o índice que pasan el mismo gate.

INGESTIÓN E ÍNDICE · minutosRESPUESTA · segundosRELEASE Y OPERACIÓN · días y continuo↺ nuevo índice o promptC11 · RAG EMPRESARIAL0 de 12 estaciones ya tienen dojoPasa el cursor por una estación para ver qué sale de ella1 · Conectores y parsing · sale: el texto de cada documento, guardado por su hash, con su ACLConectores y parsing12 · Chunking con contexto · sale: chunks de ≈ 400 tokens con su ruta de títulosChunking con contexto23 · Permisos en cada chunk · sale: la ACL dentro del chunk y un carril rápido para revocarPermisos en cada chunk34 · Golden set · sale: preguntas con su respuesta y sus fuentes, versionadasGolden set45 · Embeddings e índice híbrido · sale: BM25 y vectores en un índice detrás de un aliasEmbeddings e índicehíbrido56 · Retrieval y reranker · sale: el top-8 por fusión RRF y reranker, con su recall@8Retrieval yreranker67 · Un LLM local por API · sale: un modelo chico que contesta por una API compatible con OpenAIUn LLM localpor API78 · La API con citas · sale: POST /v1/ask con streaming y citas validadasLa API concitas89 · Gate de evals · sale: recall@8, faithfulness, citas y permisos al 100 %Gate de evals910 · Empaquetado (Docker) · sale: rag-api, índice y modelo en un compose probadoEmpaquetado(Docker)1011 · Índice nuevo sin cortes · sale: blue/green con shadow, cambio de alias y rollbackÍndice nuevosin cortes1112 · Monitoreo y probe de permisos · sale: alertas de ingestión, retrieval vacío y groundednessMonitoreo yprobe depermisos12

Pasa el cursor por una estación para ver qué sale de ella. Las que ya tienen dojo abren su página.

Las 12 estaciones

agrupadas en la T · temario

El temario: qué sale de cada estación y en qué etapa de la T cae. Cada una llega con su kit, sus cuatro rondas y su lugar en tu tablero, igual que las de clasificación. Todas corren en tu Mac.

Datosestaciones 1 · 2 · 3 · 4
1Conectores y parsingsale: el texto de cada documento, guardado por su hash, con su ACLMacpróximamente
2Chunking con contextosale: chunks de ≈ 400 tokens con su ruta de títulosMacpróximamente
3Permisos en cada chunksale: la ACL dentro del chunk y un carril rápido para revocarMacpróximamente
4Golden setsale: preguntas con su respuesta y sus fuentes, versionadasMacpróximamente
Modeloestaciones 5 · 6 · 9
5Embeddings e índice híbridosale: BM25 y vectores en un índice detrás de un aliasMacpróximamente
6Retrieval y rerankersale: el top-8 por fusión RRF y reranker, con su recall@8Macpróximamente
9Gate de evalssale: recall@8, faithfulness, citas y permisos al 100 %Macpróximamente
APIestaciones 7 · 8
7Un LLM local por APIsale: un modelo chico que contesta por una API compatible con OpenAIMacpróximamente
8La API con citassale: POST /v1/ask con streaming y citas validadasMacpróximamente
Contenedorestación 10
10Empaquetado (Docker)sale: rag-api, índice y modelo en un compose probadoMacpróximamente
Orquestaciónestación 11
11Índice nuevo sin cortessale: blue/green con shadow, cambio de alias y rollbackMacpróximamente
Monitoreoestación 12
12Monitoreo y probe de permisossale: alertas de ingestión, retrieval vacío y groundednessMacpróximamente
Datosestaciones 1 · 2 · 3 · 4Modeloestaciones 5 · 6 · 9APIestaciones 7 · 8Contenedorestación 10Orquestaciónestación 11Monitoreoestación 12
Pasa el cursor por una etapa de la lista para verla en la T.

Otros entrenamientos

el mismo método
Entrenamiento 01 · C01

Clasificación de imágenes

Un marketplace sugiere la categoría de cada foto que sube quien vende. Recorres las 12 estaciones del dato a producción: etiquetas, dataset versionado, entrenamiento, gate, serving con Triton, Docker, Kubernetes y monitoreo.

12 de 12 estaciones listasIr al entrenamiento →
¿Primera vez?

Cómo se usa el dojo

El kit, las cuatro rondas con sus prompts, el repaso y tu registro en el tablero: igual en todos los entrenamientos.

Leerlo →