Hacer que sus documentos sean realmente buscables
Toda empresa con recorrido se sienta sobre un archivo: propuestas, especificaciones, informes, procedimientos, correspondencia. El conocimiento está ahí. El problema es recuperarlo, porque la búsqueda por palabras solo encuentra documentos que contienen las palabras que uno acertó a adivinar.
Qué hace la generación aumentada por recuperación
El mecanismo es más simple que su nombre:
- Los documentos se dividen en pasajes
- Cada pasaje se convierte en una representación numérica de su significado
- La pregunta se convierte igual, y se recuperan los pasajes más cercanos
- Esos pasajes se entregan a un modelo de lenguaje, que responde usándolos
- La respuesta cita los documentos de los que procede
La consecuencia importante: las respuestas se apoyan en su material, y cada afirmación puede rastrearse hasta una fuente.
Por qué las citas son lo más importante
Un modelo sin anclaje producirá una respuesta segura, plausible y equivocada. Uno obligado a citar pasajes recuperados se puede verificar en segundos. En uso empresarial, esa verificabilidad es la diferencia entre una herramienta útil y un pasivo.
Dónde se tuercen las implementaciones
Trocear mal. Cortar documentos cada tantos caracteres parte tablas por la mitad y separa los títulos de su contenido. Trocee por estructura: secciones, cláusulas, párrafos.
Ignorar los metadatos. Fecha, autor, cliente y tipo de documento deben ser filtros. Sin ellos, un procedimiento de 2019 ya derogado compite con el vigente.
Saltarse el reordenado. Recupere veinte pasajes, reordénelos bien, pase los cinco mejores. Este único paso mejora la calidad más que cambiar de modelo.
Darle todo. Un conjunto curado de documentos vigentes y autorizados gana a un volcado del archivo completo. Basura recuperada es basura respondida.
Sin vía de retorno. El usuario debe poder marcar una respuesta mala, o nunca sabrá qué preguntas fallan.
Expectativas realistas
Responde preguntas cuya respuesta está en los documentos. No razonará sobre cincuenta ficheros para producir análisis nuevo, y sufrirá donde sus documentos se contradigan entre sí, aunque sacar a la luz esa contradicción ya tiene valor.
Empiece estrecho
Un conjunto de documentos, un equipo, un tipo de pregunta. Demuéstrelo con algo como "qué le presupuestamos a este cliente y cuándo", y después amplíe.
Construimos estos sistemas en implementación de IA.