Pipeline de LLM local / proyecto independiente

LLM Local PDF

Un pipeline local en Python que convierte PDFs legales argentinos sensibles en JSON estructurado y revisable, sin subir documentos a un modelo SaaS.

Ilustración de documentos censurados junto a una computadora local con una llave de JSON encima
IlustraciónIlustración generada con IA del flujo de extracción local y revisable.

De un vistazo

Período
2026
Rol
Desarrollo de un prototipo de extracción en Python
Equipo
Proyecto de ingeniería independiente
Usuarios
Personas que revisan documentos legales argentinos sensibles
Estado
Pipeline offline funcionando; código público; código de tests automatizados
  • ModeloQwen2.5-7B
  • Runtimellama.cpp + GGUF
  • EvaluaciónGolden set a nivel de campo
  • Testscódigo de tests automatizados

Mi parte

Construí la extracción, la inferencia local con Qwen2.5-7B mediante llama.cpp, la generación de JSON estructurado, la validación de esquema, la reparación, el anclaje a la fuente, los reintentos, la evaluación y los logs de auditoría con detección de manipulaciones.

Compromiso técnico

Mantener los documentos y la inferencia en local mientras la salida probabilística del modelo se convierte en una propuesta estructurada que se puede medir, reparar y revisar.

Evidencia

Repositorio público, despliegue local documentado y código de tests automatizados. El caso no afirma adopción en producción ni precisión más allá del flujo de evaluación implementado.

01

La inferencia local es un límite del producto

El pipeline extrae el texto y ejecuta Qwen2.5-7B mediante llama.cpp en la máquina local. Los documentos y la inferencia no salen del entorno hacia un modelo alojado.

02

La salida del modelo tiene que convertirse en una propuesta válida

El LLM produce JSON estructurado, pero el flujo no confía en la primera respuesta. La reparación de JSON, la validación de esquema, el anclaje a la fuente por campo y los reintentos acotados producen un resultado revisable o un fallo explícito.

03

Fuentes de evaluación

El repositorio público incluye un script de evaluación con golden set, validación de esquema, anclaje a la fuente, reportes de revisión y tests. Estas fuentes dejan el prototipo disponible para inspección; en este caso no se afirma ninguna precisión medida ni adopción en producción.

04

Revisabilidad antes que autonomía

La salida es una propuesta para revisión humana. No es una decisión legal ni una acción externa automática. Los logs de auditoría con detección de manipulaciones preservan qué se ejecutó y cómo cambió el resultado.

05

Trabajo relacionado: OficIA

OficIA es un producto separado para revisar PDFs sensibles. Diseñé e implementé su interfaz de revisión: la cola de trabajo, el espacio de trabajo con fuente e instrucciones, la evidencia por campo y la aprobación humana antes de la publicación. Su pipeline central de extracción tiene un responsable distinto.