Modelo para la orientación sobre trámites al ciudadano en el Distrito de Santiago de Cali
Date
2025
Authors
Journal Title
Journal ISSN
Volume Title
Publisher
Pontificia Universidad Javeriana Cali
Share
Abstract
Este proyecto aplicado aborda la problemática de la atención a consultas de orientación sobre trámites al ciudadano en el Distrito de Santiago de Cali, explorando soluciones a partir del ajuste fino de Modelos de Lenguaje Grande (LLMs) para automatizar la generación de respuestas, se entrenaron modelos cuantizados Llama 3.2 3B Instruct y Phi 3.5 Mini Instruct con conjuntos de datos extraídos de plataformas oficiales del Distrito, tambien se implementó un sistema de Generación Aumentada por Recuperación (RAG), utilizando el modelo Llama 3.2 para la generación de respuestas. Los resultados de la evaluación demostraron que, si bien los modelos ajustados mostraron un buen desempeño semántico, presentaron problemas de factualidad mientras el enfoque basado en RAG obtuvo los mejores resultados en ambos casos.
item.page.abstract.eng
This applied project addresses the issue of responding to citizen inquiries about administrative procedures in the District of Santiago de Cali, exploring solutions through fine-tuning of large language models (LLMs) to automate response generation. Quantized models Llama 3.2 3B Instruct and Phi 3.5 Mini Instruct were trained using datasets extracted from official District platforms. Additionally, a retrieval-augmented generation (RAG) system was implemented, using the Llama 3.2 model for response generation. Evaluation results showed that while the fine-tuned models performed well semantically, they presented factuality issues, whereas the RAG-based approach achieved the best results in both aspects.