Fine-tuning

Fine-tuning (ajuste fino) es tomar un modelo de lenguaje ya entrenado y seguir entrenándolo con un conjunto más chico de ejemplos propios: pares de pregunta y respuesta deseada, textos en el estilo de la empresa, clasificaciones hechas a mano. El modelo resultante conserva lo que sabía y además imita el patrón de los ejemplos. Se usa para fijar un tono, un formato de salida o una tarea repetitiva muy acotada (clasificar reclamos en 8 categorías, por ejemplo).

Suele confundirse con la forma de darle datos a un modelo, y ahí está el error más frecuente. El fine-tuning no es una buena manera de "enseñarle" los precios o el stock: esos datos cambian todos los días y el modelo ajustado los aprende borrosos. Para datos se usan herramientas de consulta o RAG; el fine-tuning queda para comportamiento. Además requiere cientos o miles de ejemplos de calidad y volver a hacerlo cada vez que cambia el modelo base.

Logística Ejemplo SRL recibe unos 400 reclamos por mes por mail y WhatsApp. Con un modelo genérico, la clasificación automática en sus 6 categorías (demora, faltante, rotura, facturación, otro, no es reclamo) acertaba 7 de cada 10. Armaron un conjunto de 1.500 reclamos históricos ya clasificados por el equipo y ajustaron el modelo: pasó a 9 de cada 10. Para el estado de cada envío, en cambio, siguen consultando el sistema: ese dato no se entrena, se busca.

Los agentes de Pulso no requieren fine-tuning sobre los datos de cada empresa: leen el sistema de gestión en el momento de la consulta, así que los precios, el stock y los saldos son siempre los actuales. El comportamiento (responder en usted, citar la fuente, no inventar) se define con instrucciones y herramientas, lo que permite cambiar de modelo base sin rehacer nada.