Как дообучить LLM: Пошаговое руководство

В данной статье я расскажу, как дообучить языковую модель (LLM) под ваши специфические нужды. Мы сосредоточимся на открытой модели Qwen2.5-0.5B, целью которой будет улучшение извлечения информации из текста в формате JSON по заданной схеме. Сначала я дам краткий обзор этапов обучения языковых моделей, а затем перейду к практическим шагам: подготовке данных, настройке LoRA, обучению модели в Google Colab и оценке метрик производительности до и после дообучения. Также мы проверим, насколько хорошо модель сохраняет свои предыдущие знания. В обсуждении будут приведены фрагменты кода на Python для иллюстрации процесса.