Fine-tuning

Fine-tuning (Дообучение) — это метод трансферного обучения, при котором веса предварительно обученной нейронной сети (например, на ImageNet или Wikipedia) размораживаются и дополнительно обучаются на новых данных целевой задачи. Fine-tuning позволяет адаптировать общие знания модели под специфику конкретного домена, достигая высокой точности даже на небольших датасетах.

Что такое «Fine-tuning» простыми словами

Представьте, что вы профессиональный пианист. Если вы захотите научиться играть на аккордеоне, вам не нужно начинать с изучения нотной грамоты — вы это уже знаете. Вам нужно лишь привыкнуть к новым клавишам и мехам (Fine-tuning). В ИИ мы берем модель, которая уже «знает язык» (например, прочитала Википедию), и немного «доучиваем» её на текстах юридических договоров. Это в 100 раз быстрее и дешевле, чем учить с нуля.