Weights
Бонус за регистрацию!
новые тарифы и нейросети
Weights (Веса) — это параметры нейронной сети, которые преобразуют входные данные в скрытых слоях. Вес определяет силу связи между двумя нейронами: чем больше вес, тем большее влияние оказывает входной сигнал на результат. Процесс обучения сети сводится к настройке этих весов таким образом, чтобы минимизировать ошибку предсказания.
Что такое «Weights» простыми словами
Нейросеть — это не магия, это математика. Вся её «память» хранится в Весах (Weights). Это миллиарды чисел-коэффициентов. Обучение — это просто подкручивание этих ручек-чисел. Когда вы скачиваете обученную модель, вы скачиваете файл с весами. Если веса случайные — сеть глупая. Если веса подобраны на датасете — сеть умная. Веса — это и есть знание.
Вопросы и ответы
Коэффициенты связей между нейронами, которые настраиваются в процессе обучения.
Инициализация Xavier (Glorot) подходит для сигмоиды/tanh, He — для ReLU. Они задают веса так, чтобы дисперсия активаций не менялась от слоя к слою.
Веса обновляются при обучении по формуле градиентного спуска: $W_{new} = W_{old} - \text{learning_rate} \times \nabla Loss(W)$. Мы вычитаем из текущего веса градиент ошибки по этому весу, умноженный на шаг обучения, чтобы немного уменьшить ошибку.
