AdaBoost

Эвристика — на каждой итерации построения ансамбля сильнее штрафуем за объекты, на которых ошибся ансамбль с предыдущей итерации и слабее штрафуем за объекты, на которых прошлый ансамбль не ошибся.
Вывод на формулах:
тут по сути математическое предложение реализации эвристики.
Можно ли построить AdaBoost с другими лоссами? Тут уже нужен Gradient Boosting, а AdaBoost работает конкретно на экспоненциальной функции потерь