XGBoost
XGBoost linear (eXtreme Gradient Boosting) е алгоритъм за машинно обучение, който използва градиентно усилване за изграждане на ансамбъл от дървета на решенията. XGBoost linear е вариант на XGBoost, който използва линейни модели вместо дървета на решенията.
(eXtreme Gradient Boosting) е алгоритъм за машинно обучение, който използва градиентно усилване за изграждане на ансамбъл от дървета на решенията. XGBoost linear е вариант на XGBoost, който използва линейни модели вместо дървета на решенията. XGBoost linear използва разширено внедряване на алгоритъм за усилване на градиента с линеен модел като основен модел. Алгоритмите за усилване итеративно научават слаби класификатори и след това ги добавят към окончателен силен класификатор.
XGBoost tree е друг вариант на XGBoost, който използва дървета на решенията като основни обучаеми в ансамбъла.
XGBoost Tree е усъвършенствана реализация на алгоритъм за градиентно усилване с дървовиден модел като основен модел. Алгоритмите за усилване итеративно научават слаби класификатори и след това ги добавят към окончателен силен класификатор. XGBoost Tree е много гъвкав и предоставя много параметри, които могат да бъдат непосилни за повечето потребители, така че възелът XGBoost Tree в Cloud Pak за данни разкрива основните функции и често използвани параметри.
References:
https://ncpha.government.bg/uploads/konkursi%20i%20proceduri/Avtoreferat_E.Manasiev.pdf
алгоритъм на екстремното градиентно подсилване (Extreme
Gradient Boosting, XGBoost) ,(Chen & Guestrin, 2016) – eдин от най
мощните и широко използвани ML алгоритми днес. Методът принадлежи
към семейството на т.нар. ”ensemble learning” алгоритми. Тази група алго
ритми се нарича така, защото в архитектурата си комбинира множество
по-слаби индивидиуални модели (често това е алгоритъмът “дърво на
решенията“). Посредством итеративно добавяне на по-слаби модели, от
своя страна, се нарича ”gradient boosting”. Популярността на алгоритъма
се дължи основно на неговата ефективност и ефикасност в най-различни
сфери от реалния свят. Алгоритъмът може да бъде прилаган както за
задачи, изискващи регресия, така и такива от класификационен характер,
какъвто е PD оценката.
References:
https://dlib.uni-svishtov.bg/bitstream/handle/10610/4966/c117da8024fe11db74d9508b83961471.pdf?sequence=1