XGBoost

XGBoost linear (eXtreme Gradient Boosting) е алгоритъм за машинно обучение, който използва градиентно усилване за изграждане на ансамбъл от дървета на решенията. XGBoost linear е вариант на XGBoost, който използва линейни модели вместо дървета на решенията.

(eXtreme Gradient Boosting) е алгоритъм за машинно обучение, който използва градиентно усилване за изграждане на ансамбъл от дървета на решенията. XGBoost linear е вариант на XGBoost, който използва линейни модели вместо дървета на решенията. XGBoost linear използва разширено внедряване на алгоритъм за усилване на градиента с линеен модел като основен модел. Алгоритмите за усилване итеративно научават слаби класификатори и след това ги добавят към окончателен силен класификатор.

XGBoost tree е друг вариант на XGBoost, който използва дървета на решенията като основни обучаеми в ансамбъла.

XGBoost Tree е усъвършенствана реализация на алгоритъм за градиентно усилване с дървовиден модел като основен модел. Алгоритмите за усилване итеративно научават слаби класификатори и след това ги добавят към окончателен силен класификатор. XGBoost Tree е много гъвкав и предоставя много параметри, които могат да бъдат непосилни за повечето потребители, така че възелът XGBoost Tree в Cloud Pak за данни разкрива основните функции и често използвани параметри.

References:

https://ncpha.government.bg/uploads/konkursi%20i%20proceduri/Avtoreferat_E.Manasiev.pdf

алгоритъм на екстремното градиентно подсилване (Extreme

Gradient Boosting, XGBoost) ,(Chen & Guestrin, 2016) –  eдин от най

мощните и широко използвани ML алгоритми днес. Методът принадлежи

към семейството на т.нар. ”ensemble learning” алгоритми. Тази група алго

ритми се нарича така, защото в архитектурата си комбинира множество

по-слаби индивидиуални модели (често това е алгоритъмът “дърво на

решенията“). Посредством итеративно добавяне на по-слаби модели, от

своя страна, се нарича ”gradient boosting”. Популярността на алгоритъма

се дължи основно на неговата ефективност и ефикасност в най-различни

сфери от реалния свят. Алгоритъмът може да бъде прилаган както за

задачи, изискващи регресия, така и такива от класификационен характер,

какъвто е PD оценката.  

References:

https://dlib.uni-svishtov.bg/bitstream/handle/10610/4966/c117da8024fe11db74d9508b83961471.pdf?sequence=1