Random forest: Случайната гора

Random forest: Случайната гора е алгоритъм за обучение в ансамбъл, който използва множество дървета на решения за подобряване на точността на прогнозите. Всяко дърво на решенията се разделя на подмножество от данни и окончателната прогноза се основава на средната прогноза на всички дървета.

Random Forest е разширена реализация на алгоритъм за пакетиране с дървовиден модел като основен модел. В произволни гори всяко дърво в ансамбъла е изградено от извадка, изтеглена със замяна (например проба за стартиране) от набора за обучение. Когато разделяте възел по време на изграждането на дървото, избраното разделяне вече не е най-доброто разделяне сред всички функции. Вместо това, избраното разделяне е най-доброто разделение сред произволно подмножество от функции. Поради тази произволност отклонението на гората обикновено леко се увеличава (по отношение на отклонението на едно неслучайно дърво), но поради осредняването дисперсията му също намалява, обикновено компенсирайки увеличаването на отклонението, следователно добива като цяло по-добър модел

References:

https://ncpha.government.bg/uploads/konkursi%20i%20proceduri/Avtoreferat_E.Manasiev.pdf