Хиперпараметри

хиперпараметри – в машинното самообучение има т. нар. хипер

параметри. Това са настройки на конкретния алгоритъм, които не сe

“научават” от самите данни и които определят поведението и колко

сложна да бъде архитектурата на модела. Тоест, дори при използването на

един и същи алгоритъм (напр. XGBoost) e съвсем нормално при различни

извадки от данни да има различна архитектура и сложност на финалния

модел. До финалните стойности на хиперпараметрите се достига

посредством процес по търсене на техните най-оптимални такива. Това е

съществена и ключова стъпка от цялостния процес по прилагане на ML

алгоритми. В най-общ смисъл правилото е да се избере тази комбинация

от стойности на настройките, която води до най-добри финални резултати.

Съществуват различни подходи за търсене на оптималните стойности

(grid search, random search и други).

References:

https://dlib.uni-svishtov.bg/bitstream/handle/10610/4966/c117da8024fe11db74d9508b83961471.pdf?sequence=1